Ignore:
Timestamp:
Feb 1, 2013, 12:30:44 AM (9 years ago)
Author:
sam
Message:

color: slightly tweak the RGB to HSV and HSL conversions for
improved numerical stability on i386.

File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/test/unit/color.cpp

    r2218 r2307  
    8585            LOLUNIT_ASSERT_DOUBLES_EQUAL(d1, d2, 0.0001);
    8686            LOLUNIT_ASSERT_DOUBLES_EQUAL(d2, d3, 0.0001);
     87            LOLUNIT_UNSET_CONTEXT();
    8788        }
    8889    }
     
    9596        {
    9697            vec3 v1 = vec3(r / 20.f, g / 20.f, b / 20.f);
    97             vec3 v2 = Color::HSVToRGB(Color::RGBToHSV(v1));
     98            vec3 v2 = Color::RGBToHSV(v1);
     99            vec3 v3 = Color::HSVToRGB(v2);
    98100
    99             LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.r, v2.r, 0.0001);
    100             LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.g, v2.g, 0.0001);
    101             LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.b, v2.b, 0.0001);
     101            String rgb = String::Printf("[%f %f %f]", v1.r, v1.g, v1.b);
     102            LOLUNIT_SET_CONTEXT(&rgb[0]);
     103
     104            if (r != g || g != b)
     105                LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.r, v3.r, 0.0001);
     106            LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.g, v3.g, 0.0001);
     107            LOLUNIT_ASSERT_DOUBLES_EQUAL(v1.b, v3.b, 0.0001);
     108
     109            LOLUNIT_UNSET_CONTEXT();
    102110        }
    103111    }
     
    113121            vec3 v3 = Color::HSVToHSL(Color::RGBToHSV(v1));
    114122
    115             LOLUNIT_ASSERT_DOUBLES_EQUAL(v2.x, v3.x, 0.0001);
     123            String rgb = String::Printf("[%f %f %f]", v1.r, v1.g, v1.b);
     124            LOLUNIT_SET_CONTEXT(&rgb[0]);
     125
     126            if (r != g || g != b)
     127                LOLUNIT_ASSERT_DOUBLES_EQUAL(v2.x, v3.x, 0.0001);
    116128            LOLUNIT_ASSERT_DOUBLES_EQUAL(v2.y, v3.y, 0.0001);
    117129            LOLUNIT_ASSERT_DOUBLES_EQUAL(v2.z, v3.z, 0.0001);
     130
     131            LOLUNIT_UNSET_CONTEXT();
    118132        }
    119133    }
Note: See TracChangeset for help on using the changeset viewer.