Changeset 2307 for trunk/src


Ignore:
Timestamp:
Feb 1, 2013, 12:30:44 AM (8 years ago)
Author:
sam
Message:

color: slightly tweak the RGB to HSV and HSL conversions for
improved numerical stability on i386.

File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/src/lol/image/color.h

    r2271 r2307  
    8989        float K = 0.f;
    9090
    91         if (src.b - src.g > 1e-20f)
     91        if (src.g < src.b)
    9292            src = src.rbg, K = -1.f;
    9393
    94         if (src.g - src.r > 1e-20f)
     94        if (src.r < src.g)
    9595            src = src.grb, K = -2.f / 6.f - K;
    9696
    9797        float chroma = src.r - min(src.g, src.b);
    98         return vec3(abs(K + (src.g - src.b) / (6.f * chroma + 1e-20f)),
     98        /* XXX: we use min() here because numerical stability is not
     99         * guaranteed with -ffast-math, I’ve seen it fail on i386. */
     100        return vec3(min(abs(K + (src.g - src.b) / (6.f * chroma)), 1.f),
    99101                    chroma / (src.r + 1e-20f),
    100102                    src.r);
     
    113115        float K = 0.f;
    114116
    115         /* FIXME: this appears to be needed for numerical stability on
    116          * i386 hardware using -ffast-math. Otherwise if (src.g < src.b)
    117          * would suffice. */
    118         if (src.b - src.g > 1e-20f)
     117        if (src.g < src.b)
    119118            src = src.rbg, K = -1.f;
    120119
    121         if (src.g - src.r > 1e-20f)
     120        if (src.r < src.g)
    122121            src = src.grb, K = -2.f / 6.f - K;
    123122
    124123        float chroma = src.r - min(src.g, src.b);
    125124        float luma = src.r + min(src.g, src.b);
    126         return vec3(abs(K + (src.g - src.b) / (6.f * chroma + 1e-20f)),
    127                     chroma / (min(luma, 2.f - luma) + 1e-20f),
    128                     0.5f * luma);
     125        float h = min(abs(K + (src.g - src.b) / (6.f * chroma)), 1.f);
     126        float s = clamp(chroma / (min(luma, 2.f - luma)), 0.f, 1.f);
     127        return vec3(h, s, 0.5f * luma);
    129128    }
    130129
Note: See TracChangeset for help on using the changeset viewer.