u_format: Fix bit definition of UF10_MANTISSA_BITS.
authorEric Anholt <eric@anholt.net>
Tue, 25 Oct 2011 23:50:44 +0000 (16:50 -0700)
committerEric Anholt <eric@anholt.net>
Fri, 28 Oct 2011 19:09:47 +0000 (12:09 -0700)
This is only used in the code for packing to INF, and resulted in an
extra bit set that was set anyway, so it was harmless except for the
confusion caused.

Reviewed-by: Marek Olšák <maraeo@gmail.com>
Reviewed-by: Ian Romanick <ian.d.romanick@intel.com>
src/gallium/auxiliary/util/u_format_r11g11b10f.h

index 8e0572a..b1946f8 100644 (file)
@@ -37,7 +37,7 @@
 #define UF10_EXPONENT_BIAS   15
 #define UF10_EXPONENT_BITS   0x1F
 #define UF10_EXPONENT_SHIFT  5
-#define UF10_MANTISSA_BITS   0x3F
+#define UF10_MANTISSA_BITS   0x1F
 #define UF10_MANTISSA_SHIFT  (23 - UF10_EXPONENT_SHIFT)
 #define UF10_MAX_EXPONENT    (UF10_EXPONENT_BITS << UF10_EXPONENT_SHIFT)