gallivm: don't clamp reference value for shadow comparison for float formats
authorRoland Scheidegger <sroland@vmware.com>
Wed, 7 Aug 2013 18:25:38 +0000 (20:25 +0200)
committerRoland Scheidegger <sroland@vmware.com>
Thu, 8 Aug 2013 16:55:57 +0000 (18:55 +0200)
commite1590b9690cfc5c3f304b5339621129226a20f36
treec3befa5102b507a7e9fcdaca54808648bbbe47ab
parenteac57bc223dd2bf9d988b9f1ee0e126a27c98bf8
gallivm: don't clamp reference value for shadow comparison for float formats

This is wrong both for OpenGL and d3d. (In fact clamping is a side effect
of converting to depth format, so this should really do quantization too
at least in d3d10 for the comparisons to be truly correct.)

Reviewed-by: Zack Rusin <zackr@vmware.com>
src/gallium/auxiliary/gallivm/lp_bld_sample_soa.c