gallivm: fix border color with normalized texture formats
authorRoland Scheidegger <sroland@vmware.com>
Wed, 14 Aug 2013 00:13:18 +0000 (02:13 +0200)
committerRoland Scheidegger <sroland@vmware.com>
Wed, 14 Aug 2013 22:40:14 +0000 (00:40 +0200)
commitc6c55ad3e967f3d151c24795a99634b297c13fde
tree2f05d4035ec5603e9b26f970d27cce136d0e2610
parent27cedd8aecccea808a35ef297477cac5fe87e476
gallivm: fix border color with normalized texture formats

We need to put border color into texture format color space which
essentially means clamping for non-float, normalized formats (not entirely
sure if we're also meant to quantize the float but it's probably ok not to
do it thankfully).
For OpenGL we could do this easily outside generated code due to the
1:1 sampler/texture correspondence but not for d3d10 which is terrible
(as we recalculate a constant over and over again per shader invocation).
Fortunately border color should be rare enough that we don't care THAT much.

Reviewed-by: Zack Rusin <zackr@vmware.com>
src/gallium/auxiliary/gallivm/lp_bld_sample_soa.c