part 2/2 of fixing Altivec-accelerated H264 luma inloop filter
authorGraham Booker <gbooker@tamu.edu>
Sun, 17 Jun 2007 09:37:13 +0000 (09:37 +0000)
committerGuillaume Poirier <gpoirier@mplayerhq.hu>
Sun, 17 Jun 2007 09:37:13 +0000 (09:37 +0000)
commit22fa38f0c85fb31cddbb0bc22a2df5953c702b95
tree451e0b76b342c3bbe98106eb729db7197aec477d
parent963eca226e395601f89ee6fd1621e529c9d965f0
part 2/2 of fixing Altivec-accelerated H264 luma inloop filter

In h264_deblock_q1, the result of the deblock needs to be kept to
be used in future deblocks, so return this value now.

Also change the sign of tc0 vector: It is really a signed value, so
treat it as such until after the >=0 check;
then, at that point, after being masked, it can be treated as unsigned.

Patch by Graham Booker % gbooker A tamu P edu%

Originally committed as revision 9349 to svn://svn.ffmpeg.org/ffmpeg/trunk
libavcodec/ppc/h264_altivec.c