Fix some signed overflow bugs
authorSøren Sandmann Pedersen <ssp@redhat.com>
Sun, 18 Dec 2011 13:16:45 +0000 (08:16 -0500)
committerSøren Sandmann Pedersen <ssp@redhat.com>
Mon, 9 Jan 2012 10:40:33 +0000 (05:40 -0500)
commit4f3fe9c9096b2261217c2d4beb7d5eb8e578ed76
treeb7e1e73df3269c16d872d057c902dcdcd74c5955
parent3e93bba3b04b42c2ab99d828dae12c18f29bcf7d
Fix some signed overflow bugs

In the macros for the PDF blend modes, two comp1_t variables are
multiplied together and then used as if the result were a
comp4_t. When comp1_t is a uint8_t, this is fine because they are
promoted to int, and the product of two uint8_ts fits in an
int. However, when comp1_t is uint16, the product does not necessarily
fit in an int, so casts are necessary.

Fix for bug 43906, reported by Siarhei Siamashka.
pixman/pixman-combine.c.template
test/blitters-test.c