use VPX_NO_UNSIGNED_SHIFT_CHECK with entropy functions
authorJames Zern <jzern@google.com>
Thu, 18 Aug 2022 18:35:06 +0000 (11:35 -0700)
committerJames Zern <jzern@google.com>
Fri, 19 Aug 2022 02:12:59 +0000 (19:12 -0700)
commitb55ef982b0537b4c3d63486e55dcb8fff5fa1d78
tree559e17084b20cf631374a6e36067555373b15d6a
parent002b6b1ce05c2810cb858188b29aafe785bbc01a
use VPX_NO_UNSIGNED_SHIFT_CHECK with entropy functions

these shift values off the most significant bit as part of the process;
vp8_regular_quantize_b_sse4_1 is included here for a special case of
mask creation

quiets warnings of the form:
vp8/decoder/dboolhuff.h:81:11: runtime error: left shift of
2373679303235599696 by 3 places cannot be represented in type
'VP8_BD_VALUE' (aka 'unsigned long')

vp8/encoder/bitstream.c:257:18: runtime error: left shift of 2147493041
by 1 places cannot be represented in type 'unsigned int'

vp8/encoder/x86/quantize_sse4.c:114:18: runtime error: left shift of
4294967294 by 1 places cannot be represented in type 'unsigned int'

vp9/encoder/vp9_pickmode.c:1632:41: runtime error: left shift of
4294967295 by 1 places cannot be represented in type 'unsigned int'

Bug: b/229626362
Change-Id: Iabed118b2a094232783e5ad0e586596d874103ca
vp8/decoder/dboolhuff.h
vp8/encoder/bitstream.c
vp8/encoder/x86/quantize_sse4.c
vpx_dsp/bitwriter.h