Cast the return value of get_bits() to signed integer such that the subtraction
authorAlex Converse <alex.converse@gmail.com>
Thu, 18 Sep 2008 15:35:08 +0000 (15:35 +0000)
committerRobert Swain <robert.swain@gmail.com>
Thu, 18 Sep 2008 15:35:08 +0000 (15:35 +0000)
is conducted as a signed calculation.

Patch by Alex Converse (alex converse gmail com)

Originally committed as revision 15362 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/aac.c

index 12037e0..504f987 100644 (file)
@@ -979,7 +979,7 @@ static int decode_cce(AACContext * ac, GetBitContext * gb, ChannelElement * che)
     }
 
     sign = get_bits(gb, 1);
-    scale = pow(2., pow(2., get_bits(gb, 2) - 3));
+    scale = pow(2., pow(2., (int)get_bits(gb, 2) - 3));
 
     if ((ret = decode_ics(ac, sce, gb, 0, 0)))
         return ret;