ALSA: xen-front: fix unintention integer overflow on left shifts
authorColin Ian King <colin.king@canonical.com>
Thu, 27 Jun 2019 16:58:53 +0000 (17:58 +0100)
committerTakashi Iwai <tiwai@suse.de>
Fri, 28 Jun 2019 08:41:17 +0000 (10:41 +0200)
Shifting the integer value 1 is evaluated using 32-bit
arithmetic and then used in an expression that expects a 64-bit
value, so there is potentially an integer overflow. Fix this
by using the BIT_ULL macro to perform the shift.

[ Note: as of the time being, no actual integer overflow hits because
  all values are less than 32bit, not including the extended 3-byte or
  DSD formats.  But this is the right fix for future usage, of
  course. -- tiwai ]

Addresses-Coverity: ("Unintentional integer overflow")
Signed-off-by: Colin Ian King <colin.king@canonical.com>
Signed-off-by: Takashi Iwai <tiwai@suse.de>
sound/xen/xen_snd_front_alsa.c

index b14ab51..e016319 100644 (file)
@@ -196,7 +196,7 @@ static u64 to_sndif_formats_mask(u64 alsa_formats)
        mask = 0;
        for (i = 0; i < ARRAY_SIZE(ALSA_SNDIF_FORMATS); i++)
                if (pcm_format_to_bits(ALSA_SNDIF_FORMATS[i].alsa) & alsa_formats)
-                       mask |= 1 << ALSA_SNDIF_FORMATS[i].sndif;
+                       mask |= BIT_ULL(ALSA_SNDIF_FORMATS[i].sndif);
 
        return mask;
 }
@@ -208,7 +208,7 @@ static u64 to_alsa_formats_mask(u64 sndif_formats)
 
        mask = 0;
        for (i = 0; i < ARRAY_SIZE(ALSA_SNDIF_FORMATS); i++)
-               if (1 << ALSA_SNDIF_FORMATS[i].sndif & sndif_formats)
+               if (BIT_ULL(ALSA_SNDIF_FORMATS[i].sndif) & sndif_formats)
                        mask |= pcm_format_to_bits(ALSA_SNDIF_FORMATS[i].alsa);
 
        return mask;