tests/check/elements/audioresample.c: avoid implict int ot float conversion
authorJordan Petridis <jordan@centricular.com>
Mon, 3 Aug 2020 16:53:58 +0000 (19:53 +0300)
committerJordan Petridis <jordan@centricular.com>
Tue, 4 Aug 2020 14:32:31 +0000 (17:32 +0300)
Also use doubles instead so the calculation won't overflow

Part-of: <https://gitlab.freedesktop.org/gstreamer/gst-plugins-base/-/merge_requests/773>

tests/check/elements/audioresample.c

index 793594b..d48d0fa 100644 (file)
@@ -1172,8 +1172,8 @@ FILL_BUFFER (double, sine, sin (i * 0.01));
 FILL_BUFFER (double, sine2, sin (i * 1.8));
 FILL_BUFFER (gint16, sine, (gint16) (32767 * sinf (i * 0.01f)));
 FILL_BUFFER (gint16, sine2, (gint16) (32767 * sinf (i * 1.8f)));
-FILL_BUFFER (gint32, sine, (gint32) (2147483647 * sinf (i * 0.01f)));
-FILL_BUFFER (gint32, sine2, (gint32) (2147483647 * sinf (i * 1.8f)));
+FILL_BUFFER (gint32, sine, (gint32) (2147483647.0 * sin (i * 0.01)));
+FILL_BUFFER (gint32, sine2, (gint32) (2147483647.0 * sin (i * 1.8)));
 
 static void
 run_fft_pipeline (int inrate, int outrate, int quality, int width,