resampler: limit max number of taps
authorWim Taymans <wtaymans@redhat.com>
Fri, 24 Oct 2014 13:42:31 +0000 (15:42 +0200)
committerWim Taymans <wtaymans@redhat.com>
Wed, 29 Oct 2014 15:26:10 +0000 (16:26 +0100)
Don't use more taps than the input size.

gst-libs/gst/video/resampler.c

index 73e2bf9..4c82f25 100644 (file)
@@ -257,7 +257,6 @@ gst_resampler_init (GstResampler * resampler,
 
   resampler->in_size = in_size;
   resampler->out_size = out_size;
-  resampler->max_taps = n_taps;
   resampler->n_phases = n_phases;
 
   params.method = method;
@@ -311,6 +310,12 @@ gst_resampler_init (GstResampler * resampler,
     default:
       break;
   }
+
+  if (n_taps > in_size)
+    n_taps = in_size;
+
+  resampler->max_taps = n_taps;
+
   resampler_calculate_taps (&params);
 
 #if 0