audioconvert: enhance transforming caps
[platform/upstream/gstreamer.git] / gst / audioconvert / audioconvert.c
1 /* GStreamer
2  * Copyright (C) 2005 Wim Taymans <wim at fluendo dot com>
3  *
4  * audioconvert.c: Convert audio to different audio formats automatically
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Library General Public
8  * License as published by the Free Software Foundation; either
9  * version 2 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Library General Public License for more details.
15  *
16  * You should have received a copy of the GNU Library General Public
17  * License along with this library; if not, write to the
18  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
19  * Boston, MA 02111-1307, USA.
20  */
21
22 #ifdef HAVE_CONFIG_H
23 #include "config.h"
24 #endif
25
26 #include <math.h>
27 #include <string.h>
28
29 #include "gstchannelmix.h"
30 #include "gstaudioquantize.h"
31 #include "audioconvert.h"
32 #include "gstaudioconvertorc.h"
33
34 #if G_BYTE_ORDER == G_LITTLE_ENDIAN
35 #define audio_convert_orc_unpack_u16_le audio_convert_orc_unpack_u16
36 #define audio_convert_orc_unpack_u16_be audio_convert_orc_unpack_u16_swap
37 #define audio_convert_orc_unpack_s16_le audio_convert_orc_unpack_s16
38 #define audio_convert_orc_unpack_s16_be audio_convert_orc_unpack_s16_swap
39 #define audio_convert_orc_unpack_u32_le audio_convert_orc_unpack_u32
40 #define audio_convert_orc_unpack_u32_be audio_convert_orc_unpack_u32_swap
41 #define audio_convert_orc_unpack_s32_le audio_convert_orc_unpack_s32
42 #define audio_convert_orc_unpack_s32_be audio_convert_orc_unpack_s32_swap
43 #define audio_convert_orc_unpack_float_le audio_convert_orc_unpack_float_s32
44 #define audio_convert_orc_unpack_float_be audio_convert_orc_unpack_float_s32_swap
45 #define audio_convert_orc_unpack_double_le audio_convert_orc_unpack_double_s32
46 #define audio_convert_orc_unpack_double_be audio_convert_orc_unpack_double_s32_swap
47 #define audio_convert_orc_unpack_float_hq_le audio_convert_orc_unpack_float_double
48 #define audio_convert_orc_unpack_float_hq_be audio_convert_orc_unpack_float_double_swap
49 #define audio_convert_orc_unpack_double_hq_le audio_convert_orc_unpack_double_double
50 #define audio_convert_orc_unpack_double_hq_be audio_convert_orc_unpack_double_double_swap
51 #define audio_convert_orc_unpack_u8_float audio_convert_orc_unpack_u8_double
52 #define audio_convert_orc_unpack_u16_le_float audio_convert_orc_unpack_u16_double
53 #define audio_convert_orc_unpack_u16_be_float audio_convert_orc_unpack_u16_double_swap
54 #define audio_convert_orc_unpack_u32_le_float audio_convert_orc_unpack_u32_double
55 #define audio_convert_orc_unpack_u32_be_float audio_convert_orc_unpack_u32_double_swap
56 #define audio_convert_orc_unpack_s8_float audio_convert_orc_unpack_s8_double
57 #define audio_convert_orc_unpack_s16_le_float audio_convert_orc_unpack_s16_double
58 #define audio_convert_orc_unpack_s16_be_float audio_convert_orc_unpack_s16_double_swap
59 #define audio_convert_orc_unpack_s32_le_float audio_convert_orc_unpack_s32_double
60 #define audio_convert_orc_unpack_s32_be_float audio_convert_orc_unpack_s32_double_swap
61 #define audio_convert_orc_pack_u8 audio_convert_orc_pack_u8
62 #define audio_convert_orc_pack_u16_le audio_convert_orc_pack_u16
63 #define audio_convert_orc_pack_u16_be audio_convert_orc_pack_u16_swap
64 #define audio_convert_orc_pack_s16_le audio_convert_orc_pack_s16
65 #define audio_convert_orc_pack_s16_be audio_convert_orc_pack_s16_swap
66 #define audio_convert_orc_pack_u32_le audio_convert_orc_pack_u32
67 #define audio_convert_orc_pack_u32_be audio_convert_orc_pack_u32_swap
68 #define audio_convert_orc_pack_s32_le audio_convert_orc_pack_s32
69 #define audio_convert_orc_pack_s32_be audio_convert_orc_pack_s32_swap
70 #define audio_convert_orc_pack_float_le audio_convert_orc_pack_s32_float
71 #define audio_convert_orc_pack_float_be audio_convert_orc_pack_s32_float_swap
72 #define audio_convert_orc_pack_double_le audio_convert_orc_pack_s32_double
73 #define audio_convert_orc_pack_double_be audio_convert_orc_pack_s32_double_swap
74 #define audio_convert_orc_pack_float_hq_le audio_convert_orc_pack_double_float
75 #define audio_convert_orc_pack_float_hq_be audio_convert_orc_pack_double_float_swap
76 #define audio_convert_orc_pack_s8_float audio_convert_orc_pack_double_s8
77 #define audio_convert_orc_pack_s16_le_float audio_convert_orc_pack_double_s16
78 #define audio_convert_orc_pack_s16_be_float audio_convert_orc_pack_double_s16_swap
79 #define audio_convert_orc_pack_s32_le_float audio_convert_orc_pack_double_s32
80 #define audio_convert_orc_pack_s32_be_float audio_convert_orc_pack_double_s32_swap
81 #define audio_convert_orc_pack_u8_float audio_convert_orc_pack_double_u8
82 #define audio_convert_orc_pack_u16_le_float audio_convert_orc_pack_double_u16
83 #define audio_convert_orc_pack_u16_be_float audio_convert_orc_pack_double_u16_swap
84 #define audio_convert_orc_pack_u32_le_float audio_convert_orc_pack_double_u32
85 #define audio_convert_orc_pack_u32_be_float audio_convert_orc_pack_double_u32_swap
86 #else
87 #define audio_convert_orc_unpack_u16_be audio_convert_orc_unpack_u16
88 #define audio_convert_orc_unpack_u16_le audio_convert_orc_unpack_u16_swap
89 #define audio_convert_orc_unpack_s16_be audio_convert_orc_unpack_s16
90 #define audio_convert_orc_unpack_s16_le audio_convert_orc_unpack_s16_swap
91 #define audio_convert_orc_unpack_u32_be audio_convert_orc_unpack_u32
92 #define audio_convert_orc_unpack_u32_le audio_convert_orc_unpack_u32_swap
93 #define audio_convert_orc_unpack_s32_be audio_convert_orc_unpack_s32
94 #define audio_convert_orc_unpack_s32_le audio_convert_orc_unpack_s32_swap
95 #define audio_convert_orc_unpack_float_be audio_convert_orc_unpack_float_s32
96 #define audio_convert_orc_unpack_float_le audio_convert_orc_unpack_float_s32_swap
97 #define audio_convert_orc_unpack_double_be audio_convert_orc_unpack_double_s32
98 #define audio_convert_orc_unpack_double_le audio_convert_orc_unpack_double_s32_swap
99 #define audio_convert_orc_unpack_float_hq_be audio_convert_orc_unpack_float_double
100 #define audio_convert_orc_unpack_float_hq_le audio_convert_orc_unpack_float_double_swap
101 #define audio_convert_orc_unpack_double_hq_be audio_convert_orc_unpack_double_double
102 #define audio_convert_orc_unpack_double_hq_le audio_convert_orc_unpack_double_double_swap
103 #define audio_convert_orc_unpack_u8_float audio_convert_orc_unpack_u8_double
104 #define audio_convert_orc_unpack_u16_be_float audio_convert_orc_unpack_u16_double
105 #define audio_convert_orc_unpack_u16_le_float audio_convert_orc_unpack_u16_double_swap
106 #define audio_convert_orc_unpack_u32_be_float audio_convert_orc_unpack_u32_double
107 #define audio_convert_orc_unpack_u32_le_float audio_convert_orc_unpack_u32_double_swap
108 #define audio_convert_orc_unpack_s8_float audio_convert_orc_unpack_s8_double
109 #define audio_convert_orc_unpack_s16_be_float audio_convert_orc_unpack_s16_double
110 #define audio_convert_orc_unpack_s16_le_float audio_convert_orc_unpack_s16_double_swap
111 #define audio_convert_orc_unpack_s32_be_float audio_convert_orc_unpack_s32_double
112 #define audio_convert_orc_unpack_s32_le_float audio_convert_orc_unpack_s32_double_swap
113 #define audio_convert_orc_pack_u8 audio_convert_orc_pack_u8
114 #define audio_convert_orc_pack_u16_be audio_convert_orc_pack_u16
115 #define audio_convert_orc_pack_u16_le audio_convert_orc_pack_u16_swap
116 #define audio_convert_orc_pack_s16_be audio_convert_orc_pack_s16
117 #define audio_convert_orc_pack_s16_le audio_convert_orc_pack_s16_swap
118 #define audio_convert_orc_pack_u32_be audio_convert_orc_pack_u32
119 #define audio_convert_orc_pack_u32_le audio_convert_orc_pack_u32_swap
120 #define audio_convert_orc_pack_s32_be audio_convert_orc_pack_s32
121 #define audio_convert_orc_pack_s32_le audio_convert_orc_pack_s32_swap
122 #define audio_convert_orc_pack_float_be audio_convert_orc_pack_s32_float
123 #define audio_convert_orc_pack_float_le audio_convert_orc_pack_s32_float_swap
124 #define audio_convert_orc_pack_double_be audio_convert_orc_pack_s32_double
125 #define audio_convert_orc_pack_double_le audio_convert_orc_pack_s32_double_swap
126 #define audio_convert_orc_pack_float_hq_be audio_convert_orc_pack_double_float
127 #define audio_convert_orc_pack_float_hq_le audio_convert_orc_pack_double_float_swap
128 #define audio_convert_orc_pack_s8_float audio_convert_orc_pack_double_s8
129 #define audio_convert_orc_pack_s16_be_float audio_convert_orc_pack_double_s16
130 #define audio_convert_orc_pack_s16_le_float audio_convert_orc_pack_double_s16_swap
131 #define audio_convert_orc_pack_s32_be_float audio_convert_orc_pack_double_s32
132 #define audio_convert_orc_pack_s32_le_float audio_convert_orc_pack_double_s32_swap
133 #define audio_convert_orc_pack_u8_float audio_convert_orc_pack_double_u8
134 #define audio_convert_orc_pack_u16_be_float audio_convert_orc_pack_double_u16
135 #define audio_convert_orc_pack_u16_le_float audio_convert_orc_pack_double_u16_swap
136 #define audio_convert_orc_pack_u32_be_float audio_convert_orc_pack_double_u32
137 #define audio_convert_orc_pack_u32_le_float audio_convert_orc_pack_double_u32_swap
138 #endif
139
140 /* sign bit in the intermediate format */
141 #define SIGNED  (1U<<31)
142
143 /*** 
144  * unpack code
145  */
146 #define MAKE_UNPACK_FUNC_NAME(name)                                     \
147 audio_convert_unpack_##name
148 #define MAKE_ORC_UNPACK_FUNC_NAME(name)                                 \
149 audio_convert_orc_unpack_##name
150
151 /* unpack from integer to signed integer 32 */
152 #define MAKE_UNPACK_FUNC_II(name, stride, sign, READ_FUNC)              \
153 static void                                                             \
154 MAKE_UNPACK_FUNC_NAME (name) (guint8 *src, gint32 *dst,                 \
155         gint scale, gint count)                                         \
156 {                                                                       \
157   for (;count; count--) {                                               \
158     *dst++ = (((gint32) READ_FUNC (src)) << scale) ^ (sign);            \
159     src+=stride;                                                        \
160   }                                                                     \
161 }
162
163 /* unpack from integer to signed integer 32 with orc */
164 #define MAKE_UNPACK_FUNC_ORC_II(name, stride, sign, READ_FUNC)             \
165 static void                                                             \
166 MAKE_UNPACK_FUNC_NAME (name) (guint8 *src, gint32 *dst,                 \
167         gint scale, gint count)                                         \
168 {                                                                       \
169   MAKE_ORC_UNPACK_FUNC_NAME (name) (dst, src, scale, count);            \
170 }
171
172 /* unpack from float to signed integer 32 */
173 #define MAKE_UNPACK_FUNC_FI(name, type, READ_FUNC)                            \
174 static void                                                                   \
175 MAKE_UNPACK_FUNC_NAME (name) (type * src, gint32 * dst, gint s, gint count)   \
176 {                                                                             \
177   gdouble temp;                                                               \
178                                                                               \
179   for (; count; count--) {                                                    \
180     /* blow up to 32 bit */                                                   \
181     temp = floor ((READ_FUNC (*src++) * 2147483647.0) + 0.5);                 \
182     *dst++ = (gint32) CLAMP (temp, G_MININT32, G_MAXINT32);                   \
183   }                                                                           \
184 }
185
186 /* unpack from float to signed integer 32 with orc */
187 #define MAKE_UNPACK_FUNC_ORC_FI(name, type, READ_FUNC)                        \
188 static void                                                                   \
189 MAKE_UNPACK_FUNC_NAME (name) (type * src, gint32 * dst, gint s, gint count)   \
190 {                                                                             \
191   MAKE_ORC_UNPACK_FUNC_NAME (name) ((guint32 *) dst, src, count);                         \
192 }
193
194 /* unpack from float to float 64 (double) */
195 #define MAKE_UNPACK_FUNC_FF(name, type, FUNC)                                 \
196 static void                                                                   \
197 MAKE_UNPACK_FUNC_NAME (name) (type * src, gdouble * dst, gint s,              \
198     gint count)                                                               \
199 {                                                                             \
200   for (; count; count--)                                                      \
201     *dst++ = (gdouble) FUNC (*src++);                                         \
202 }
203
204 /* unpack from float to float 64 (double) with orc */
205 #define MAKE_UNPACK_FUNC_ORC_FF(name, type, FUNC)                                 \
206 static void                                                                   \
207 MAKE_UNPACK_FUNC_NAME (name) (type * src, gdouble * dst, gint s,              \
208     gint count)                                                               \
209 {                                                                             \
210   MAKE_ORC_UNPACK_FUNC_NAME (name) ((gdouble *) dst, src, count);             \
211 }
212
213 /* unpack from int to float 64 (double) */
214 #define MAKE_UNPACK_FUNC_IF(name, stride, sign, READ_FUNC)                    \
215 static void                                                                   \
216 MAKE_UNPACK_FUNC_NAME (name) (guint8 * src, gdouble * dst, gint scale,        \
217     gint count)                                                               \
218 {                                                                             \
219   gdouble tmp;                                                                \
220   for (; count; count--) {                                                    \
221     tmp = (gdouble) ((((gint32) READ_FUNC (src)) << scale) ^ (sign));         \
222     *dst++ = tmp * (1.0 / 2147483647.0);                                      \
223     src += stride;                                                            \
224   }                                                                           \
225 }
226
227 #define MAKE_UNPACK_FUNC_ORC_IF(name, stride, sign, READ_FUNC)          \
228 static void                                                             \
229 MAKE_UNPACK_FUNC_NAME (name) (guint8 *src, gdouble *dst,                \
230         gint scale, gint count)                                         \
231 {                                                                       \
232   MAKE_ORC_UNPACK_FUNC_NAME (name) (dst, src, scale, count);            \
233 }
234
235 #define READ8(p)          GST_READ_UINT8(p)
236 #define READ16_FROM_LE(p) GST_READ_UINT16_LE (p)
237 #define READ16_FROM_BE(p) GST_READ_UINT16_BE (p)
238 #define READ24_FROM_LE(p) (p[0] | (p[1] << 8) | (p[2] << 16))
239 #define READ24_FROM_BE(p) (p[2] | (p[1] << 8) | (p[0] << 16))
240 #define READ32_FROM_LE(p) GST_READ_UINT32_LE (p)
241 #define READ32_FROM_BE(p) GST_READ_UINT32_BE (p)
242
243
244
245 MAKE_UNPACK_FUNC_ORC_II (u8, 1, SIGNED, READ8);
246 MAKE_UNPACK_FUNC_ORC_II (s8, 1, 0, READ8);
247 MAKE_UNPACK_FUNC_ORC_II (u16_le, 2, SIGNED, READ16_FROM_LE);
248 MAKE_UNPACK_FUNC_ORC_II (s16_le, 2, 0, READ16_FROM_LE);
249 MAKE_UNPACK_FUNC_ORC_II (u16_be, 2, SIGNED, READ16_FROM_BE);
250 MAKE_UNPACK_FUNC_ORC_II (s16_be, 2, 0, READ16_FROM_BE);
251 MAKE_UNPACK_FUNC_II (u24_le, 3, SIGNED, READ24_FROM_LE);
252 MAKE_UNPACK_FUNC_II (s24_le, 3, 0, READ24_FROM_LE);
253 MAKE_UNPACK_FUNC_II (u24_be, 3, SIGNED, READ24_FROM_BE);
254 MAKE_UNPACK_FUNC_II (s24_be, 3, 0, READ24_FROM_BE);
255 MAKE_UNPACK_FUNC_ORC_II (u32_le, 4, SIGNED, READ32_FROM_LE);
256 MAKE_UNPACK_FUNC_ORC_II (s32_le, 4, 0, READ32_FROM_LE);
257 MAKE_UNPACK_FUNC_ORC_II (u32_be, 4, SIGNED, READ32_FROM_BE);
258 MAKE_UNPACK_FUNC_ORC_II (s32_be, 4, 0, READ32_FROM_BE);
259 MAKE_UNPACK_FUNC_ORC_FI (float_le, gfloat, GFLOAT_FROM_LE);
260 MAKE_UNPACK_FUNC_ORC_FI (float_be, gfloat, GFLOAT_FROM_BE);
261 MAKE_UNPACK_FUNC_ORC_FI (double_le, gdouble, GDOUBLE_FROM_LE);
262 MAKE_UNPACK_FUNC_ORC_FI (double_be, gdouble, GDOUBLE_FROM_BE);
263 MAKE_UNPACK_FUNC_ORC_FF (float_hq_le, gfloat, GFLOAT_FROM_LE);
264 MAKE_UNPACK_FUNC_ORC_FF (float_hq_be, gfloat, GFLOAT_FROM_BE);
265 MAKE_UNPACK_FUNC_ORC_FF (double_hq_le, gdouble, GDOUBLE_FROM_LE);
266 MAKE_UNPACK_FUNC_ORC_FF (double_hq_be, gdouble, GDOUBLE_FROM_BE);
267 MAKE_UNPACK_FUNC_ORC_IF (u8_float, 1, SIGNED, READ8);
268 MAKE_UNPACK_FUNC_ORC_IF (s8_float, 1, 0, READ8);
269 MAKE_UNPACK_FUNC_ORC_IF (u16_le_float, 2, SIGNED, READ16_FROM_LE);
270 MAKE_UNPACK_FUNC_ORC_IF (s16_le_float, 2, 0, READ16_FROM_LE);
271 MAKE_UNPACK_FUNC_ORC_IF (u16_be_float, 2, SIGNED, READ16_FROM_BE);
272 MAKE_UNPACK_FUNC_ORC_IF (s16_be_float, 2, 0, READ16_FROM_BE);
273 MAKE_UNPACK_FUNC_IF (u24_le_float, 3, SIGNED, READ24_FROM_LE);
274 MAKE_UNPACK_FUNC_IF (s24_le_float, 3, 0, READ24_FROM_LE);
275 MAKE_UNPACK_FUNC_IF (u24_be_float, 3, SIGNED, READ24_FROM_BE);
276 MAKE_UNPACK_FUNC_IF (s24_be_float, 3, 0, READ24_FROM_BE);
277 MAKE_UNPACK_FUNC_ORC_IF (u32_le_float, 4, SIGNED, READ32_FROM_LE);
278 MAKE_UNPACK_FUNC_ORC_IF (s32_le_float, 4, 0, READ32_FROM_LE);
279 MAKE_UNPACK_FUNC_ORC_IF (u32_be_float, 4, SIGNED, READ32_FROM_BE);
280 MAKE_UNPACK_FUNC_ORC_IF (s32_be_float, 4, 0, READ32_FROM_BE);
281
282 /* One of the double_hq_* functions generated above is inefficient, but it's
283  * never used anyway.  The same is true for one of the s32_* functions. */
284
285 /*** 
286  * packing code
287  */
288 #define MAKE_PACK_FUNC_NAME(name)                                       \
289 audio_convert_pack_##name
290 #define MAKE_PACK_FUNC_NAME_ORC(name)                                       \
291 audio_convert_orc_pack_##name
292
293 /*
294  * These functions convert the signed 32 bit integers to the
295  * target format. For this to work the following steps are done:
296  *
297  * 1) If the output format is unsigned we will XOR the sign bit. This
298  *    will do the same as if we add 1<<31.
299  * 2) Afterwards we shift to the target depth. It's necessary to left-shift
300  *    on signed values here to get arithmetical shifting.
301  * 3) This is then written into our target array by the corresponding write
302  *    function for the target width.
303  */
304
305 /* pack from signed integer 32 to integer using Orc */
306 #define MAKE_PACK_FUNC_ORC_II(name, stride, sign, WRITE_FUNC)           \
307 static void                                                             \
308 MAKE_PACK_FUNC_NAME (name) (gint32 *src, guint8 * dst,                  \
309         gint scale, gint count)                                         \
310 {                                                                       \
311   MAKE_PACK_FUNC_NAME_ORC (name) (dst, src, scale, count);              \
312 }
313
314 /* pack from signed integer 32 to integer */
315 #define MAKE_PACK_FUNC_II(name, stride, sign, WRITE_FUNC)               \
316 static void                                                             \
317 MAKE_PACK_FUNC_NAME (name) (gint32 *src, guint8 * dst,                  \
318         gint scale, gint count)                                         \
319 {                                                                       \
320   gint32 tmp;                                                           \
321   for (;count; count--) {                                               \
322     tmp = (*src++ ^ (sign)) >> scale;                                   \
323     WRITE_FUNC (dst, tmp);                                              \
324     dst += stride;                                                      \
325   }                                                                     \
326 }
327
328 /* pack from signed integer 32 to float using orc */
329 #define MAKE_PACK_FUNC_ORC_IF(name, type, FUNC)                         \
330 static void                                                             \
331 MAKE_PACK_FUNC_NAME (name) (gint32 * src, type * dst, gint scale,       \
332     gint count)                                                         \
333 {                                                                       \
334   MAKE_PACK_FUNC_NAME_ORC (name) (dst, src, count);                     \
335 }
336
337 /* pack from signed integer 32 to float */
338 #define MAKE_PACK_FUNC_IF(name, type, FUNC)                             \
339 static void                                                             \
340 MAKE_PACK_FUNC_NAME (name) (gint32 * src, type * dst, gint scale,       \
341     gint count)                                                         \
342 {                                                                       \
343   for (; count; count--)                                                \
344     *dst++ = FUNC ((type) ((*src++) * (1.0 / 2147483647.0)));           \
345 }
346
347 /* pack from float 64 (double) to float */
348 #define MAKE_PACK_FUNC_FF(name, type, FUNC)                             \
349 static void                                                             \
350 MAKE_PACK_FUNC_NAME (name) (gdouble * src, type * dst, gint s,          \
351     gint count)                                                         \
352 {                                                                       \
353   for (; count; count--)                                                \
354     *dst++ = FUNC ((type) (*src++));                                    \
355 }
356
357 /* pack from float 64 (double) to float with orc */
358 #define MAKE_PACK_FUNC_ORC_FF(name, type, FUNC)                             \
359 static void                                                             \
360 MAKE_PACK_FUNC_NAME (name) (gdouble * src, type * dst, gint s,          \
361     gint count)                                                         \
362 {                                                                       \
363   MAKE_PACK_FUNC_NAME_ORC (name) (dst, src, count);                     \
364 }
365
366 /* pack from float 64 (double) to signed int.
367  * the floats are already in the correct range. Only a cast is needed.
368  */
369 #define MAKE_PACK_FUNC_FI_S(name, stride, WRITE_FUNC)                   \
370 static void                                                             \
371 MAKE_PACK_FUNC_NAME (name) (gdouble * src, guint8 * dst, gint scale,    \
372     gint count)                                                         \
373 {                                                                       \
374   gint32 tmp;                                                           \
375   for (; count; count--) {                                              \
376     tmp = (gint32) (*src);                                              \
377     WRITE_FUNC (dst, tmp);                                              \
378     src++;                                                              \
379     dst += stride;                                                      \
380   }                                                                     \
381 }
382
383 /* pack from float 64 (double) to unsigned int.
384  * the floats are already in the correct range. Only a cast is needed
385  * and an addition of 2^(target_depth-1) to get in the correct unsigned
386  * range. */
387 #define MAKE_PACK_FUNC_FI_U(name, stride, WRITE_FUNC)                   \
388 static void                                                             \
389 MAKE_PACK_FUNC_NAME (name) (gdouble * src, guint8 * dst, gint scale,    \
390     gint count)                                                         \
391 {                                                                       \
392   guint32 tmp;                                                          \
393   gdouble limit = (1U<<(32-scale-1));                                   \
394   for (; count; count--) {                                              \
395     tmp = (guint32) (*src + limit);                                     \
396     WRITE_FUNC (dst, tmp);                                              \
397     src++;                                                              \
398     dst += stride;                                                      \
399   }                                                                     \
400 }
401
402 /* pack from float 64 (double) to signed int with orc.
403  * the floats are already in the correct range. Only a cast is needed.
404  */
405 #define MAKE_PACK_FUNC_ORC_FI_S(name, stride, WRITE_FUNC)               \
406 static void                                                             \
407 MAKE_PACK_FUNC_NAME (name) (gdouble * src, guint8 * dst, gint scale,    \
408     gint count)                                                         \
409 {                                                                       \
410   MAKE_PACK_FUNC_NAME_ORC (name) (dst, src, scale, count);              \
411 }
412
413 /* pack from float 64 (double) to unsigned int with orc.
414  * the floats are already in the correct range. Only a cast is needed.
415  */
416 #define MAKE_PACK_FUNC_ORC_FI_U(name, stride, WRITE_FUNC)               \
417 static void                                                             \
418 MAKE_PACK_FUNC_NAME (name) (gdouble * src, guint8 * dst, gint scale,    \
419     gint count)                                                         \
420 {                                                                       \
421   MAKE_PACK_FUNC_NAME_ORC (name) (dst, src, scale, count);              \
422 }
423
424 #define WRITE8(p, v)       GST_WRITE_UINT8 (p, v)
425 #define WRITE16_TO_LE(p,v) GST_WRITE_UINT16_LE (p, (guint16)(v))
426 #define WRITE16_TO_BE(p,v) GST_WRITE_UINT16_BE (p, (guint16)(v))
427 #define WRITE24_TO_LE(p,v) p[0] = v & 0xff; p[1] = (v >> 8) & 0xff; p[2] = (v >> 16) & 0xff
428 #define WRITE24_TO_BE(p,v) p[2] = v & 0xff; p[1] = (v >> 8) & 0xff; p[0] = (v >> 16) & 0xff
429 #define WRITE32_TO_LE(p,v) GST_WRITE_UINT32_LE (p, (guint32)(v))
430 #define WRITE32_TO_BE(p,v) GST_WRITE_UINT32_BE (p, (guint32)(v))
431
432 MAKE_PACK_FUNC_ORC_II (u8, 1, SIGNED, WRITE8);
433 MAKE_PACK_FUNC_ORC_II (s8, 1, 0, WRITE8);
434 MAKE_PACK_FUNC_ORC_II (u16_le, 2, SIGNED, WRITE16_TO_LE);
435 MAKE_PACK_FUNC_ORC_II (s16_le, 2, 0, WRITE16_TO_LE);
436 MAKE_PACK_FUNC_ORC_II (u16_be, 2, SIGNED, WRITE16_TO_BE);
437 MAKE_PACK_FUNC_ORC_II (s16_be, 2, 0, WRITE16_TO_BE);
438 MAKE_PACK_FUNC_II (u24_le, 3, SIGNED, WRITE24_TO_LE);
439 MAKE_PACK_FUNC_II (s24_le, 3, 0, WRITE24_TO_LE);
440 MAKE_PACK_FUNC_II (u24_be, 3, SIGNED, WRITE24_TO_BE);
441 MAKE_PACK_FUNC_II (s24_be, 3, 0, WRITE24_TO_BE);
442 MAKE_PACK_FUNC_ORC_II (u32_le, 4, SIGNED, WRITE32_TO_LE);
443 MAKE_PACK_FUNC_ORC_II (s32_le, 4, 0, WRITE32_TO_LE);
444 MAKE_PACK_FUNC_ORC_II (u32_be, 4, SIGNED, WRITE32_TO_BE);
445 MAKE_PACK_FUNC_ORC_II (s32_be, 4, 0, WRITE32_TO_BE);
446 MAKE_PACK_FUNC_ORC_IF (float_le, gfloat, GFLOAT_TO_LE);
447 MAKE_PACK_FUNC_ORC_IF (float_be, gfloat, GFLOAT_TO_BE);
448 MAKE_PACK_FUNC_ORC_IF (double_le, gdouble, GDOUBLE_TO_LE);
449 MAKE_PACK_FUNC_ORC_IF (double_be, gdouble, GDOUBLE_TO_BE);
450 MAKE_PACK_FUNC_ORC_FF (float_hq_le, gfloat, GFLOAT_TO_LE);
451 MAKE_PACK_FUNC_ORC_FF (float_hq_be, gfloat, GFLOAT_TO_BE);
452 MAKE_PACK_FUNC_ORC_FI_U (u8_float, 1, WRITE8);
453 MAKE_PACK_FUNC_ORC_FI_S (s8_float, 1, WRITE8);
454 MAKE_PACK_FUNC_ORC_FI_U (u16_le_float, 2, WRITE16_TO_LE);
455 MAKE_PACK_FUNC_ORC_FI_S (s16_le_float, 2, WRITE16_TO_LE);
456 MAKE_PACK_FUNC_ORC_FI_U (u16_be_float, 2, WRITE16_TO_BE);
457 MAKE_PACK_FUNC_ORC_FI_S (s16_be_float, 2, WRITE16_TO_BE);
458 MAKE_PACK_FUNC_FI_U (u24_le_float, 3, WRITE24_TO_LE);
459 MAKE_PACK_FUNC_FI_S (s24_le_float, 3, WRITE24_TO_LE);
460 MAKE_PACK_FUNC_FI_U (u24_be_float, 3, WRITE24_TO_BE);
461 MAKE_PACK_FUNC_FI_S (s24_be_float, 3, WRITE24_TO_BE);
462 MAKE_PACK_FUNC_ORC_FI_U (u32_le_float, 4, WRITE32_TO_LE);
463 MAKE_PACK_FUNC_ORC_FI_S (s32_le_float, 4, WRITE32_TO_LE);
464 MAKE_PACK_FUNC_ORC_FI_U (u32_be_float, 4, WRITE32_TO_BE);
465 MAKE_PACK_FUNC_ORC_FI_S (s32_be_float, 4, WRITE32_TO_BE);
466
467 /* For double_hq, packing and unpacking is the same, so we reuse the unpacking
468  * functions here. */
469 #define audio_convert_pack_double_hq_le MAKE_UNPACK_FUNC_NAME (double_hq_le)
470 #define audio_convert_pack_double_hq_be MAKE_UNPACK_FUNC_NAME (double_hq_be)
471
472 static AudioConvertUnpack unpack_funcs[] = {
473   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u8),
474   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s8),
475   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u8),
476   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s8),
477   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u16_le),
478   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s16_le),
479   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u16_be),
480   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s16_be),
481   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u24_le),
482   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s24_le),
483   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u24_be),
484   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s24_be),
485   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u32_le),
486   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s32_le),
487   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u32_be),
488   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s32_be),
489   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (float_le),
490   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (float_be),
491   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (double_le),
492   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (double_be),
493   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (float_hq_le),
494   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (float_hq_be),
495   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (double_hq_le),
496   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (double_hq_be),
497   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u8_float),
498   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s8_float),
499   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u8_float),
500   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s8_float),
501   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u16_le_float),
502   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s16_le_float),
503   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u16_be_float),
504   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s16_be_float),
505   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u24_le_float),
506   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s24_le_float),
507   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u24_be_float),
508   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s24_be_float),
509   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u32_le_float),
510   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s32_le_float),
511   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (u32_be_float),
512   (AudioConvertUnpack) MAKE_UNPACK_FUNC_NAME (s32_be_float),
513 };
514
515 static AudioConvertPack pack_funcs[] = {
516   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u8),
517   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s8),
518   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u8),
519   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s8),
520   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u16_le),
521   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s16_le),
522   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u16_be),
523   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s16_be),
524   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u24_le),
525   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s24_le),
526   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u24_be),
527   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s24_be),
528   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u32_le),
529   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s32_le),
530   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u32_be),
531   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s32_be),
532   (AudioConvertPack) MAKE_PACK_FUNC_NAME (float_le),
533   (AudioConvertPack) MAKE_PACK_FUNC_NAME (float_be),
534   (AudioConvertPack) MAKE_PACK_FUNC_NAME (double_le),
535   (AudioConvertPack) MAKE_PACK_FUNC_NAME (double_be),
536   (AudioConvertPack) MAKE_PACK_FUNC_NAME (float_hq_le),
537   (AudioConvertPack) MAKE_PACK_FUNC_NAME (float_hq_be),
538   (AudioConvertPack) MAKE_PACK_FUNC_NAME (double_hq_le),
539   (AudioConvertPack) MAKE_PACK_FUNC_NAME (double_hq_be),
540   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u8_float),
541   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s8_float),
542   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u8_float),
543   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s8_float),
544   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u16_le_float),
545   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s16_le_float),
546   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u16_be_float),
547   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s16_be_float),
548   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u24_le_float),
549   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s24_le_float),
550   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u24_be_float),
551   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s24_be_float),
552   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u32_le_float),
553   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s32_le_float),
554   (AudioConvertPack) MAKE_PACK_FUNC_NAME (u32_be_float),
555   (AudioConvertPack) MAKE_PACK_FUNC_NAME (s32_be_float),
556 };
557
558 #define DOUBLE_INTERMEDIATE_FORMAT(ctx)                   \
559     ((!GST_AUDIO_FORMAT_INFO_IS_INTEGER (ctx->in.finfo) &&    \
560       !GST_AUDIO_FORMAT_INFO_IS_INTEGER (ctx->out.finfo)) ||  \
561      (ctx->ns != NOISE_SHAPING_NONE))
562
563 static gint
564 audio_convert_get_func_index (AudioConvertCtx * ctx,
565     const GstAudioFormatInfo * fmt)
566 {
567   gint index = 0;
568
569   if (GST_AUDIO_FORMAT_INFO_IS_INTEGER (fmt)) {
570     index += (GST_AUDIO_FORMAT_INFO_WIDTH (fmt) / 8 - 1) * 4;
571     index += GST_AUDIO_FORMAT_INFO_IS_LITTLE_ENDIAN (fmt) ? 0 : 2;
572     index += GST_AUDIO_FORMAT_INFO_IS_SIGNED (fmt) ? 1 : 0;
573     index += (ctx->ns == NOISE_SHAPING_NONE) ? 0 : 24;
574   } else {
575     /* this is float/double */
576     index = 16;
577     index += (GST_AUDIO_FORMAT_INFO_WIDTH (fmt) == 32) ? 0 : 2;
578     index += GST_AUDIO_FORMAT_INFO_IS_LITTLE_ENDIAN (fmt) ? 0 : 1;
579     index += (DOUBLE_INTERMEDIATE_FORMAT (ctx)) ? 4 : 0;
580   }
581
582   return index;
583 }
584
585 static inline gboolean
586 check_default (AudioConvertCtx * ctx, const GstAudioFormatInfo * fmt)
587 {
588   if (!DOUBLE_INTERMEDIATE_FORMAT (ctx)) {
589     return GST_AUDIO_FORMAT_INFO_FORMAT (fmt) == GST_AUDIO_FORMAT_S32;
590   } else {
591     return GST_AUDIO_FORMAT_INFO_FORMAT (fmt) == GST_AUDIO_FORMAT_F64;
592   }
593 }
594
595 gboolean
596 audio_convert_prepare_context (AudioConvertCtx * ctx, GstAudioInfo * in,
597     GstAudioInfo * out, GstAudioConvertDithering dither,
598     GstAudioConvertNoiseShaping ns)
599 {
600   gint idx_in, idx_out;
601   gint in_depth, out_depth;
602
603   g_return_val_if_fail (ctx != NULL, FALSE);
604   g_return_val_if_fail (in != NULL, FALSE);
605   g_return_val_if_fail (out != NULL, FALSE);
606
607   /* first clean the existing context */
608   audio_convert_clean_context (ctx);
609   if ((GST_AUDIO_INFO_CHANNELS (in) != GST_AUDIO_INFO_CHANNELS (out)) &&
610       (GST_AUDIO_INFO_IS_UNPOSITIONED (in)
611           || GST_AUDIO_INFO_IS_UNPOSITIONED (out)))
612     goto unpositioned;
613
614   ctx->in = *in;
615   ctx->out = *out;
616
617   in_depth = GST_AUDIO_FORMAT_INFO_DEPTH (in->finfo);
618   out_depth = GST_AUDIO_FORMAT_INFO_DEPTH (out->finfo);
619
620   GST_INFO ("depth in %d, out %d", in_depth, out_depth);
621
622   /* Don't dither or apply noise shaping if target depth is bigger than 20 bits
623    * as DA converters only can do a SNR up to 20 bits in reality.
624    * Also don't dither or apply noise shaping if target depth is larger than
625    * source depth. */
626   if (out_depth <= 20 && (!GST_AUDIO_FORMAT_INFO_IS_INTEGER (in->finfo)
627           || in_depth >= out_depth)) {
628     ctx->dither = dither;
629     ctx->ns = ns;
630     GST_INFO ("using dither %d and noise shaping %d", dither, ns);
631   } else {
632     ctx->dither = DITHER_NONE;
633     ctx->ns = NOISE_SHAPING_NONE;
634     GST_INFO ("using no dither and noise shaping");
635   }
636
637   /* Use simple error feedback when output sample rate is smaller than
638    * 32000 as the other methods might move the noise to audible ranges */
639   if (ctx->ns > NOISE_SHAPING_ERROR_FEEDBACK && out->rate < 32000)
640     ctx->ns = NOISE_SHAPING_ERROR_FEEDBACK;
641
642   gst_channel_mix_setup_matrix (ctx);
643
644   idx_in = audio_convert_get_func_index (ctx, in->finfo);
645   ctx->unpack = unpack_funcs[idx_in];
646
647   idx_out = audio_convert_get_func_index (ctx, out->finfo);
648   ctx->pack = pack_funcs[idx_out];
649
650   GST_INFO ("func index in %d, out %d", idx_in, idx_out);
651
652   /* if both formats are float/double or we use noise shaping use double as
653    * intermediate format and switch mixing */
654   if (!DOUBLE_INTERMEDIATE_FORMAT (ctx)) {
655     GST_INFO ("use int mixing");
656     ctx->channel_mix = (AudioConvertMix) gst_channel_mix_mix_int;
657   } else {
658     GST_INFO ("use float mixing");
659     ctx->channel_mix = (AudioConvertMix) gst_channel_mix_mix_float;
660   }
661   GST_INFO ("unitsizes: %d -> %d", in->bpf, out->bpf);
662
663   /* check if input is in default format */
664   ctx->in_default = check_default (ctx, in->finfo);
665   /* check if channel mixer is passthrough */
666   ctx->mix_passthrough = gst_channel_mix_passthrough (ctx);
667   /* check if output is in default format */
668   ctx->out_default = check_default (ctx, out->finfo);
669
670   GST_INFO ("in default %d, mix passthrough %d, out default %d",
671       ctx->in_default, ctx->mix_passthrough, ctx->out_default);
672
673   ctx->in_scale =
674       GST_AUDIO_FORMAT_INFO_IS_INTEGER (in->finfo) ? (32 - in_depth) : 0;
675   ctx->out_scale =
676       GST_AUDIO_FORMAT_INFO_IS_INTEGER (out->finfo) ? (32 - out_depth) : 0;
677
678   GST_INFO ("scale in %d, out %d", ctx->in_scale, ctx->out_scale);
679
680   gst_audio_quantize_setup (ctx);
681
682   return TRUE;
683
684   /* ERRORS */
685 unpositioned:
686   {
687     GST_WARNING ("unpositioned channels");
688     return FALSE;
689   }
690 }
691
692 gboolean
693 audio_convert_clean_context (AudioConvertCtx * ctx)
694 {
695   g_return_val_if_fail (ctx != NULL, FALSE);
696
697   gst_audio_quantize_free (ctx);
698   gst_channel_mix_unset_matrix (ctx);
699   gst_audio_info_init (&ctx->in);
700   gst_audio_info_init (&ctx->out);
701
702   g_free (ctx->tmpbuf);
703   ctx->tmpbuf = NULL;
704   ctx->tmpbufsize = 0;
705
706   return TRUE;
707 }
708
709 gboolean
710 audio_convert_get_sizes (AudioConvertCtx * ctx, gint samples, gint * srcsize,
711     gint * dstsize)
712 {
713   g_return_val_if_fail (ctx != NULL, FALSE);
714
715   if (srcsize)
716     *srcsize = samples * ctx->in.bpf;
717   if (dstsize)
718     *dstsize = samples * ctx->out.bpf;
719
720   return TRUE;
721 }
722
723 gboolean
724 audio_convert_convert (AudioConvertCtx * ctx, gpointer src,
725     gpointer dst, gint samples, gboolean src_writable)
726 {
727   guint insize, outsize, size;
728   gpointer outbuf, tmpbuf;
729   guint intemp = 0, outtemp = 0, biggest;
730   gint in_width, out_width;
731
732   g_return_val_if_fail (ctx != NULL, FALSE);
733   g_return_val_if_fail (src != NULL, FALSE);
734   g_return_val_if_fail (dst != NULL, FALSE);
735   g_return_val_if_fail (samples >= 0, FALSE);
736
737   if (samples == 0)
738     return TRUE;
739
740   insize = ctx->in.bpf * samples;
741   outsize = ctx->out.bpf * samples;
742
743   in_width = GST_AUDIO_FORMAT_INFO_WIDTH (ctx->in.finfo);
744   out_width = GST_AUDIO_FORMAT_INFO_WIDTH (ctx->out.finfo);
745
746   /* find biggest temp buffer size */
747   size = (DOUBLE_INTERMEDIATE_FORMAT (ctx)) ? sizeof (gdouble)
748       : sizeof (gint32);
749
750   if (!ctx->in_default)
751     intemp = gst_util_uint64_scale (insize, size * 8, in_width);
752   if (!ctx->mix_passthrough || !ctx->out_default)
753     outtemp = gst_util_uint64_scale (outsize, size * 8, out_width);
754   biggest = MAX (intemp, outtemp);
755
756   /* see if one of the buffers can be used as temp */
757   if ((outsize >= biggest) && (ctx->out.bpf <= size))
758     tmpbuf = dst;
759   else if ((insize >= biggest) && src_writable && (ctx->in.bpf >= size))
760     tmpbuf = src;
761   else {
762     if (biggest > ctx->tmpbufsize) {
763       ctx->tmpbuf = g_realloc (ctx->tmpbuf, biggest);
764       ctx->tmpbufsize = biggest;
765     }
766     tmpbuf = ctx->tmpbuf;
767   }
768
769   /* start conversion */
770   if (!ctx->in_default) {
771     /* check if final conversion */
772     if (!(ctx->out_default && ctx->mix_passthrough))
773       outbuf = tmpbuf;
774     else
775       outbuf = dst;
776
777     /* unpack to default format */
778     ctx->unpack (src, outbuf, ctx->in_scale, samples * ctx->in.channels);
779
780     src = outbuf;
781   }
782
783   if (!ctx->mix_passthrough) {
784     /* check if final conversion */
785     if (!ctx->out_default)
786       outbuf = tmpbuf;
787     else
788       outbuf = dst;
789
790     /* convert channels */
791     ctx->channel_mix (ctx, src, outbuf, samples);
792
793     src = outbuf;
794   }
795
796   /* we only need to quantize if output format is int */
797   if (GST_AUDIO_FORMAT_INFO_IS_INTEGER (ctx->out.finfo)) {
798     if (ctx->out_default)
799       outbuf = dst;
800     else
801       outbuf = tmpbuf;
802     ctx->quantize (ctx, src, outbuf, samples);
803   }
804
805   if (!ctx->out_default) {
806     /* pack default format into dst */
807     ctx->pack (src, dst, ctx->out_scale, samples * ctx->out.channels);
808   }
809
810   return TRUE;
811 }