avcodec: Add avcodec_encode_audio2() as replacement for avcodec_encode_audio()
[platform/upstream/libav.git] / libavcodec / pcm.c
1 /*
2  * PCM codecs
3  * Copyright (c) 2001 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 /**
23  * @file
24  * PCM codecs
25  */
26
27 #include "avcodec.h"
28 #include "libavutil/common.h" /* for av_reverse */
29 #include "bytestream.h"
30 #include "pcm_tablegen.h"
31
32 #define MAX_CHANNELS 64
33
34 static av_cold int pcm_encode_init(AVCodecContext *avctx)
35 {
36     avctx->frame_size = 0;
37     switch(avctx->codec->id) {
38     case CODEC_ID_PCM_ALAW:
39         pcm_alaw_tableinit();
40         break;
41     case CODEC_ID_PCM_MULAW:
42         pcm_ulaw_tableinit();
43         break;
44     default:
45         break;
46     }
47
48     avctx->bits_per_coded_sample = av_get_bits_per_sample(avctx->codec->id);
49     avctx->block_align = avctx->channels * avctx->bits_per_coded_sample/8;
50     avctx->coded_frame= avcodec_alloc_frame();
51     avctx->coded_frame->key_frame= 1;
52
53     return 0;
54 }
55
56 static av_cold int pcm_encode_close(AVCodecContext *avctx)
57 {
58     av_freep(&avctx->coded_frame);
59
60     return 0;
61 }
62
63 /**
64  * Write PCM samples macro
65  * @param type Datatype of native machine format
66  * @param endian bytestream_put_xxx() suffix
67  * @param src Source pointer (variable name)
68  * @param dst Destination pointer (variable name)
69  * @param n Total number of samples (variable name)
70  * @param shift Bitshift (bits)
71  * @param offset Sample value offset
72  */
73 #define ENCODE(type, endian, src, dst, n, shift, offset) \
74     samples_##type = (const type*) src; \
75     for(;n>0;n--) { \
76         register type v = (*samples_##type++ >> shift) + offset; \
77         bytestream_put_##endian(&dst, v); \
78     }
79
80 static int pcm_encode_frame(AVCodecContext *avctx,
81                             unsigned char *frame, int buf_size, void *data)
82 {
83     int n, sample_size, v;
84     const short *samples;
85     unsigned char *dst;
86     const uint8_t *srcu8;
87     const int16_t *samples_int16_t;
88     const int32_t *samples_int32_t;
89     const int64_t *samples_int64_t;
90     const uint16_t *samples_uint16_t;
91     const uint32_t *samples_uint32_t;
92
93     sample_size = av_get_bits_per_sample(avctx->codec->id)/8;
94     n = buf_size / sample_size;
95     samples = data;
96     dst = frame;
97
98     switch(avctx->codec->id) {
99     case CODEC_ID_PCM_U32LE:
100         ENCODE(uint32_t, le32, samples, dst, n, 0, 0x80000000)
101         break;
102     case CODEC_ID_PCM_U32BE:
103         ENCODE(uint32_t, be32, samples, dst, n, 0, 0x80000000)
104         break;
105     case CODEC_ID_PCM_S24LE:
106         ENCODE(int32_t, le24, samples, dst, n, 8, 0)
107         break;
108     case CODEC_ID_PCM_S24BE:
109         ENCODE(int32_t, be24, samples, dst, n, 8, 0)
110         break;
111     case CODEC_ID_PCM_U24LE:
112         ENCODE(uint32_t, le24, samples, dst, n, 8, 0x800000)
113         break;
114     case CODEC_ID_PCM_U24BE:
115         ENCODE(uint32_t, be24, samples, dst, n, 8, 0x800000)
116         break;
117     case CODEC_ID_PCM_S24DAUD:
118         for(;n>0;n--) {
119             uint32_t tmp = av_reverse[(*samples >> 8) & 0xff] +
120                            (av_reverse[*samples & 0xff] << 8);
121             tmp <<= 4; // sync flags would go here
122             bytestream_put_be24(&dst, tmp);
123             samples++;
124         }
125         break;
126     case CODEC_ID_PCM_U16LE:
127         ENCODE(uint16_t, le16, samples, dst, n, 0, 0x8000)
128         break;
129     case CODEC_ID_PCM_U16BE:
130         ENCODE(uint16_t, be16, samples, dst, n, 0, 0x8000)
131         break;
132     case CODEC_ID_PCM_S8:
133         srcu8= data;
134         for(;n>0;n--) {
135             v = *srcu8++;
136             *dst++ = v - 128;
137         }
138         break;
139 #if HAVE_BIGENDIAN
140     case CODEC_ID_PCM_F64LE:
141         ENCODE(int64_t, le64, samples, dst, n, 0, 0)
142         break;
143     case CODEC_ID_PCM_S32LE:
144     case CODEC_ID_PCM_F32LE:
145         ENCODE(int32_t, le32, samples, dst, n, 0, 0)
146         break;
147     case CODEC_ID_PCM_S16LE:
148         ENCODE(int16_t, le16, samples, dst, n, 0, 0)
149         break;
150     case CODEC_ID_PCM_F64BE:
151     case CODEC_ID_PCM_F32BE:
152     case CODEC_ID_PCM_S32BE:
153     case CODEC_ID_PCM_S16BE:
154 #else
155     case CODEC_ID_PCM_F64BE:
156         ENCODE(int64_t, be64, samples, dst, n, 0, 0)
157         break;
158     case CODEC_ID_PCM_F32BE:
159     case CODEC_ID_PCM_S32BE:
160         ENCODE(int32_t, be32, samples, dst, n, 0, 0)
161         break;
162     case CODEC_ID_PCM_S16BE:
163         ENCODE(int16_t, be16, samples, dst, n, 0, 0)
164         break;
165     case CODEC_ID_PCM_F64LE:
166     case CODEC_ID_PCM_F32LE:
167     case CODEC_ID_PCM_S32LE:
168     case CODEC_ID_PCM_S16LE:
169 #endif /* HAVE_BIGENDIAN */
170     case CODEC_ID_PCM_U8:
171         memcpy(dst, samples, n*sample_size);
172         dst += n*sample_size;
173         break;
174     case CODEC_ID_PCM_ALAW:
175         for(;n>0;n--) {
176             v = *samples++;
177             *dst++ = linear_to_alaw[(v + 32768) >> 2];
178         }
179         break;
180     case CODEC_ID_PCM_MULAW:
181         for(;n>0;n--) {
182             v = *samples++;
183             *dst++ = linear_to_ulaw[(v + 32768) >> 2];
184         }
185         break;
186     default:
187         return -1;
188     }
189     //avctx->frame_size = (dst - frame) / (sample_size * avctx->channels);
190
191     return dst - frame;
192 }
193
194 typedef struct PCMDecode {
195     AVFrame frame;
196     short table[256];
197 } PCMDecode;
198
199 static av_cold int pcm_decode_init(AVCodecContext * avctx)
200 {
201     PCMDecode *s = avctx->priv_data;
202     int i;
203
204     if (avctx->channels <= 0 || avctx->channels > MAX_CHANNELS) {
205         av_log(avctx, AV_LOG_ERROR, "PCM channels out of bounds\n");
206         return AVERROR(EINVAL);
207     }
208
209     switch(avctx->codec->id) {
210     case CODEC_ID_PCM_ALAW:
211         for(i=0;i<256;i++)
212             s->table[i] = alaw2linear(i);
213         break;
214     case CODEC_ID_PCM_MULAW:
215         for(i=0;i<256;i++)
216             s->table[i] = ulaw2linear(i);
217         break;
218     default:
219         break;
220     }
221
222     avctx->sample_fmt = avctx->codec->sample_fmts[0];
223
224     if (avctx->sample_fmt == AV_SAMPLE_FMT_S32)
225         avctx->bits_per_raw_sample = av_get_bits_per_sample(avctx->codec->id);
226
227     avcodec_get_frame_defaults(&s->frame);
228     avctx->coded_frame = &s->frame;
229
230     return 0;
231 }
232
233 /**
234  * Read PCM samples macro
235  * @param size Data size of native machine format
236  * @param endian bytestream_get_xxx() endian suffix
237  * @param src Source pointer (variable name)
238  * @param dst Destination pointer (variable name)
239  * @param n Total number of samples (variable name)
240  * @param shift Bitshift (bits)
241  * @param offset Sample value offset
242  */
243 #define DECODE(size, endian, src, dst, n, shift, offset) \
244     for(;n>0;n--) { \
245         uint##size##_t v = bytestream_get_##endian(&src); \
246         AV_WN##size##A(dst, (v - offset) << shift); \
247         dst += size / 8; \
248     }
249
250 static int pcm_decode_frame(AVCodecContext *avctx, void *data,
251                             int *got_frame_ptr, AVPacket *avpkt)
252 {
253     const uint8_t *src = avpkt->data;
254     int buf_size = avpkt->size;
255     PCMDecode *s = avctx->priv_data;
256     int sample_size, c, n, ret, samples_per_block;
257     uint8_t *samples;
258     int32_t *dst_int32_t;
259
260     sample_size = av_get_bits_per_sample(avctx->codec_id)/8;
261
262     /* av_get_bits_per_sample returns 0 for CODEC_ID_PCM_DVD */
263     samples_per_block = 1;
264     if (CODEC_ID_PCM_DVD == avctx->codec_id) {
265         if (avctx->bits_per_coded_sample != 20 &&
266             avctx->bits_per_coded_sample != 24) {
267             av_log(avctx, AV_LOG_ERROR, "PCM DVD unsupported sample depth\n");
268             return AVERROR(EINVAL);
269         }
270         /* 2 samples are interleaved per block in PCM_DVD */
271         samples_per_block = 2;
272         sample_size = avctx->bits_per_coded_sample * 2 / 8;
273     } else if (avctx->codec_id == CODEC_ID_PCM_LXF) {
274         /* we process 40-bit blocks per channel for LXF */
275         samples_per_block = 2;
276         sample_size = 5;
277     }
278
279     if (sample_size == 0) {
280         av_log(avctx, AV_LOG_ERROR, "Invalid sample_size\n");
281         return AVERROR(EINVAL);
282     }
283
284     n = avctx->channels * sample_size;
285
286     if(n && buf_size % n){
287         if (buf_size < n) {
288             av_log(avctx, AV_LOG_ERROR, "invalid PCM packet\n");
289             return -1;
290         }else
291             buf_size -= buf_size % n;
292     }
293
294     n = buf_size/sample_size;
295
296     /* get output buffer */
297     s->frame.nb_samples = n * samples_per_block / avctx->channels;
298     if ((ret = avctx->get_buffer(avctx, &s->frame)) < 0) {
299         av_log(avctx, AV_LOG_ERROR, "get_buffer() failed\n");
300         return ret;
301     }
302     samples = s->frame.data[0];
303
304     switch(avctx->codec->id) {
305     case CODEC_ID_PCM_U32LE:
306         DECODE(32, le32, src, samples, n, 0, 0x80000000)
307         break;
308     case CODEC_ID_PCM_U32BE:
309         DECODE(32, be32, src, samples, n, 0, 0x80000000)
310         break;
311     case CODEC_ID_PCM_S24LE:
312         DECODE(32, le24, src, samples, n, 8, 0)
313         break;
314     case CODEC_ID_PCM_S24BE:
315         DECODE(32, be24, src, samples, n, 8, 0)
316         break;
317     case CODEC_ID_PCM_U24LE:
318         DECODE(32, le24, src, samples, n, 8, 0x800000)
319         break;
320     case CODEC_ID_PCM_U24BE:
321         DECODE(32, be24, src, samples, n, 8, 0x800000)
322         break;
323     case CODEC_ID_PCM_S24DAUD:
324         for(;n>0;n--) {
325           uint32_t v = bytestream_get_be24(&src);
326           v >>= 4; // sync flags are here
327           AV_WN16A(samples, av_reverse[(v >> 8) & 0xff] +
328                            (av_reverse[v & 0xff] << 8));
329           samples += 2;
330         }
331         break;
332     case CODEC_ID_PCM_S16LE_PLANAR:
333     {
334         const uint8_t *src2[MAX_CHANNELS];
335         n /= avctx->channels;
336         for(c=0;c<avctx->channels;c++)
337             src2[c] = &src[c*n*2];
338         for(;n>0;n--)
339             for(c=0;c<avctx->channels;c++) {
340                 AV_WN16A(samples, bytestream_get_le16(&src2[c]));
341                 samples += 2;
342             }
343         break;
344     }
345     case CODEC_ID_PCM_U16LE:
346         DECODE(16, le16, src, samples, n, 0, 0x8000)
347         break;
348     case CODEC_ID_PCM_U16BE:
349         DECODE(16, be16, src, samples, n, 0, 0x8000)
350         break;
351     case CODEC_ID_PCM_S8:
352         for(;n>0;n--) {
353             *samples++ = *src++ + 128;
354         }
355         break;
356 #if HAVE_BIGENDIAN
357     case CODEC_ID_PCM_F64LE:
358         DECODE(64, le64, src, samples, n, 0, 0)
359         break;
360     case CODEC_ID_PCM_S32LE:
361     case CODEC_ID_PCM_F32LE:
362         DECODE(32, le32, src, samples, n, 0, 0)
363         break;
364     case CODEC_ID_PCM_S16LE:
365         DECODE(16, le16, src, samples, n, 0, 0)
366         break;
367     case CODEC_ID_PCM_F64BE:
368     case CODEC_ID_PCM_F32BE:
369     case CODEC_ID_PCM_S32BE:
370     case CODEC_ID_PCM_S16BE:
371 #else
372     case CODEC_ID_PCM_F64BE:
373         DECODE(64, be64, src, samples, n, 0, 0)
374         break;
375     case CODEC_ID_PCM_F32BE:
376     case CODEC_ID_PCM_S32BE:
377         DECODE(32, be32, src, samples, n, 0, 0)
378         break;
379     case CODEC_ID_PCM_S16BE:
380         DECODE(16, be16, src, samples, n, 0, 0)
381         break;
382     case CODEC_ID_PCM_F64LE:
383     case CODEC_ID_PCM_F32LE:
384     case CODEC_ID_PCM_S32LE:
385     case CODEC_ID_PCM_S16LE:
386 #endif /* HAVE_BIGENDIAN */
387     case CODEC_ID_PCM_U8:
388         memcpy(samples, src, n*sample_size);
389         break;
390     case CODEC_ID_PCM_ZORK:
391         for (; n > 0; n--) {
392             int v = *src++;
393             if (v < 128)
394                 v = 128 - v;
395             *samples++ = v;
396         }
397         break;
398     case CODEC_ID_PCM_ALAW:
399     case CODEC_ID_PCM_MULAW:
400         for(;n>0;n--) {
401             AV_WN16A(samples, s->table[*src++]);
402             samples += 2;
403         }
404         break;
405     case CODEC_ID_PCM_DVD:
406     {
407         const uint8_t *src8;
408         dst_int32_t = (int32_t *)s->frame.data[0];
409         n /= avctx->channels;
410         switch (avctx->bits_per_coded_sample) {
411         case 20:
412             while (n--) {
413                 c = avctx->channels;
414                 src8 = src + 4*c;
415                 while (c--) {
416                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8   &0xf0) << 8);
417                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++ &0x0f) << 12);
418                 }
419                 src = src8;
420             }
421             break;
422         case 24:
423             while (n--) {
424                 c = avctx->channels;
425                 src8 = src + 4*c;
426                 while (c--) {
427                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++) << 8);
428                     *dst_int32_t++ = (bytestream_get_be16(&src) << 16) + ((*src8++) << 8);
429                 }
430                 src = src8;
431             }
432             break;
433         }
434         break;
435     }
436     case CODEC_ID_PCM_LXF:
437     {
438         int i;
439         const uint8_t *src8;
440         dst_int32_t = (int32_t *)s->frame.data[0];
441         n /= avctx->channels;
442         //unpack and de-planerize
443         for (i = 0; i < n; i++) {
444             for (c = 0, src8 = src + i*5; c < avctx->channels; c++, src8 += n*5) {
445                 //extract low 20 bits and expand to 32 bits
446                 *dst_int32_t++ = (src8[2] << 28) | (src8[1] << 20) | (src8[0] << 12) |
447                                  ((src8[2] & 0xF) << 8) | src8[1];
448             }
449
450             for (c = 0, src8 = src + i*5; c < avctx->channels; c++, src8 += n*5) {
451                 //extract high 20 bits and expand to 32 bits
452                 *dst_int32_t++ = (src8[4] << 24) | (src8[3] << 16) |
453                                  ((src8[2] & 0xF0) << 8) | (src8[4] << 4) | (src8[3] >> 4);
454             }
455         }
456         break;
457     }
458     default:
459         return -1;
460     }
461
462     *got_frame_ptr   = 1;
463     *(AVFrame *)data = s->frame;
464
465     return buf_size;
466 }
467
468 #if CONFIG_ENCODERS
469 #define PCM_ENCODER(id_,sample_fmt_,name_,long_name_) \
470 AVCodec ff_ ## name_ ## _encoder = {            \
471     .name        = #name_,                      \
472     .type        = AVMEDIA_TYPE_AUDIO,          \
473     .id          = id_,                         \
474     .init        = pcm_encode_init,             \
475     .encode      = pcm_encode_frame,            \
476     .close       = pcm_encode_close,            \
477     .capabilities = CODEC_CAP_VARIABLE_FRAME_SIZE, \
478     .sample_fmts = (const enum AVSampleFormat[]){sample_fmt_,AV_SAMPLE_FMT_NONE}, \
479     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
480 }
481 #else
482 #define PCM_ENCODER(id,sample_fmt_,name,long_name_)
483 #endif
484
485 #if CONFIG_DECODERS
486 #define PCM_DECODER(id_,sample_fmt_,name_,long_name_)         \
487 AVCodec ff_ ## name_ ## _decoder = {            \
488     .name           = #name_,                   \
489     .type           = AVMEDIA_TYPE_AUDIO,       \
490     .id             = id_,                      \
491     .priv_data_size = sizeof(PCMDecode),        \
492     .init           = pcm_decode_init,          \
493     .decode         = pcm_decode_frame,         \
494     .capabilities   = CODEC_CAP_DR1,            \
495     .sample_fmts = (const enum AVSampleFormat[]){sample_fmt_,AV_SAMPLE_FMT_NONE}, \
496     .long_name = NULL_IF_CONFIG_SMALL(long_name_), \
497 }
498 #else
499 #define PCM_DECODER(id,sample_fmt_,name,long_name_)
500 #endif
501
502 #define PCM_CODEC(id, sample_fmt_, name, long_name_)         \
503     PCM_ENCODER(id,sample_fmt_,name,long_name_); PCM_DECODER(id,sample_fmt_,name,long_name_)
504
505 /* Note: Do not forget to add new entries to the Makefile as well. */
506 PCM_CODEC  (CODEC_ID_PCM_ALAW,  AV_SAMPLE_FMT_S16, pcm_alaw, "PCM A-law");
507 PCM_DECODER(CODEC_ID_PCM_DVD,   AV_SAMPLE_FMT_S32, pcm_dvd, "PCM signed 20|24-bit big-endian");
508 PCM_CODEC  (CODEC_ID_PCM_F32BE, AV_SAMPLE_FMT_FLT, pcm_f32be, "PCM 32-bit floating point big-endian");
509 PCM_CODEC  (CODEC_ID_PCM_F32LE, AV_SAMPLE_FMT_FLT, pcm_f32le, "PCM 32-bit floating point little-endian");
510 PCM_CODEC  (CODEC_ID_PCM_F64BE, AV_SAMPLE_FMT_DBL, pcm_f64be, "PCM 64-bit floating point big-endian");
511 PCM_CODEC  (CODEC_ID_PCM_F64LE, AV_SAMPLE_FMT_DBL, pcm_f64le, "PCM 64-bit floating point little-endian");
512 PCM_DECODER(CODEC_ID_PCM_LXF,   AV_SAMPLE_FMT_S32, pcm_lxf, "PCM signed 20-bit little-endian planar");
513 PCM_CODEC  (CODEC_ID_PCM_MULAW, AV_SAMPLE_FMT_S16, pcm_mulaw, "PCM mu-law");
514 PCM_CODEC  (CODEC_ID_PCM_S8,    AV_SAMPLE_FMT_U8,  pcm_s8, "PCM signed 8-bit");
515 PCM_CODEC  (CODEC_ID_PCM_S16BE, AV_SAMPLE_FMT_S16, pcm_s16be, "PCM signed 16-bit big-endian");
516 PCM_CODEC  (CODEC_ID_PCM_S16LE, AV_SAMPLE_FMT_S16, pcm_s16le, "PCM signed 16-bit little-endian");
517 PCM_DECODER(CODEC_ID_PCM_S16LE_PLANAR, AV_SAMPLE_FMT_S16, pcm_s16le_planar, "PCM 16-bit little-endian planar");
518 PCM_CODEC  (CODEC_ID_PCM_S24BE, AV_SAMPLE_FMT_S32, pcm_s24be, "PCM signed 24-bit big-endian");
519 PCM_CODEC  (CODEC_ID_PCM_S24DAUD, AV_SAMPLE_FMT_S16,  pcm_s24daud, "PCM D-Cinema audio signed 24-bit");
520 PCM_CODEC  (CODEC_ID_PCM_S24LE, AV_SAMPLE_FMT_S32, pcm_s24le, "PCM signed 24-bit little-endian");
521 PCM_CODEC  (CODEC_ID_PCM_S32BE, AV_SAMPLE_FMT_S32, pcm_s32be, "PCM signed 32-bit big-endian");
522 PCM_CODEC  (CODEC_ID_PCM_S32LE, AV_SAMPLE_FMT_S32, pcm_s32le, "PCM signed 32-bit little-endian");
523 PCM_CODEC  (CODEC_ID_PCM_U8,    AV_SAMPLE_FMT_U8,  pcm_u8, "PCM unsigned 8-bit");
524 PCM_CODEC  (CODEC_ID_PCM_U16BE, AV_SAMPLE_FMT_S16, pcm_u16be, "PCM unsigned 16-bit big-endian");
525 PCM_CODEC  (CODEC_ID_PCM_U16LE, AV_SAMPLE_FMT_S16, pcm_u16le, "PCM unsigned 16-bit little-endian");
526 PCM_CODEC  (CODEC_ID_PCM_U24BE, AV_SAMPLE_FMT_S32, pcm_u24be, "PCM unsigned 24-bit big-endian");
527 PCM_CODEC  (CODEC_ID_PCM_U24LE, AV_SAMPLE_FMT_S32, pcm_u24le, "PCM unsigned 24-bit little-endian");
528 PCM_CODEC  (CODEC_ID_PCM_U32BE, AV_SAMPLE_FMT_S32, pcm_u32be, "PCM unsigned 32-bit big-endian");
529 PCM_CODEC  (CODEC_ID_PCM_U32LE, AV_SAMPLE_FMT_S32, pcm_u32le, "PCM unsigned 32-bit little-endian");
530 PCM_DECODER(CODEC_ID_PCM_ZORK,  AV_SAMPLE_FMT_U8,  pcm_zork,  "PCM Zork");