Merge "SSE2 optimizations for vp8_build_intra_predictors_mby{,_s}()"
[profile/ivi/libvpx.git] / vpx / src / vpx_encoder.c
1 /*
2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
3  *
4  *  Use of this source code is governed by a BSD-style license
5  *  that can be found in the LICENSE file in the root of the source
6  *  tree. An additional intellectual property rights grant can be found
7  *  in the file PATENTS.  All contributing project authors may
8  *  be found in the AUTHORS file in the root of the source tree.
9  */
10
11
12 /*!\file
13  * \brief Provides the high level interface to wrap encoder algorithms.
14  *
15  */
16 #include <limits.h>
17 #include <string.h>
18 #include "vpx/internal/vpx_codec_internal.h"
19 #include "vpx_config.h"
20
21 #define SAVE_STATUS(ctx,var) (ctx?(ctx->err = var):var)
22
23 vpx_codec_err_t vpx_codec_enc_init_ver(vpx_codec_ctx_t      *ctx,
24                                        vpx_codec_iface_t    *iface,
25                                        vpx_codec_enc_cfg_t  *cfg,
26                                        vpx_codec_flags_t     flags,
27                                        int                   ver)
28 {
29     vpx_codec_err_t res;
30
31     if (ver != VPX_ENCODER_ABI_VERSION)
32         res = VPX_CODEC_ABI_MISMATCH;
33     else if (!ctx || !iface || !cfg)
34         res = VPX_CODEC_INVALID_PARAM;
35     else if (iface->abi_version != VPX_CODEC_INTERNAL_ABI_VERSION)
36         res = VPX_CODEC_ABI_MISMATCH;
37     else if (!(iface->caps & VPX_CODEC_CAP_ENCODER))
38         res = VPX_CODEC_INCAPABLE;
39     else if ((flags & VPX_CODEC_USE_XMA) && !(iface->caps & VPX_CODEC_CAP_XMA))
40         res = VPX_CODEC_INCAPABLE;
41     else if ((flags & VPX_CODEC_USE_PSNR)
42              && !(iface->caps & VPX_CODEC_CAP_PSNR))
43         res = VPX_CODEC_INCAPABLE;
44     else if ((flags & VPX_CODEC_USE_OUTPUT_PARTITION)
45              && !(iface->caps & VPX_CODEC_CAP_OUTPUT_PARTITION))
46         res = VPX_CODEC_INCAPABLE;
47     else
48     {
49         ctx->iface = iface;
50         ctx->name = iface->name;
51         ctx->priv = NULL;
52         ctx->init_flags = flags;
53         ctx->config.enc = cfg;
54         res = ctx->iface->init(ctx, NULL);
55
56         if (res)
57         {
58             ctx->err_detail = ctx->priv ? ctx->priv->err_detail : NULL;
59             vpx_codec_destroy(ctx);
60         }
61
62         if (ctx->priv)
63             ctx->priv->iface = ctx->iface;
64     }
65
66     return SAVE_STATUS(ctx, res);
67 }
68
69 vpx_codec_err_t vpx_codec_enc_init_multi_ver(vpx_codec_ctx_t      *ctx,
70                                              vpx_codec_iface_t    *iface,
71                                              vpx_codec_enc_cfg_t  *cfg,
72                                              int                   num_enc,
73                                              vpx_codec_flags_t     flags,
74                                              vpx_rational_t       *dsf,
75                                              int                   ver)
76 {
77     vpx_codec_err_t res = 0;
78
79     if (ver != VPX_ENCODER_ABI_VERSION)
80         res = VPX_CODEC_ABI_MISMATCH;
81     else if (!ctx || !iface || !cfg || (num_enc > 16 || num_enc < 1))
82         res = VPX_CODEC_INVALID_PARAM;
83     else if (iface->abi_version != VPX_CODEC_INTERNAL_ABI_VERSION)
84         res = VPX_CODEC_ABI_MISMATCH;
85     else if (!(iface->caps & VPX_CODEC_CAP_ENCODER))
86         res = VPX_CODEC_INCAPABLE;
87     else if ((flags & VPX_CODEC_USE_XMA) && !(iface->caps & VPX_CODEC_CAP_XMA))
88         res = VPX_CODEC_INCAPABLE;
89     else if ((flags & VPX_CODEC_USE_PSNR)
90              && !(iface->caps & VPX_CODEC_CAP_PSNR))
91         res = VPX_CODEC_INCAPABLE;
92     else if ((flags & VPX_CODEC_USE_OUTPUT_PARTITION)
93              && !(iface->caps & VPX_CODEC_CAP_OUTPUT_PARTITION))
94         res = VPX_CODEC_INCAPABLE;
95     else
96     {
97         int i;
98         void *mem_loc = NULL;
99
100         if(!(res = iface->enc.mr_get_mem_loc(cfg, &mem_loc)))
101         {
102             for (i = 0; i < num_enc; i++)
103             {
104                 vpx_codec_priv_enc_mr_cfg_t mr_cfg;
105
106                 /* Validate down-sampling factor. */
107                 if(dsf->num < 1 || dsf->num > 4096 || dsf->den < 1 ||
108                    dsf->den > dsf->num)
109                 {
110                     res = VPX_CODEC_INVALID_PARAM;
111                     break;
112                 }
113
114                 mr_cfg.mr_low_res_mode_info = mem_loc;
115                 mr_cfg.mr_total_resolutions = num_enc;
116                 mr_cfg.mr_encoder_id = num_enc-1-i;
117                 mr_cfg.mr_down_sampling_factor.num = dsf->num;
118                 mr_cfg.mr_down_sampling_factor.den = dsf->den;
119
120                 ctx->iface = iface;
121                 ctx->name = iface->name;
122                 ctx->priv = NULL;
123                 ctx->init_flags = flags;
124                 ctx->config.enc = cfg;
125                 res = ctx->iface->init(ctx, &mr_cfg);
126
127                 if (res)
128                 {
129                     ctx->err_detail = ctx->priv ? ctx->priv->err_detail : NULL;
130                     vpx_codec_destroy(ctx);
131                 }
132
133                 if (ctx->priv)
134                     ctx->priv->iface = ctx->iface;
135
136                 if (res)
137                     break;
138
139                 ctx++;
140                 cfg++;
141                 dsf++;
142             }
143         }
144     }
145
146     return SAVE_STATUS(ctx, res);
147 }
148
149
150 vpx_codec_err_t  vpx_codec_enc_config_default(vpx_codec_iface_t    *iface,
151         vpx_codec_enc_cfg_t  *cfg,
152         unsigned int          usage)
153 {
154     vpx_codec_err_t res;
155     vpx_codec_enc_cfg_map_t *map;
156
157     if (!iface || !cfg || usage > INT_MAX)
158         res = VPX_CODEC_INVALID_PARAM;
159     else if (!(iface->caps & VPX_CODEC_CAP_ENCODER))
160         res = VPX_CODEC_INCAPABLE;
161     else
162     {
163         res = VPX_CODEC_INVALID_PARAM;
164
165         for (map = iface->enc.cfg_maps; map->usage >= 0; map++)
166         {
167             if (map->usage == (int)usage)
168             {
169                 *cfg = map->cfg;
170                 cfg->g_usage = usage;
171                 res = VPX_CODEC_OK;
172                 break;
173             }
174         }
175     }
176
177     return res;
178 }
179
180
181 #if ARCH_X86 || ARCH_X86_64
182 /* On X86, disable the x87 unit's internal 80 bit precision for better
183  * consistency with the SSE unit's 64 bit precision.
184  */
185 #include "vpx_ports/x86.h"
186 #define FLOATING_POINT_INIT() do {\
187         unsigned short x87_orig_mode = x87_set_double_precision();
188 #define FLOATING_POINT_RESTORE() \
189     x87_set_control_word(x87_orig_mode); }while(0)
190
191
192 #else
193 static void FLOATING_POINT_INIT() {}
194 static void FLOATING_POINT_RESTORE() {}
195 #endif
196
197
198 vpx_codec_err_t  vpx_codec_encode(vpx_codec_ctx_t            *ctx,
199                                   const vpx_image_t          *img,
200                                   vpx_codec_pts_t             pts,
201                                   unsigned long               duration,
202                                   vpx_enc_frame_flags_t       flags,
203                                   unsigned long               deadline)
204 {
205     vpx_codec_err_t res = 0;
206
207     if (!ctx || (img && !duration))
208         res = VPX_CODEC_INVALID_PARAM;
209     else if (!ctx->iface || !ctx->priv)
210         res = VPX_CODEC_ERROR;
211     else if (!(ctx->iface->caps & VPX_CODEC_CAP_ENCODER))
212         res = VPX_CODEC_INCAPABLE;
213     else
214     {
215         /* Execute in a normalized floating point environment, if the platform
216          * requires it.
217          */
218         unsigned int num_enc =ctx->priv->enc.total_encoders;
219
220         FLOATING_POINT_INIT();
221
222         if (num_enc == 1)
223             res = ctx->iface->enc.encode(ctx->priv->alg_priv, img, pts,
224                                          duration, flags, deadline);
225         else
226         {
227             /* Multi-resolution encoding:
228              * Encode multi-levels in reverse order. For example,
229              * if mr_total_resolutions = 3, first encode level 2,
230              * then encode level 1, and finally encode level 0.
231              */
232             int i;
233
234             ctx += num_enc - 1;
235             if (img) img += num_enc - 1;
236
237             for (i = num_enc-1; i >= 0; i--)
238             {
239                 if ((res = ctx->iface->enc.encode(ctx->priv->alg_priv, img, pts,
240                                                   duration, flags, deadline)))
241                     break;
242
243                 ctx--;
244                 if (img) img--;
245             }
246             ctx++;
247         }
248
249         FLOATING_POINT_RESTORE();
250     }
251
252     return SAVE_STATUS(ctx, res);
253 }
254
255
256 const vpx_codec_cx_pkt_t *vpx_codec_get_cx_data(vpx_codec_ctx_t   *ctx,
257         vpx_codec_iter_t  *iter)
258 {
259     const vpx_codec_cx_pkt_t *pkt = NULL;
260
261     if (ctx)
262     {
263         if (!iter)
264             ctx->err = VPX_CODEC_INVALID_PARAM;
265         else if (!ctx->iface || !ctx->priv)
266             ctx->err = VPX_CODEC_ERROR;
267         else if (!(ctx->iface->caps & VPX_CODEC_CAP_ENCODER))
268             ctx->err = VPX_CODEC_INCAPABLE;
269         else
270             pkt = ctx->iface->enc.get_cx_data(ctx->priv->alg_priv, iter);
271     }
272
273     if (pkt && pkt->kind == VPX_CODEC_CX_FRAME_PKT)
274     {
275         /* If the application has specified a destination area for the
276          * compressed data, and the codec has not placed the data there,
277          * and it fits, copy it.
278          */
279         char *dst_buf = ctx->priv->enc.cx_data_dst_buf.buf;
280
281         if (dst_buf
282             && pkt->data.raw.buf != dst_buf
283             && pkt->data.raw.sz
284             + ctx->priv->enc.cx_data_pad_before
285             + ctx->priv->enc.cx_data_pad_after
286             <= ctx->priv->enc.cx_data_dst_buf.sz)
287         {
288             vpx_codec_cx_pkt_t *modified_pkt = &ctx->priv->enc.cx_data_pkt;
289
290             memcpy(dst_buf + ctx->priv->enc.cx_data_pad_before,
291                    pkt->data.raw.buf, pkt->data.raw.sz);
292             *modified_pkt = *pkt;
293             modified_pkt->data.raw.buf = dst_buf;
294             modified_pkt->data.raw.sz += ctx->priv->enc.cx_data_pad_before
295                                          + ctx->priv->enc.cx_data_pad_after;
296             pkt = modified_pkt;
297         }
298
299         if (dst_buf == pkt->data.raw.buf)
300         {
301             ctx->priv->enc.cx_data_dst_buf.buf = dst_buf + pkt->data.raw.sz;
302             ctx->priv->enc.cx_data_dst_buf.sz -= pkt->data.raw.sz;
303         }
304     }
305
306     return pkt;
307 }
308
309
310 vpx_codec_err_t vpx_codec_set_cx_data_buf(vpx_codec_ctx_t       *ctx,
311         const vpx_fixed_buf_t *buf,
312         unsigned int           pad_before,
313         unsigned int           pad_after)
314 {
315     if (!ctx || !ctx->priv)
316         return VPX_CODEC_INVALID_PARAM;
317
318     if (buf)
319     {
320         ctx->priv->enc.cx_data_dst_buf = *buf;
321         ctx->priv->enc.cx_data_pad_before = pad_before;
322         ctx->priv->enc.cx_data_pad_after = pad_after;
323     }
324     else
325     {
326         ctx->priv->enc.cx_data_dst_buf.buf = NULL;
327         ctx->priv->enc.cx_data_dst_buf.sz = 0;
328         ctx->priv->enc.cx_data_pad_before = 0;
329         ctx->priv->enc.cx_data_pad_after = 0;
330     }
331
332     return VPX_CODEC_OK;
333 }
334
335
336 const vpx_image_t *vpx_codec_get_preview_frame(vpx_codec_ctx_t   *ctx)
337 {
338     vpx_image_t *img = NULL;
339
340     if (ctx)
341     {
342         if (!ctx->iface || !ctx->priv)
343             ctx->err = VPX_CODEC_ERROR;
344         else if (!(ctx->iface->caps & VPX_CODEC_CAP_ENCODER))
345             ctx->err = VPX_CODEC_INCAPABLE;
346         else if (!ctx->iface->enc.get_preview)
347             ctx->err = VPX_CODEC_INCAPABLE;
348         else
349             img = ctx->iface->enc.get_preview(ctx->priv->alg_priv);
350     }
351
352     return img;
353 }
354
355
356 vpx_fixed_buf_t *vpx_codec_get_global_headers(vpx_codec_ctx_t   *ctx)
357 {
358     vpx_fixed_buf_t *buf = NULL;
359
360     if (ctx)
361     {
362         if (!ctx->iface || !ctx->priv)
363             ctx->err = VPX_CODEC_ERROR;
364         else if (!(ctx->iface->caps & VPX_CODEC_CAP_ENCODER))
365             ctx->err = VPX_CODEC_INCAPABLE;
366         else if (!ctx->iface->enc.get_glob_hdrs)
367             ctx->err = VPX_CODEC_INCAPABLE;
368         else
369             buf = ctx->iface->enc.get_glob_hdrs(ctx->priv->alg_priv);
370     }
371
372     return buf;
373 }
374
375
376 vpx_codec_err_t  vpx_codec_enc_config_set(vpx_codec_ctx_t            *ctx,
377         const vpx_codec_enc_cfg_t  *cfg)
378 {
379     vpx_codec_err_t res;
380
381     if (!ctx || !ctx->iface || !ctx->priv || !cfg)
382         res = VPX_CODEC_INVALID_PARAM;
383     else if (!(ctx->iface->caps & VPX_CODEC_CAP_ENCODER))
384         res = VPX_CODEC_INCAPABLE;
385     else
386         res = ctx->iface->enc.cfg_set(ctx->priv->alg_priv, cfg);
387
388     return SAVE_STATUS(ctx, res);
389 }
390
391
392 int vpx_codec_pkt_list_add(struct vpx_codec_pkt_list *list,
393                            const struct vpx_codec_cx_pkt *pkt)
394 {
395     if (list->cnt < list->max)
396     {
397         list->pkts[list->cnt++] = *pkt;
398         return 0;
399     }
400
401     return 1;
402 }
403
404
405 const vpx_codec_cx_pkt_t *vpx_codec_pkt_list_get(struct vpx_codec_pkt_list *list,
406         vpx_codec_iter_t           *iter)
407 {
408     const vpx_codec_cx_pkt_t *pkt;
409
410     if (!(*iter))
411     {
412         *iter = list->pkts;
413     }
414
415     pkt = (const void *) * iter;
416
417     if ((size_t)(pkt - list->pkts) < list->cnt)
418         *iter = pkt + 1;
419     else
420         pkt = NULL;
421
422     return pkt;
423 }