Fix the segfault while encoding multiple slice per frame.
[platform/upstream/libva-intel-driver.git] / src / i965_drv_video.h
1 /*
2  * Copyright © 2009 Intel Corporation
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a
5  * copy of this software and associated documentation files (the
6  * "Software"), to deal in the Software without restriction, including
7  * without limitation the rights to use, copy, modify, merge, publish,
8  * distribute, sub license, and/or sell copies of the Software, and to
9  * permit persons to whom the Software is furnished to do so, subject to
10  * the following conditions:
11  *
12  * The above copyright notice and this permission notice (including the
13  * next paragraph) shall be included in all copies or substantial portions
14  * of the Software.
15  *
16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
17  * OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
18  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT.
19  * IN NO EVENT SHALL PRECISION INSIGHT AND/OR ITS SUPPLIERS BE LIABLE FOR
20  * ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
21  * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
22  * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
23  *
24  * Authors:
25  *    Xiang Haihao <haihao.xiang@intel.com>
26  *    Zou Nan hai <nanhai.zou@intel.com>
27  *
28  */
29
30 #ifndef _I965_DRV_VIDEO_H_
31 #define _I965_DRV_VIDEO_H_
32
33 #include <va/va.h>
34 #include <va/va_enc_h264.h>
35 #include <va/va_enc_mpeg2.h>
36 #include <va/va_vpp.h>
37 #include <va/va_backend.h>
38 #include <va/va_backend_vpp.h>
39
40 #include "i965_mutext.h"
41 #include "object_heap.h"
42 #include "intel_driver.h"
43 #include "i965_fourcc.h"
44
45 #define I965_MAX_PROFILES                       20
46 #define I965_MAX_ENTRYPOINTS                    5
47 #define I965_MAX_CONFIG_ATTRIBUTES              10
48 #define I965_MAX_IMAGE_FORMATS                  10
49 #define I965_MAX_SUBPIC_FORMATS                 6
50 #define I965_MAX_SUBPIC_SUM                     4
51 #define I965_MAX_SURFACE_ATTRIBUTES             16
52
53 #define INTEL_STR_DRIVER_VENDOR                 "Intel"
54 #define INTEL_STR_DRIVER_NAME                   "i965"
55
56 #define I965_SURFACE_TYPE_IMAGE                 0
57 #define I965_SURFACE_TYPE_SURFACE               1
58
59 #define I965_SURFACE_FLAG_FRAME                 0x00000000
60 #define I965_SURFACE_FLAG_TOP_FIELD_FIRST       0x00000001
61 #define I965_SURFACE_FLAG_BOTTOME_FIELD_FIRST   0x00000002
62
63 #define DEFAULT_BRIGHTNESS      0
64 #define DEFAULT_CONTRAST        50
65 #define DEFAULT_HUE             0
66 #define DEFAULT_SATURATION      50
67
68 struct i965_surface
69 {
70     struct object_base *base;
71     int type;
72     int flags;
73 };
74
75 struct i965_kernel 
76 {
77     char *name;
78     int interface;
79     const uint32_t (*bin)[4];
80     int size;
81     dri_bo *bo;
82     unsigned int kernel_offset;
83 };
84
85 struct buffer_store
86 {
87     unsigned char *buffer;
88     dri_bo *bo;
89     int ref_count;
90     int num_elements;
91 };
92     
93 struct object_config 
94 {
95     struct object_base base;
96     VAProfile profile;
97     VAEntrypoint entrypoint;
98     VAConfigAttrib attrib_list[I965_MAX_CONFIG_ATTRIBUTES];
99     int num_attribs;
100 };
101
102 #define NUM_SLICES     10
103
104 struct codec_state_base {
105     uint32_t chroma_formats;
106 };
107
108 struct decode_state
109 {
110     struct codec_state_base base;
111     struct buffer_store *pic_param;
112     struct buffer_store **slice_params;
113     struct buffer_store *iq_matrix;
114     struct buffer_store *bit_plane;
115     struct buffer_store *huffman_table;
116     struct buffer_store **slice_datas;
117     struct buffer_store *probability_data;
118     VASurfaceID current_render_target;
119     int max_slice_params;
120     int max_slice_datas;
121     int num_slice_params;
122     int num_slice_datas;
123
124     struct object_surface *render_object;
125     struct object_surface *reference_objects[16]; /* Up to 2 reference surfaces are valid for MPEG-2,*/
126 };
127
128 #define SLICE_PACKED_DATA_INDEX_TYPE    0x80000000
129 #define SLICE_PACKED_DATA_INDEX_MASK    0x00FFFFFF
130
131 struct encode_state
132 {
133     struct codec_state_base base;
134     struct buffer_store *seq_param;
135     struct buffer_store *pic_param;
136     struct buffer_store *pic_control;
137     struct buffer_store *iq_matrix;
138     struct buffer_store *q_matrix;
139     struct buffer_store **slice_params;
140     int max_slice_params;
141     int num_slice_params;
142
143     /* for ext */
144     struct buffer_store *seq_param_ext;
145     struct buffer_store *pic_param_ext;
146     struct buffer_store *packed_header_param[4];
147     struct buffer_store *packed_header_data[4];
148     struct buffer_store **slice_params_ext;
149     int max_slice_params_ext;
150     int num_slice_params_ext;
151
152     /* For the packed data that needs to be inserted into video clip */
153     /* currently it is mainly for packed raw data */
154     struct buffer_store **packed_header_params_ext;
155     int max_packed_header_params_ext;
156     int num_packed_header_params_ext;
157     struct buffer_store **packed_header_data_ext;
158     int max_packed_header_data_ext;
159     int num_packed_header_data_ext;
160
161     /* the array is determined by max_slice_params_ext */
162     int slice_num;
163     /* This is to store the first index of packed data for one slice */
164     int *slice_rawdata_index;
165     /* This is to store the number of packed data for one slice */
166     int *slice_rawdata_count;
167
168     /* This is to store the index of packed slice header for one slice */
169     int *slice_header_index;
170
171     int last_packed_header_type;
172
173     struct buffer_store *misc_param[16];
174
175     VASurfaceID current_render_target;
176     struct object_surface *input_yuv_object;
177     struct object_surface *reconstructed_object;
178     struct object_buffer *coded_buf_object;
179     struct object_surface *reference_objects[16]; /* Up to 2 reference surfaces are valid for MPEG-2,*/
180 };
181
182 struct proc_state
183 {
184     struct codec_state_base base;
185     struct buffer_store *pipeline_param;
186
187     VASurfaceID current_render_target;
188 };
189
190 #define CODEC_DEC       0
191 #define CODEC_ENC       1
192 #define CODEC_PROC      2
193
194 union codec_state
195 {
196     struct codec_state_base base;
197     struct decode_state decode;
198     struct encode_state encode;
199     struct proc_state proc;
200 };
201
202 struct hw_context
203 {
204     VAStatus (*run)(VADriverContextP ctx, 
205                     VAProfile profile, 
206                     union codec_state *codec_state,
207                     struct hw_context *hw_context);
208     void (*destroy)(void *);
209     struct intel_batchbuffer *batch;
210 };
211
212 struct object_context 
213 {
214     struct object_base base;
215     VAContextID context_id;
216     struct object_config *obj_config;
217     VASurfaceID *render_targets;                //input->encode, output->decode
218     int num_render_targets;
219     int picture_width;
220     int picture_height;
221     int flags;
222     int codec_type;
223     union codec_state codec_state;
224     struct hw_context *hw_context;
225 };
226
227 #define SURFACE_REFERENCED      (1 << 0)
228 #define SURFACE_DERIVED         (1 << 2)
229 #define SURFACE_ALL_MASK        ((SURFACE_REFERENCED) | \
230                                  (SURFACE_DERIVED))
231
232 struct object_surface 
233 {
234     struct object_base base;
235     VASurfaceStatus status;
236     VASubpictureID subpic[I965_MAX_SUBPIC_SUM];
237     struct object_subpic *obj_subpic[I965_MAX_SUBPIC_SUM];
238     unsigned int subpic_render_idx;
239
240     int width;          /* the pitch of plane 0 in bytes in horizontal direction */
241     int height;         /* the pitch of plane 0 in bytes in vertical direction */
242     int size;
243     int orig_width;     /* the width of plane 0 in pixels */
244     int orig_height;    /* the height of plane 0 in pixels */
245     int flags;
246     unsigned int fourcc;    
247     dri_bo *bo;
248     VAImageID locked_image_id;
249     void (*free_private_data)(void **data);
250     void *private_data;
251     unsigned int subsampling;
252     int x_cb_offset;
253     int y_cb_offset;
254     int x_cr_offset;
255     int y_cr_offset;
256     int cb_cr_width;
257     int cb_cr_height;
258     int cb_cr_pitch;
259     /* user specified attributes see: VASurfaceAttribExternalBuffers/VA_SURFACE_ATTRIB_MEM_TYPE_VA */
260     uint32_t user_disable_tiling : 1;
261     uint32_t user_h_stride_set   : 1;
262     uint32_t user_v_stride_set   : 1;
263 };
264
265 struct object_buffer 
266 {
267     struct object_base base;
268     struct buffer_store *buffer_store;
269     int max_num_elements;
270     int num_elements;
271     int size_element;
272     VABufferType type;
273 };
274
275 struct object_image 
276 {
277     struct object_base base;
278     VAImage image;
279     dri_bo *bo;
280     unsigned int *palette;
281     VASurfaceID derived_surface;
282 };
283
284 struct object_subpic 
285 {
286     struct object_base base;
287     VAImageID image;
288     struct object_image *obj_image;
289     VARectangle src_rect;
290     VARectangle dst_rect;
291     unsigned int format;
292     int width;
293     int height;
294     int pitch;
295     float global_alpha;
296     dri_bo *bo;
297     unsigned int flags;
298 };
299
300 #define I965_RING_NULL  0
301 #define I965_RING_BSD   1
302 #define I965_RING_BLT   2
303 #define I965_RING_VEBOX 3
304
305 struct i965_filter
306 {
307     VAProcFilterType type;
308     int ring;
309 };
310
311 struct hw_codec_info
312 {
313     struct hw_context *(*dec_hw_context_init)(VADriverContextP, struct object_config *);
314     struct hw_context *(*enc_hw_context_init)(VADriverContextP, struct object_config *);
315     struct hw_context *(*proc_hw_context_init)(VADriverContextP, struct object_config *);
316     bool (*render_init)(VADriverContextP);
317     void (*post_processing_context_init)(VADriverContextP, void *, struct intel_batchbuffer *);
318
319     int max_width;
320     int max_height;
321     int min_linear_wpitch;
322     int min_linear_hpitch;
323
324     unsigned int h264_mvc_dec_profiles;
325     unsigned int h264_dec_chroma_formats;
326     unsigned int jpeg_dec_chroma_formats;
327
328     unsigned int has_mpeg2_decoding:1;
329     unsigned int has_mpeg2_encoding:1;
330     unsigned int has_h264_decoding:1;
331     unsigned int has_h264_encoding:1;
332     unsigned int has_vc1_decoding:1;
333     unsigned int has_vc1_encoding:1;
334     unsigned int has_jpeg_decoding:1;
335     unsigned int has_jpeg_encoding:1;
336     unsigned int has_vpp:1;
337     unsigned int has_accelerated_getimage:1;
338     unsigned int has_accelerated_putimage:1;
339     unsigned int has_tiled_surface:1;
340     unsigned int has_di_motion_adptive:1;
341     unsigned int has_di_motion_compensated:1;
342     unsigned int has_vp8_decoding:1;
343     unsigned int has_vp8_encoding:1;
344     unsigned int has_h264_mvc_encoding:1;
345
346     unsigned int num_filters;
347     struct i965_filter filters[VAProcFilterCount];
348 };
349
350
351 #include "i965_render.h"
352
353 struct i965_driver_data 
354 {
355     struct intel_driver_data intel;
356     struct object_heap config_heap;
357     struct object_heap context_heap;
358     struct object_heap surface_heap;
359     struct object_heap buffer_heap;
360     struct object_heap image_heap;
361     struct object_heap subpic_heap;
362     const struct hw_codec_info *codec_info;
363
364     _I965Mutex render_mutex;
365     _I965Mutex pp_mutex;
366     struct intel_batchbuffer *batch;
367     struct intel_batchbuffer *pp_batch;
368     struct i965_render_state render_state;
369     void *pp_context;
370     char va_vendor[256];
371  
372     VADisplayAttribute *display_attributes;
373     unsigned int num_display_attributes;
374     VADisplayAttribute *rotation_attrib;
375     VADisplayAttribute *brightness_attrib;
376     VADisplayAttribute *contrast_attrib;
377     VADisplayAttribute *hue_attrib;
378     VADisplayAttribute *saturation_attrib;
379     VAContextID current_context_id;
380
381     /* VA/DRI (X11) specific data */
382     struct va_dri_output *dri_output;
383
384     /* VA/Wayland specific data */
385     struct va_wl_output *wl_output;
386 };
387
388 #define NEW_CONFIG_ID() object_heap_allocate(&i965->config_heap);
389 #define NEW_CONTEXT_ID() object_heap_allocate(&i965->context_heap);
390 #define NEW_SURFACE_ID() object_heap_allocate(&i965->surface_heap);
391 #define NEW_BUFFER_ID() object_heap_allocate(&i965->buffer_heap);
392 #define NEW_IMAGE_ID() object_heap_allocate(&i965->image_heap);
393 #define NEW_SUBPIC_ID() object_heap_allocate(&i965->subpic_heap);
394
395 #define CONFIG(id) ((struct object_config *)object_heap_lookup(&i965->config_heap, id))
396 #define CONTEXT(id) ((struct object_context *)object_heap_lookup(&i965->context_heap, id))
397 #define SURFACE(id) ((struct object_surface *)object_heap_lookup(&i965->surface_heap, id))
398 #define BUFFER(id) ((struct object_buffer *)object_heap_lookup(&i965->buffer_heap, id))
399 #define IMAGE(id) ((struct object_image *)object_heap_lookup(&i965->image_heap, id))
400 #define SUBPIC(id) ((struct object_subpic *)object_heap_lookup(&i965->subpic_heap, id))
401
402 #define FOURCC_IA44 0x34344149
403 #define FOURCC_AI44 0x34344941
404
405 #define STRIDE(w)               (((w) + 0xf) & ~0xf)
406 #define SIZE_YUV420(w, h)       (h * (STRIDE(w) + STRIDE(w >> 1)))
407
408 static INLINE struct i965_driver_data *
409 i965_driver_data(VADriverContextP ctx)
410 {
411     return (struct i965_driver_data *)(ctx->pDriverData);
412 }
413
414 VAStatus
415 i965_check_alloc_surface_bo(VADriverContextP ctx,
416                             struct object_surface *obj_surface,
417                             int tiled,
418                             unsigned int fourcc,
419                             unsigned int subsampling);
420
421 int
422 va_enc_packed_type_to_idx(int packed_type);
423
424 /* reserve 2 byte for internal using */
425 #define CODEC_H264      0
426 #define CODEC_MPEG2     1
427 #define CODEC_H264_MVC  2
428
429 #define H264_DELIMITER0 0x00
430 #define H264_DELIMITER1 0x00
431 #define H264_DELIMITER2 0x00
432 #define H264_DELIMITER3 0x00
433 #define H264_DELIMITER4 0x00
434
435 #define MPEG2_DELIMITER0        0x00
436 #define MPEG2_DELIMITER1        0x00
437 #define MPEG2_DELIMITER2        0x00
438 #define MPEG2_DELIMITER3        0x00
439 #define MPEG2_DELIMITER4        0xb0
440
441 struct i965_coded_buffer_segment
442 {
443     VACodedBufferSegment base;
444     unsigned char mapped;
445     unsigned char codec;
446 };
447
448 #define I965_CODEDBUFFER_HEADER_SIZE   ALIGN(sizeof(struct i965_coded_buffer_segment), 64)
449
450 extern VAStatus i965_MapBuffer(VADriverContextP ctx,
451                 VABufferID buf_id,       /* in */
452                 void **pbuf);            /* out */
453
454 extern VAStatus i965_UnmapBuffer(VADriverContextP ctx, VABufferID buf_id);
455
456 extern VAStatus i965_DestroySurfaces(VADriverContextP ctx,
457                      VASurfaceID *surface_list,
458                      int num_surfaces);
459
460 extern VAStatus i965_CreateSurfaces(VADriverContextP ctx,
461                     int width,
462                     int height,
463                     int format,
464                     int num_surfaces,
465                     VASurfaceID *surfaces);
466
467 #define I965_SURFACE_MEM_NATIVE             0
468 #define I965_SURFACE_MEM_GEM_FLINK          1
469 #define I965_SURFACE_MEM_DRM_PRIME          2
470
471 void
472 i965_destroy_surface_storage(struct object_surface *obj_surface);
473
474 #endif /* _I965_DRV_VIDEO_H_ */