Merge tag 'v3.14.25' into backport/v3.14.24-ltsi-rc1+v3.14.25/snapshot-merge.wip
[platform/adaptation/renesas_rcar/renesas_kernel.git] / drivers / media / platform / sh_veu.c
1 /*
2  * sh-mobile VEU mem2mem driver
3  *
4  * Copyright (C) 2012 Renesas Electronics Corporation
5  * Author: Guennadi Liakhovetski, <g.liakhovetski@gmx.de>
6  * Copyright (C) 2008 Magnus Damm
7  *
8  * This program is free software; you can redistribute it and/or modify
9  * it under the terms of the version 2 of the GNU General Public License as
10  * published by the Free Software Foundation
11  */
12
13 #include <linux/err.h>
14 #include <linux/fs.h>
15 #include <linux/kernel.h>
16 #include <linux/module.h>
17 #include <linux/interrupt.h>
18 #include <linux/io.h>
19 #include <linux/platform_device.h>
20 #include <linux/pm_runtime.h>
21 #include <linux/slab.h>
22 #include <linux/types.h>
23 #include <linux/videodev2.h>
24
25 #include <media/v4l2-dev.h>
26 #include <media/v4l2-device.h>
27 #include <media/v4l2-ioctl.h>
28 #include <media/v4l2-mem2mem.h>
29 #include <media/videobuf2-dma-contig.h>
30
31 #define VEU_STR 0x00 /* start register */
32 #define VEU_SWR 0x10 /* src: line length */
33 #define VEU_SSR 0x14 /* src: image size */
34 #define VEU_SAYR 0x18 /* src: y/rgb plane address */
35 #define VEU_SACR 0x1c /* src: c plane address */
36 #define VEU_BSSR 0x20 /* bundle mode register */
37 #define VEU_EDWR 0x30 /* dst: line length */
38 #define VEU_DAYR 0x34 /* dst: y/rgb plane address */
39 #define VEU_DACR 0x38 /* dst: c plane address */
40 #define VEU_TRCR 0x50 /* transform control */
41 #define VEU_RFCR 0x54 /* resize scale */
42 #define VEU_RFSR 0x58 /* resize clip */
43 #define VEU_ENHR 0x5c /* enhance */
44 #define VEU_FMCR 0x70 /* filter mode */
45 #define VEU_VTCR 0x74 /* lowpass vertical */
46 #define VEU_HTCR 0x78 /* lowpass horizontal */
47 #define VEU_APCR 0x80 /* color match */
48 #define VEU_ECCR 0x84 /* color replace */
49 #define VEU_AFXR 0x90 /* fixed mode */
50 #define VEU_SWPR 0x94 /* swap */
51 #define VEU_EIER 0xa0 /* interrupt mask */
52 #define VEU_EVTR 0xa4 /* interrupt event */
53 #define VEU_STAR 0xb0 /* status */
54 #define VEU_BSRR 0xb4 /* reset */
55
56 #define VEU_MCR00 0x200 /* color conversion matrix coefficient 00 */
57 #define VEU_MCR01 0x204 /* color conversion matrix coefficient 01 */
58 #define VEU_MCR02 0x208 /* color conversion matrix coefficient 02 */
59 #define VEU_MCR10 0x20c /* color conversion matrix coefficient 10 */
60 #define VEU_MCR11 0x210 /* color conversion matrix coefficient 11 */
61 #define VEU_MCR12 0x214 /* color conversion matrix coefficient 12 */
62 #define VEU_MCR20 0x218 /* color conversion matrix coefficient 20 */
63 #define VEU_MCR21 0x21c /* color conversion matrix coefficient 21 */
64 #define VEU_MCR22 0x220 /* color conversion matrix coefficient 22 */
65 #define VEU_COFFR 0x224 /* color conversion offset */
66 #define VEU_CBR   0x228 /* color conversion clip */
67
68 /*
69  * 4092x4092 max size is the normal case. In some cases it can be reduced to
70  * 2048x2048, in other cases it can be 4092x8188 or even 8188x8188.
71  */
72 #define MAX_W 4092
73 #define MAX_H 4092
74 #define MIN_W 8
75 #define MIN_H 8
76 #define ALIGN_W 4
77
78 /* 3 buffers of 2048 x 1536 - 3 megapixels @ 16bpp */
79 #define VIDEO_MEM_LIMIT ALIGN(2048 * 1536 * 2 * 3, 1024 * 1024)
80
81 #define MEM2MEM_DEF_TRANSLEN 1
82
83 struct sh_veu_dev;
84
85 struct sh_veu_file {
86         struct sh_veu_dev *veu_dev;
87         bool cfg_needed;
88 };
89
90 struct sh_veu_format {
91         char *name;
92         u32 fourcc;
93         unsigned int depth;
94         unsigned int ydepth;
95 };
96
97 /* video data format */
98 struct sh_veu_vfmt {
99         /* Replace with v4l2_rect */
100         struct v4l2_rect                frame;
101         unsigned int                    bytesperline;
102         unsigned int                    offset_y;
103         unsigned int                    offset_c;
104         const struct sh_veu_format      *fmt;
105 };
106
107 struct sh_veu_dev {
108         struct v4l2_device v4l2_dev;
109         struct video_device vdev;
110         struct v4l2_m2m_dev *m2m_dev;
111         struct device *dev;
112         struct v4l2_m2m_ctx *m2m_ctx;
113         struct sh_veu_vfmt vfmt_out;
114         struct sh_veu_vfmt vfmt_in;
115         /* Only single user per direction so far */
116         struct sh_veu_file *capture;
117         struct sh_veu_file *output;
118         struct mutex fop_lock;
119         void __iomem *base;
120         struct vb2_alloc_ctx *alloc_ctx;
121         spinlock_t lock;
122         bool is_2h;
123         unsigned int xaction;
124         bool aborting;
125 };
126
127 enum sh_veu_fmt_idx {
128         SH_VEU_FMT_NV12,
129         SH_VEU_FMT_NV16,
130         SH_VEU_FMT_NV24,
131         SH_VEU_FMT_RGB332,
132         SH_VEU_FMT_RGB444,
133         SH_VEU_FMT_RGB565,
134         SH_VEU_FMT_RGB666,
135         SH_VEU_FMT_RGB24,
136 };
137
138 #define VGA_WIDTH       640
139 #define VGA_HEIGHT      480
140
141 #define DEFAULT_IN_WIDTH        VGA_WIDTH
142 #define DEFAULT_IN_HEIGHT       VGA_HEIGHT
143 #define DEFAULT_IN_FMTIDX       SH_VEU_FMT_NV12
144 #define DEFAULT_OUT_WIDTH       VGA_WIDTH
145 #define DEFAULT_OUT_HEIGHT      VGA_HEIGHT
146 #define DEFAULT_OUT_FMTIDX      SH_VEU_FMT_RGB565
147
148 /*
149  * Alignment: Y-plane should be 4-byte aligned for NV12 and NV16, and 8-byte
150  * aligned for NV24.
151  */
152 static const struct sh_veu_format sh_veu_fmt[] = {
153         [SH_VEU_FMT_NV12]   = { .ydepth = 8, .depth = 12, .name = "NV12", .fourcc = V4L2_PIX_FMT_NV12 },
154         [SH_VEU_FMT_NV16]   = { .ydepth = 8, .depth = 16, .name = "NV16", .fourcc = V4L2_PIX_FMT_NV16 },
155         [SH_VEU_FMT_NV24]   = { .ydepth = 8, .depth = 24, .name = "NV24", .fourcc = V4L2_PIX_FMT_NV24 },
156         [SH_VEU_FMT_RGB332] = { .ydepth = 8, .depth = 8, .name = "RGB332", .fourcc = V4L2_PIX_FMT_RGB332 },
157         [SH_VEU_FMT_RGB444] = { .ydepth = 16, .depth = 16, .name = "RGB444", .fourcc = V4L2_PIX_FMT_RGB444 },
158         [SH_VEU_FMT_RGB565] = { .ydepth = 16, .depth = 16, .name = "RGB565", .fourcc = V4L2_PIX_FMT_RGB565 },
159         [SH_VEU_FMT_RGB666] = { .ydepth = 32, .depth = 32, .name = "BGR666", .fourcc = V4L2_PIX_FMT_BGR666 },
160         [SH_VEU_FMT_RGB24]  = { .ydepth = 24, .depth = 24, .name = "RGB24", .fourcc = V4L2_PIX_FMT_RGB24 },
161 };
162
163 #define DEFAULT_IN_VFMT (struct sh_veu_vfmt){                                           \
164         .frame = {                                                                      \
165                 .width = VGA_WIDTH,                                                     \
166                 .height = VGA_HEIGHT,                                                   \
167         },                                                                              \
168         .bytesperline = (VGA_WIDTH * sh_veu_fmt[DEFAULT_IN_FMTIDX].ydepth) >> 3,        \
169         .fmt = &sh_veu_fmt[DEFAULT_IN_FMTIDX],                                          \
170 }
171
172 #define DEFAULT_OUT_VFMT (struct sh_veu_vfmt){                                          \
173         .frame = {                                                                      \
174                 .width = VGA_WIDTH,                                                     \
175                 .height = VGA_HEIGHT,                                                   \
176         },                                                                              \
177         .bytesperline = (VGA_WIDTH * sh_veu_fmt[DEFAULT_OUT_FMTIDX].ydepth) >> 3,       \
178         .fmt = &sh_veu_fmt[DEFAULT_OUT_FMTIDX],                                         \
179 }
180
181 /*
182  * TODO: add support for further output formats:
183  *      SH_VEU_FMT_NV12,
184  *      SH_VEU_FMT_NV16,
185  *      SH_VEU_FMT_NV24,
186  *      SH_VEU_FMT_RGB332,
187  *      SH_VEU_FMT_RGB444,
188  *      SH_VEU_FMT_RGB666,
189  *      SH_VEU_FMT_RGB24,
190  */
191
192 static const int sh_veu_fmt_out[] = {
193         SH_VEU_FMT_RGB565,
194 };
195
196 /*
197  * TODO: add support for further input formats:
198  *      SH_VEU_FMT_NV16,
199  *      SH_VEU_FMT_NV24,
200  *      SH_VEU_FMT_RGB565,
201  *      SH_VEU_FMT_RGB666,
202  *      SH_VEU_FMT_RGB24,
203  */
204 static const int sh_veu_fmt_in[] = {
205         SH_VEU_FMT_NV12,
206 };
207
208 static enum v4l2_colorspace sh_veu_4cc2cspace(u32 fourcc)
209 {
210         switch (fourcc) {
211         default:
212                 BUG();
213         case V4L2_PIX_FMT_NV12:
214         case V4L2_PIX_FMT_NV16:
215         case V4L2_PIX_FMT_NV24:
216                 return V4L2_COLORSPACE_JPEG;
217         case V4L2_PIX_FMT_RGB332:
218         case V4L2_PIX_FMT_RGB444:
219         case V4L2_PIX_FMT_RGB565:
220         case V4L2_PIX_FMT_BGR666:
221         case V4L2_PIX_FMT_RGB24:
222                 return V4L2_COLORSPACE_SRGB;
223         }
224 }
225
226 static u32 sh_veu_reg_read(struct sh_veu_dev *veu, unsigned int reg)
227 {
228         return ioread32(veu->base + reg);
229 }
230
231 static void sh_veu_reg_write(struct sh_veu_dev *veu, unsigned int reg,
232                              u32 value)
233 {
234         iowrite32(value, veu->base + reg);
235 }
236
237                 /* ========== mem2mem callbacks ========== */
238
239 static void sh_veu_job_abort(void *priv)
240 {
241         struct sh_veu_dev *veu = priv;
242
243         /* Will cancel the transaction in the next interrupt handler */
244         veu->aborting = true;
245 }
246
247 static void sh_veu_lock(void *priv)
248 {
249         struct sh_veu_dev *veu = priv;
250
251         mutex_lock(&veu->fop_lock);
252 }
253
254 static void sh_veu_unlock(void *priv)
255 {
256         struct sh_veu_dev *veu = priv;
257
258         mutex_unlock(&veu->fop_lock);
259 }
260
261 static void sh_veu_process(struct sh_veu_dev *veu,
262                            struct vb2_buffer *src_buf,
263                            struct vb2_buffer *dst_buf)
264 {
265         dma_addr_t addr = vb2_dma_contig_plane_dma_addr(dst_buf, 0);
266
267         sh_veu_reg_write(veu, VEU_DAYR, addr + veu->vfmt_out.offset_y);
268         sh_veu_reg_write(veu, VEU_DACR, veu->vfmt_out.offset_c ?
269                          addr + veu->vfmt_out.offset_c : 0);
270         dev_dbg(veu->dev, "%s(): dst base %lx, y: %x, c: %x\n", __func__,
271                 (unsigned long)addr,
272                 veu->vfmt_out.offset_y, veu->vfmt_out.offset_c);
273
274         addr = vb2_dma_contig_plane_dma_addr(src_buf, 0);
275         sh_veu_reg_write(veu, VEU_SAYR, addr + veu->vfmt_in.offset_y);
276         sh_veu_reg_write(veu, VEU_SACR, veu->vfmt_in.offset_c ?
277                          addr + veu->vfmt_in.offset_c : 0);
278         dev_dbg(veu->dev, "%s(): src base %lx, y: %x, c: %x\n", __func__,
279                 (unsigned long)addr,
280                 veu->vfmt_in.offset_y, veu->vfmt_in.offset_c);
281
282         sh_veu_reg_write(veu, VEU_STR, 1);
283
284         sh_veu_reg_write(veu, VEU_EIER, 1); /* enable interrupt in VEU */
285 }
286
287 /**
288  * sh_veu_device_run() - prepares and starts the device
289  *
290  * This will be called by the framework when it decides to schedule a particular
291  * instance.
292  */
293 static void sh_veu_device_run(void *priv)
294 {
295         struct sh_veu_dev *veu = priv;
296         struct vb2_buffer *src_buf, *dst_buf;
297
298         src_buf = v4l2_m2m_next_src_buf(veu->m2m_ctx);
299         dst_buf = v4l2_m2m_next_dst_buf(veu->m2m_ctx);
300
301         if (src_buf && dst_buf)
302                 sh_veu_process(veu, src_buf, dst_buf);
303 }
304
305                 /* ========== video ioctls ========== */
306
307 static bool sh_veu_is_streamer(struct sh_veu_dev *veu, struct sh_veu_file *veu_file,
308                                enum v4l2_buf_type type)
309 {
310         return (type == V4L2_BUF_TYPE_VIDEO_CAPTURE &&
311                 veu_file == veu->capture) ||
312                 (type == V4L2_BUF_TYPE_VIDEO_OUTPUT &&
313                  veu_file == veu->output);
314 }
315
316 static int sh_veu_queue_init(void *priv, struct vb2_queue *src_vq,
317                              struct vb2_queue *dst_vq);
318
319 /*
320  * It is not unusual to have video nodes open()ed multiple times. While some
321  * V4L2 operations are non-intrusive, like querying formats and various
322  * parameters, others, like setting formats, starting and stopping streaming,
323  * queuing and dequeuing buffers, directly affect hardware configuration and /
324  * or execution. This function verifies availability of the requested interface
325  * and, if available, reserves it for the requesting user.
326  */
327 static int sh_veu_stream_init(struct sh_veu_dev *veu, struct sh_veu_file *veu_file,
328                               enum v4l2_buf_type type)
329 {
330         struct sh_veu_file **stream;
331
332         switch (type) {
333         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
334                 stream = &veu->capture;
335                 break;
336         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
337                 stream = &veu->output;
338                 break;
339         default:
340                 return -EINVAL;
341         }
342
343         if (*stream == veu_file)
344                 return 0;
345
346         if (*stream)
347                 return -EBUSY;
348
349         *stream = veu_file;
350
351         return 0;
352 }
353
354 static int sh_veu_context_init(struct sh_veu_dev *veu)
355 {
356         if (veu->m2m_ctx)
357                 return 0;
358
359         veu->m2m_ctx = v4l2_m2m_ctx_init(veu->m2m_dev, veu,
360                                          sh_veu_queue_init);
361
362         return PTR_ERR_OR_ZERO(veu->m2m_ctx);
363 }
364
365 static int sh_veu_querycap(struct file *file, void *priv,
366                            struct v4l2_capability *cap)
367 {
368         strlcpy(cap->driver, "sh-veu", sizeof(cap->driver));
369         strlcpy(cap->card, "sh-mobile VEU", sizeof(cap->card));
370         strlcpy(cap->bus_info, "platform:sh-veu", sizeof(cap->bus_info));
371         cap->device_caps = V4L2_CAP_VIDEO_M2M | V4L2_CAP_STREAMING;
372         cap->capabilities = cap->device_caps | V4L2_CAP_DEVICE_CAPS;
373
374         return 0;
375 }
376
377 static int sh_veu_enum_fmt(struct v4l2_fmtdesc *f, const int *fmt, int fmt_num)
378 {
379         if (f->index >= fmt_num)
380                 return -EINVAL;
381
382         strlcpy(f->description, sh_veu_fmt[fmt[f->index]].name, sizeof(f->description));
383         f->pixelformat = sh_veu_fmt[fmt[f->index]].fourcc;
384         return 0;
385 }
386
387 static int sh_veu_enum_fmt_vid_cap(struct file *file, void *priv,
388                                    struct v4l2_fmtdesc *f)
389 {
390         return sh_veu_enum_fmt(f, sh_veu_fmt_out, ARRAY_SIZE(sh_veu_fmt_out));
391 }
392
393 static int sh_veu_enum_fmt_vid_out(struct file *file, void *priv,
394                                    struct v4l2_fmtdesc *f)
395 {
396         return sh_veu_enum_fmt(f, sh_veu_fmt_in, ARRAY_SIZE(sh_veu_fmt_in));
397 }
398
399 static struct sh_veu_vfmt *sh_veu_get_vfmt(struct sh_veu_dev *veu,
400                                            enum v4l2_buf_type type)
401 {
402         switch (type) {
403         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
404                 return &veu->vfmt_out;
405         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
406                 return &veu->vfmt_in;
407         default:
408                 return NULL;
409         }
410 }
411
412 static int sh_veu_g_fmt(struct sh_veu_file *veu_file, struct v4l2_format *f)
413 {
414         struct v4l2_pix_format *pix = &f->fmt.pix;
415         struct sh_veu_dev *veu = veu_file->veu_dev;
416         struct sh_veu_vfmt *vfmt;
417
418         vfmt = sh_veu_get_vfmt(veu, f->type);
419
420         pix->width              = vfmt->frame.width;
421         pix->height             = vfmt->frame.height;
422         pix->field              = V4L2_FIELD_NONE;
423         pix->pixelformat        = vfmt->fmt->fourcc;
424         pix->colorspace         = sh_veu_4cc2cspace(pix->pixelformat);
425         pix->bytesperline       = vfmt->bytesperline;
426         pix->sizeimage          = vfmt->bytesperline * pix->height *
427                 vfmt->fmt->depth / vfmt->fmt->ydepth;
428         dev_dbg(veu->dev, "%s(): type: %d, size %u @ %ux%u, fmt %x\n", __func__,
429                 f->type, pix->sizeimage, pix->width, pix->height, pix->pixelformat);
430
431         return 0;
432 }
433
434 static int sh_veu_g_fmt_vid_out(struct file *file, void *priv,
435                                 struct v4l2_format *f)
436 {
437         return sh_veu_g_fmt(priv, f);
438 }
439
440 static int sh_veu_g_fmt_vid_cap(struct file *file, void *priv,
441                                 struct v4l2_format *f)
442 {
443         return sh_veu_g_fmt(priv, f);
444 }
445
446 static int sh_veu_try_fmt(struct v4l2_format *f, const struct sh_veu_format *fmt)
447 {
448         struct v4l2_pix_format *pix = &f->fmt.pix;
449         unsigned int y_bytes_used;
450
451         /*
452          * V4L2 specification suggests, that the driver should correct the
453          * format struct if any of the dimensions is unsupported
454          */
455         switch (pix->field) {
456         default:
457         case V4L2_FIELD_ANY:
458                 pix->field = V4L2_FIELD_NONE;
459                 /* fall through: continue handling V4L2_FIELD_NONE */
460         case V4L2_FIELD_NONE:
461                 break;
462         }
463
464         v4l_bound_align_image(&pix->width, MIN_W, MAX_W, ALIGN_W,
465                               &pix->height, MIN_H, MAX_H, 0, 0);
466
467         y_bytes_used = (pix->width * fmt->ydepth) >> 3;
468
469         if (pix->bytesperline < y_bytes_used)
470                 pix->bytesperline = y_bytes_used;
471         pix->sizeimage = pix->height * pix->bytesperline * fmt->depth / fmt->ydepth;
472
473         pix->pixelformat        = fmt->fourcc;
474         pix->colorspace         = sh_veu_4cc2cspace(pix->pixelformat);
475
476         pr_debug("%s(): type: %d, size %u\n", __func__, f->type, pix->sizeimage);
477
478         return 0;
479 }
480
481 static const struct sh_veu_format *sh_veu_find_fmt(const struct v4l2_format *f)
482 {
483         const int *fmt;
484         int i, n, dflt;
485
486         pr_debug("%s(%d;%d)\n", __func__, f->type, f->fmt.pix.field);
487
488         switch (f->type) {
489         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
490                 fmt = sh_veu_fmt_out;
491                 n = ARRAY_SIZE(sh_veu_fmt_out);
492                 dflt = DEFAULT_OUT_FMTIDX;
493                 break;
494         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
495         default:
496                 fmt = sh_veu_fmt_in;
497                 n = ARRAY_SIZE(sh_veu_fmt_in);
498                 dflt = DEFAULT_IN_FMTIDX;
499                 break;
500         }
501
502         for (i = 0; i < n; i++)
503                 if (sh_veu_fmt[fmt[i]].fourcc == f->fmt.pix.pixelformat)
504                         return &sh_veu_fmt[fmt[i]];
505
506         return &sh_veu_fmt[dflt];
507 }
508
509 static int sh_veu_try_fmt_vid_cap(struct file *file, void *priv,
510                                   struct v4l2_format *f)
511 {
512         const struct sh_veu_format *fmt;
513
514         fmt = sh_veu_find_fmt(f);
515         if (!fmt)
516                 /* wrong buffer type */
517                 return -EINVAL;
518
519         return sh_veu_try_fmt(f, fmt);
520 }
521
522 static int sh_veu_try_fmt_vid_out(struct file *file, void *priv,
523                                   struct v4l2_format *f)
524 {
525         const struct sh_veu_format *fmt;
526
527         fmt = sh_veu_find_fmt(f);
528         if (!fmt)
529                 /* wrong buffer type */
530                 return -EINVAL;
531
532         return sh_veu_try_fmt(f, fmt);
533 }
534
535 static void sh_veu_colour_offset(struct sh_veu_dev *veu, struct sh_veu_vfmt *vfmt)
536 {
537         /* dst_left and dst_top validity will be verified in CROP / COMPOSE */
538         unsigned int left = vfmt->frame.left & ~0x03;
539         unsigned int top = vfmt->frame.top;
540         dma_addr_t offset = ((left * veu->vfmt_out.fmt->depth) >> 3) +
541                 top * veu->vfmt_out.bytesperline;
542         unsigned int y_line;
543
544         vfmt->offset_y = offset;
545
546         switch (vfmt->fmt->fourcc) {
547         case V4L2_PIX_FMT_NV12:
548         case V4L2_PIX_FMT_NV16:
549         case V4L2_PIX_FMT_NV24:
550                 y_line = ALIGN(vfmt->frame.width, 16);
551                 vfmt->offset_c = offset + y_line * vfmt->frame.height;
552                 break;
553         case V4L2_PIX_FMT_RGB332:
554         case V4L2_PIX_FMT_RGB444:
555         case V4L2_PIX_FMT_RGB565:
556         case V4L2_PIX_FMT_BGR666:
557         case V4L2_PIX_FMT_RGB24:
558                 vfmt->offset_c = 0;
559                 break;
560         default:
561                 BUG();
562         }
563 }
564
565 static int sh_veu_s_fmt(struct sh_veu_file *veu_file, struct v4l2_format *f)
566 {
567         struct v4l2_pix_format *pix = &f->fmt.pix;
568         struct sh_veu_dev *veu = veu_file->veu_dev;
569         struct sh_veu_vfmt *vfmt;
570         struct vb2_queue *vq;
571         int ret = sh_veu_context_init(veu);
572         if (ret < 0)
573                 return ret;
574
575         vq = v4l2_m2m_get_vq(veu->m2m_ctx, f->type);
576         if (!vq)
577                 return -EINVAL;
578
579         if (vb2_is_busy(vq)) {
580                 v4l2_err(&veu_file->veu_dev->v4l2_dev, "%s queue busy\n", __func__);
581                 return -EBUSY;
582         }
583
584         vfmt = sh_veu_get_vfmt(veu, f->type);
585         /* called after try_fmt(), hence vfmt != NULL. Implicit BUG_ON() below */
586
587         vfmt->fmt               = sh_veu_find_fmt(f);
588         /* vfmt->fmt != NULL following the same argument as above */
589         vfmt->frame.width       = pix->width;
590         vfmt->frame.height      = pix->height;
591         vfmt->bytesperline      = pix->bytesperline;
592
593         sh_veu_colour_offset(veu, vfmt);
594
595         /*
596          * We could also verify and require configuration only if any parameters
597          * actually have changed, but it is unlikely, that the user requests the
598          * same configuration several times without closing the device.
599          */
600         veu_file->cfg_needed = true;
601
602         dev_dbg(veu->dev,
603                 "Setting format for type %d, wxh: %dx%d, fmt: %x\n",
604                 f->type, pix->width, pix->height, vfmt->fmt->fourcc);
605
606         return 0;
607 }
608
609 static int sh_veu_s_fmt_vid_cap(struct file *file, void *priv,
610                                 struct v4l2_format *f)
611 {
612         int ret = sh_veu_try_fmt_vid_cap(file, priv, f);
613         if (ret)
614                 return ret;
615
616         return sh_veu_s_fmt(priv, f);
617 }
618
619 static int sh_veu_s_fmt_vid_out(struct file *file, void *priv,
620                                 struct v4l2_format *f)
621 {
622         int ret = sh_veu_try_fmt_vid_out(file, priv, f);
623         if (ret)
624                 return ret;
625
626         return sh_veu_s_fmt(priv, f);
627 }
628
629 static int sh_veu_reqbufs(struct file *file, void *priv,
630                           struct v4l2_requestbuffers *reqbufs)
631 {
632         struct sh_veu_file *veu_file = priv;
633         struct sh_veu_dev *veu = veu_file->veu_dev;
634         int ret = sh_veu_context_init(veu);
635         if (ret < 0)
636                 return ret;
637
638         ret = sh_veu_stream_init(veu, veu_file, reqbufs->type);
639         if (ret < 0)
640                 return ret;
641
642         return v4l2_m2m_reqbufs(file, veu->m2m_ctx, reqbufs);
643 }
644
645 static int sh_veu_querybuf(struct file *file, void *priv,
646                            struct v4l2_buffer *buf)
647 {
648         struct sh_veu_file *veu_file = priv;
649
650         if (!sh_veu_is_streamer(veu_file->veu_dev, veu_file, buf->type))
651                 return -EBUSY;
652
653         return v4l2_m2m_querybuf(file, veu_file->veu_dev->m2m_ctx, buf);
654 }
655
656 static int sh_veu_qbuf(struct file *file, void *priv, struct v4l2_buffer *buf)
657 {
658         struct sh_veu_file *veu_file = priv;
659
660         dev_dbg(veu_file->veu_dev->dev, "%s(%d)\n", __func__, buf->type);
661         if (!sh_veu_is_streamer(veu_file->veu_dev, veu_file, buf->type))
662                 return -EBUSY;
663
664         return v4l2_m2m_qbuf(file, veu_file->veu_dev->m2m_ctx, buf);
665 }
666
667 static int sh_veu_dqbuf(struct file *file, void *priv, struct v4l2_buffer *buf)
668 {
669         struct sh_veu_file *veu_file = priv;
670
671         dev_dbg(veu_file->veu_dev->dev, "%s(%d)\n", __func__, buf->type);
672         if (!sh_veu_is_streamer(veu_file->veu_dev, veu_file, buf->type))
673                 return -EBUSY;
674
675         return v4l2_m2m_dqbuf(file, veu_file->veu_dev->m2m_ctx, buf);
676 }
677
678 static void sh_veu_calc_scale(struct sh_veu_dev *veu,
679                               int size_in, int size_out, int crop_out,
680                               u32 *mant, u32 *frac, u32 *rep)
681 {
682         u32 fixpoint;
683
684         /* calculate FRAC and MANT */
685         *rep = *mant = *frac = 0;
686
687         if (size_in == size_out) {
688                 if (crop_out != size_out)
689                         *mant = 1; /* needed for cropping */
690                 return;
691         }
692
693         /* VEU2H special upscale */
694         if (veu->is_2h && size_out > size_in) {
695                 u32 fixpoint = (4096 * size_in) / size_out;
696                 *mant = fixpoint / 4096;
697                 *frac = (fixpoint - (*mant * 4096)) & ~0x07;
698
699                 switch (*frac) {
700                 case 0x800:
701                         *rep = 1;
702                         break;
703                 case 0x400:
704                         *rep = 3;
705                         break;
706                 case 0x200:
707                         *rep = 7;
708                         break;
709                 }
710                 if (*rep)
711                         return;
712         }
713
714         fixpoint = (4096 * (size_in - 1)) / (size_out + 1);
715         *mant = fixpoint / 4096;
716         *frac = fixpoint - (*mant * 4096);
717
718         if (*frac & 0x07) {
719                 /*
720                  * FIXME: do we really have to round down twice in the
721                  * up-scaling case?
722                  */
723                 *frac &= ~0x07;
724                 if (size_out > size_in)
725                         *frac -= 8; /* round down if scaling up */
726                 else
727                         *frac += 8; /* round up if scaling down */
728         }
729 }
730
731 static unsigned long sh_veu_scale_v(struct sh_veu_dev *veu,
732                                     int size_in, int size_out, int crop_out)
733 {
734         u32 mant, frac, value, rep;
735
736         sh_veu_calc_scale(veu, size_in, size_out, crop_out, &mant, &frac, &rep);
737
738         /* set scale */
739         value = (sh_veu_reg_read(veu, VEU_RFCR) & ~0xffff0000) |
740                 (((mant << 12) | frac) << 16);
741
742         sh_veu_reg_write(veu, VEU_RFCR, value);
743
744         /* set clip */
745         value = (sh_veu_reg_read(veu, VEU_RFSR) & ~0xffff0000) |
746                 (((rep << 12) | crop_out) << 16);
747
748         sh_veu_reg_write(veu, VEU_RFSR, value);
749
750         return ALIGN((size_in * crop_out) / size_out, 4);
751 }
752
753 static unsigned long sh_veu_scale_h(struct sh_veu_dev *veu,
754                                     int size_in, int size_out, int crop_out)
755 {
756         u32 mant, frac, value, rep;
757
758         sh_veu_calc_scale(veu, size_in, size_out, crop_out, &mant, &frac, &rep);
759
760         /* set scale */
761         value = (sh_veu_reg_read(veu, VEU_RFCR) & ~0xffff) |
762                 (mant << 12) | frac;
763
764         sh_veu_reg_write(veu, VEU_RFCR, value);
765
766         /* set clip */
767         value = (sh_veu_reg_read(veu, VEU_RFSR) & ~0xffff) |
768                 (rep << 12) | crop_out;
769
770         sh_veu_reg_write(veu, VEU_RFSR, value);
771
772         return ALIGN((size_in * crop_out) / size_out, 4);
773 }
774
775 static void sh_veu_configure(struct sh_veu_dev *veu)
776 {
777         u32 src_width, src_stride, src_height;
778         u32 dst_width, dst_stride, dst_height;
779         u32 real_w, real_h;
780
781         /* reset VEU */
782         sh_veu_reg_write(veu, VEU_BSRR, 0x100);
783
784         src_width = veu->vfmt_in.frame.width;
785         src_height = veu->vfmt_in.frame.height;
786         src_stride = ALIGN(veu->vfmt_in.frame.width, 16);
787
788         dst_width = real_w = veu->vfmt_out.frame.width;
789         dst_height = real_h = veu->vfmt_out.frame.height;
790         /* Datasheet is unclear - whether it's always number of bytes or not */
791         dst_stride = veu->vfmt_out.bytesperline;
792
793         /*
794          * So far real_w == dst_width && real_h == dst_height, but it wasn't
795          * necessarily the case in the original vidix driver, so, it may change
796          * here in the future too.
797          */
798         src_width = sh_veu_scale_h(veu, src_width, real_w, dst_width);
799         src_height = sh_veu_scale_v(veu, src_height, real_h, dst_height);
800
801         sh_veu_reg_write(veu, VEU_SWR, src_stride);
802         sh_veu_reg_write(veu, VEU_SSR, src_width | (src_height << 16));
803         sh_veu_reg_write(veu, VEU_BSSR, 0); /* not using bundle mode */
804
805         sh_veu_reg_write(veu, VEU_EDWR, dst_stride);
806         sh_veu_reg_write(veu, VEU_DACR, 0); /* unused for RGB */
807
808         sh_veu_reg_write(veu, VEU_SWPR, 0x67);
809         sh_veu_reg_write(veu, VEU_TRCR, (6 << 16) | (0 << 14) | 2 | 4);
810
811         if (veu->is_2h) {
812                 sh_veu_reg_write(veu, VEU_MCR00, 0x0cc5);
813                 sh_veu_reg_write(veu, VEU_MCR01, 0x0950);
814                 sh_veu_reg_write(veu, VEU_MCR02, 0x0000);
815
816                 sh_veu_reg_write(veu, VEU_MCR10, 0x397f);
817                 sh_veu_reg_write(veu, VEU_MCR11, 0x0950);
818                 sh_veu_reg_write(veu, VEU_MCR12, 0x3ccd);
819
820                 sh_veu_reg_write(veu, VEU_MCR20, 0x0000);
821                 sh_veu_reg_write(veu, VEU_MCR21, 0x0950);
822                 sh_veu_reg_write(veu, VEU_MCR22, 0x1023);
823
824                 sh_veu_reg_write(veu, VEU_COFFR, 0x00800010);
825         }
826 }
827
828 static int sh_veu_streamon(struct file *file, void *priv,
829                            enum v4l2_buf_type type)
830 {
831         struct sh_veu_file *veu_file = priv;
832
833         if (!sh_veu_is_streamer(veu_file->veu_dev, veu_file, type))
834                 return -EBUSY;
835
836         if (veu_file->cfg_needed) {
837                 struct sh_veu_dev *veu = veu_file->veu_dev;
838                 veu_file->cfg_needed = false;
839                 sh_veu_configure(veu_file->veu_dev);
840                 veu->xaction = 0;
841                 veu->aborting = false;
842         }
843
844         return v4l2_m2m_streamon(file, veu_file->veu_dev->m2m_ctx, type);
845 }
846
847 static int sh_veu_streamoff(struct file *file, void *priv,
848                             enum v4l2_buf_type type)
849 {
850         struct sh_veu_file *veu_file = priv;
851
852         if (!sh_veu_is_streamer(veu_file->veu_dev, veu_file, type))
853                 return -EBUSY;
854
855         return v4l2_m2m_streamoff(file, veu_file->veu_dev->m2m_ctx, type);
856 }
857
858 static const struct v4l2_ioctl_ops sh_veu_ioctl_ops = {
859         .vidioc_querycap        = sh_veu_querycap,
860
861         .vidioc_enum_fmt_vid_cap = sh_veu_enum_fmt_vid_cap,
862         .vidioc_g_fmt_vid_cap   = sh_veu_g_fmt_vid_cap,
863         .vidioc_try_fmt_vid_cap = sh_veu_try_fmt_vid_cap,
864         .vidioc_s_fmt_vid_cap   = sh_veu_s_fmt_vid_cap,
865
866         .vidioc_enum_fmt_vid_out = sh_veu_enum_fmt_vid_out,
867         .vidioc_g_fmt_vid_out   = sh_veu_g_fmt_vid_out,
868         .vidioc_try_fmt_vid_out = sh_veu_try_fmt_vid_out,
869         .vidioc_s_fmt_vid_out   = sh_veu_s_fmt_vid_out,
870
871         .vidioc_reqbufs         = sh_veu_reqbufs,
872         .vidioc_querybuf        = sh_veu_querybuf,
873
874         .vidioc_qbuf            = sh_veu_qbuf,
875         .vidioc_dqbuf           = sh_veu_dqbuf,
876
877         .vidioc_streamon        = sh_veu_streamon,
878         .vidioc_streamoff       = sh_veu_streamoff,
879 };
880
881                 /* ========== Queue operations ========== */
882
883 static int sh_veu_queue_setup(struct vb2_queue *vq,
884                               const struct v4l2_format *f,
885                               unsigned int *nbuffers, unsigned int *nplanes,
886                               unsigned int sizes[], void *alloc_ctxs[])
887 {
888         struct sh_veu_dev *veu = vb2_get_drv_priv(vq);
889         struct sh_veu_vfmt *vfmt;
890         unsigned int size, count = *nbuffers;
891
892         if (f) {
893                 const struct v4l2_pix_format *pix = &f->fmt.pix;
894                 const struct sh_veu_format *fmt = sh_veu_find_fmt(f);
895                 struct v4l2_format ftmp = *f;
896
897                 if (fmt->fourcc != pix->pixelformat)
898                         return -EINVAL;
899                 sh_veu_try_fmt(&ftmp, fmt);
900                 if (ftmp.fmt.pix.width != pix->width ||
901                     ftmp.fmt.pix.height != pix->height)
902                         return -EINVAL;
903                 size = pix->bytesperline ? pix->bytesperline * pix->height * fmt->depth / fmt->ydepth :
904                         pix->width * pix->height * fmt->depth / fmt->ydepth;
905         } else {
906                 vfmt = sh_veu_get_vfmt(veu, vq->type);
907                 size = vfmt->bytesperline * vfmt->frame.height * vfmt->fmt->depth / vfmt->fmt->ydepth;
908         }
909
910         if (count < 2)
911                 *nbuffers = count = 2;
912
913         if (size * count > VIDEO_MEM_LIMIT) {
914                 count = VIDEO_MEM_LIMIT / size;
915                 *nbuffers = count;
916         }
917
918         *nplanes = 1;
919         sizes[0] = size;
920         alloc_ctxs[0] = veu->alloc_ctx;
921
922         dev_dbg(veu->dev, "get %d buffer(s) of size %d each.\n", count, size);
923
924         return 0;
925 }
926
927 static int sh_veu_buf_prepare(struct vb2_buffer *vb)
928 {
929         struct sh_veu_dev *veu = vb2_get_drv_priv(vb->vb2_queue);
930         struct sh_veu_vfmt *vfmt;
931         unsigned int sizeimage;
932
933         vfmt = sh_veu_get_vfmt(veu, vb->vb2_queue->type);
934         sizeimage = vfmt->bytesperline * vfmt->frame.height *
935                 vfmt->fmt->depth / vfmt->fmt->ydepth;
936
937         if (vb2_plane_size(vb, 0) < sizeimage) {
938                 dev_dbg(veu->dev, "%s data will not fit into plane (%lu < %u)\n",
939                         __func__, vb2_plane_size(vb, 0), sizeimage);
940                 return -EINVAL;
941         }
942
943         vb2_set_plane_payload(vb, 0, sizeimage);
944
945         return 0;
946 }
947
948 static void sh_veu_buf_queue(struct vb2_buffer *vb)
949 {
950         struct sh_veu_dev *veu = vb2_get_drv_priv(vb->vb2_queue);
951         dev_dbg(veu->dev, "%s(%d)\n", __func__, vb->v4l2_buf.type);
952         v4l2_m2m_buf_queue(veu->m2m_ctx, vb);
953 }
954
955 static void sh_veu_wait_prepare(struct vb2_queue *q)
956 {
957         sh_veu_unlock(vb2_get_drv_priv(q));
958 }
959
960 static void sh_veu_wait_finish(struct vb2_queue *q)
961 {
962         sh_veu_lock(vb2_get_drv_priv(q));
963 }
964
965 static const struct vb2_ops sh_veu_qops = {
966         .queue_setup     = sh_veu_queue_setup,
967         .buf_prepare     = sh_veu_buf_prepare,
968         .buf_queue       = sh_veu_buf_queue,
969         .wait_prepare    = sh_veu_wait_prepare,
970         .wait_finish     = sh_veu_wait_finish,
971 };
972
973 static int sh_veu_queue_init(void *priv, struct vb2_queue *src_vq,
974                              struct vb2_queue *dst_vq)
975 {
976         int ret;
977
978         memset(src_vq, 0, sizeof(*src_vq));
979         src_vq->type = V4L2_BUF_TYPE_VIDEO_OUTPUT;
980         src_vq->io_modes = VB2_MMAP | VB2_USERPTR;
981         src_vq->drv_priv = priv;
982         src_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
983         src_vq->ops = &sh_veu_qops;
984         src_vq->mem_ops = &vb2_dma_contig_memops;
985
986         ret = vb2_queue_init(src_vq);
987         if (ret < 0)
988                 return ret;
989
990         memset(dst_vq, 0, sizeof(*dst_vq));
991         dst_vq->type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
992         dst_vq->io_modes = VB2_MMAP | VB2_USERPTR;
993         dst_vq->drv_priv = priv;
994         dst_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
995         dst_vq->ops = &sh_veu_qops;
996         dst_vq->mem_ops = &vb2_dma_contig_memops;
997
998         return vb2_queue_init(dst_vq);
999 }
1000
1001                 /* ========== File operations ========== */
1002
1003 static int sh_veu_open(struct file *file)
1004 {
1005         struct sh_veu_dev *veu = video_drvdata(file);
1006         struct sh_veu_file *veu_file;
1007
1008         veu_file = kzalloc(sizeof(*veu_file), GFP_KERNEL);
1009         if (!veu_file)
1010                 return -ENOMEM;
1011
1012         veu_file->veu_dev = veu;
1013         veu_file->cfg_needed = true;
1014
1015         file->private_data = veu_file;
1016
1017         pm_runtime_get_sync(veu->dev);
1018
1019         dev_dbg(veu->dev, "Created instance %p\n", veu_file);
1020
1021         return 0;
1022 }
1023
1024 static int sh_veu_release(struct file *file)
1025 {
1026         struct sh_veu_dev *veu = video_drvdata(file);
1027         struct sh_veu_file *veu_file = file->private_data;
1028
1029         dev_dbg(veu->dev, "Releasing instance %p\n", veu_file);
1030
1031         if (veu_file == veu->capture) {
1032                 veu->capture = NULL;
1033                 vb2_queue_release(v4l2_m2m_get_vq(veu->m2m_ctx, V4L2_BUF_TYPE_VIDEO_CAPTURE));
1034         }
1035
1036         if (veu_file == veu->output) {
1037                 veu->output = NULL;
1038                 vb2_queue_release(v4l2_m2m_get_vq(veu->m2m_ctx, V4L2_BUF_TYPE_VIDEO_OUTPUT));
1039         }
1040
1041         if (!veu->output && !veu->capture && veu->m2m_ctx) {
1042                 v4l2_m2m_ctx_release(veu->m2m_ctx);
1043                 veu->m2m_ctx = NULL;
1044         }
1045
1046         pm_runtime_put(veu->dev);
1047
1048         kfree(veu_file);
1049
1050         return 0;
1051 }
1052
1053 static unsigned int sh_veu_poll(struct file *file,
1054                                 struct poll_table_struct *wait)
1055 {
1056         struct sh_veu_file *veu_file = file->private_data;
1057
1058         return v4l2_m2m_poll(file, veu_file->veu_dev->m2m_ctx, wait);
1059 }
1060
1061 static int sh_veu_mmap(struct file *file, struct vm_area_struct *vma)
1062 {
1063         struct sh_veu_file *veu_file = file->private_data;
1064
1065         return v4l2_m2m_mmap(file, veu_file->veu_dev->m2m_ctx, vma);
1066 }
1067
1068 static const struct v4l2_file_operations sh_veu_fops = {
1069         .owner          = THIS_MODULE,
1070         .open           = sh_veu_open,
1071         .release        = sh_veu_release,
1072         .poll           = sh_veu_poll,
1073         .unlocked_ioctl = video_ioctl2,
1074         .mmap           = sh_veu_mmap,
1075 };
1076
1077 static const struct video_device sh_veu_videodev = {
1078         .name           = "sh-veu",
1079         .fops           = &sh_veu_fops,
1080         .ioctl_ops      = &sh_veu_ioctl_ops,
1081         .minor          = -1,
1082         .release        = video_device_release_empty,
1083         .vfl_dir        = VFL_DIR_M2M,
1084 };
1085
1086 static const struct v4l2_m2m_ops sh_veu_m2m_ops = {
1087         .device_run     = sh_veu_device_run,
1088         .job_abort      = sh_veu_job_abort,
1089 };
1090
1091 static irqreturn_t sh_veu_bh(int irq, void *dev_id)
1092 {
1093         struct sh_veu_dev *veu = dev_id;
1094
1095         if (veu->xaction == MEM2MEM_DEF_TRANSLEN || veu->aborting) {
1096                 v4l2_m2m_job_finish(veu->m2m_dev, veu->m2m_ctx);
1097                 veu->xaction = 0;
1098         } else {
1099                 sh_veu_device_run(veu);
1100         }
1101
1102         return IRQ_HANDLED;
1103 }
1104
1105 static irqreturn_t sh_veu_isr(int irq, void *dev_id)
1106 {
1107         struct sh_veu_dev *veu = dev_id;
1108         struct vb2_buffer *dst;
1109         struct vb2_buffer *src;
1110         u32 status = sh_veu_reg_read(veu, VEU_EVTR);
1111
1112         /* bundle read mode not used */
1113         if (!(status & 1))
1114                 return IRQ_NONE;
1115
1116         /* disable interrupt in VEU */
1117         sh_veu_reg_write(veu, VEU_EIER, 0);
1118         /* halt operation */
1119         sh_veu_reg_write(veu, VEU_STR, 0);
1120         /* ack int, write 0 to clear bits */
1121         sh_veu_reg_write(veu, VEU_EVTR, status & ~1);
1122
1123         /* conversion completed */
1124         dst = v4l2_m2m_dst_buf_remove(veu->m2m_ctx);
1125         src = v4l2_m2m_src_buf_remove(veu->m2m_ctx);
1126         if (!src || !dst)
1127                 return IRQ_NONE;
1128
1129         spin_lock(&veu->lock);
1130         v4l2_m2m_buf_done(src, VB2_BUF_STATE_DONE);
1131         v4l2_m2m_buf_done(dst, VB2_BUF_STATE_DONE);
1132         spin_unlock(&veu->lock);
1133
1134         veu->xaction++;
1135
1136         return IRQ_WAKE_THREAD;
1137 }
1138
1139 static int sh_veu_probe(struct platform_device *pdev)
1140 {
1141         struct sh_veu_dev *veu;
1142         struct resource *reg_res;
1143         struct video_device *vdev;
1144         int irq, ret;
1145
1146         reg_res = platform_get_resource(pdev, IORESOURCE_MEM, 0);
1147         irq = platform_get_irq(pdev, 0);
1148
1149         if (!reg_res || irq <= 0) {
1150                 dev_err(&pdev->dev, "Insufficient VEU platform information.\n");
1151                 return -ENODEV;
1152         }
1153
1154         veu = devm_kzalloc(&pdev->dev, sizeof(*veu), GFP_KERNEL);
1155         if (!veu)
1156                 return -ENOMEM;
1157
1158         veu->is_2h = resource_size(reg_res) == 0x22c;
1159
1160         veu->base = devm_ioremap_resource(&pdev->dev, reg_res);
1161         if (IS_ERR(veu->base))
1162                 return PTR_ERR(veu->base);
1163
1164         ret = devm_request_threaded_irq(&pdev->dev, irq, sh_veu_isr, sh_veu_bh,
1165                                         0, "veu", veu);
1166         if (ret < 0)
1167                 return ret;
1168
1169         ret = v4l2_device_register(&pdev->dev, &veu->v4l2_dev);
1170         if (ret < 0) {
1171                 dev_err(&pdev->dev, "Error registering v4l2 device\n");
1172                 return ret;
1173         }
1174
1175         vdev = &veu->vdev;
1176
1177         veu->alloc_ctx = vb2_dma_contig_init_ctx(&pdev->dev);
1178         if (IS_ERR(veu->alloc_ctx)) {
1179                 ret = PTR_ERR(veu->alloc_ctx);
1180                 goto einitctx;
1181         }
1182
1183         *vdev = sh_veu_videodev;
1184         spin_lock_init(&veu->lock);
1185         mutex_init(&veu->fop_lock);
1186         vdev->lock = &veu->fop_lock;
1187
1188         video_set_drvdata(vdev, veu);
1189
1190         veu->dev        = &pdev->dev;
1191         veu->vfmt_out   = DEFAULT_OUT_VFMT;
1192         veu->vfmt_in    = DEFAULT_IN_VFMT;
1193
1194         veu->m2m_dev = v4l2_m2m_init(&sh_veu_m2m_ops);
1195         if (IS_ERR(veu->m2m_dev)) {
1196                 ret = PTR_ERR(veu->m2m_dev);
1197                 v4l2_err(&veu->v4l2_dev, "Failed to init mem2mem device: %d\n", ret);
1198                 goto em2minit;
1199         }
1200
1201         pm_runtime_enable(&pdev->dev);
1202         pm_runtime_resume(&pdev->dev);
1203
1204         ret = video_register_device(vdev, VFL_TYPE_GRABBER, -1);
1205         pm_runtime_suspend(&pdev->dev);
1206         if (ret < 0)
1207                 goto evidreg;
1208
1209         return ret;
1210
1211 evidreg:
1212         pm_runtime_disable(&pdev->dev);
1213         v4l2_m2m_release(veu->m2m_dev);
1214 em2minit:
1215         vb2_dma_contig_cleanup_ctx(veu->alloc_ctx);
1216 einitctx:
1217         v4l2_device_unregister(&veu->v4l2_dev);
1218         return ret;
1219 }
1220
1221 static int sh_veu_remove(struct platform_device *pdev)
1222 {
1223         struct v4l2_device *v4l2_dev = platform_get_drvdata(pdev);
1224         struct sh_veu_dev *veu = container_of(v4l2_dev,
1225                                               struct sh_veu_dev, v4l2_dev);
1226
1227         video_unregister_device(&veu->vdev);
1228         pm_runtime_disable(&pdev->dev);
1229         v4l2_m2m_release(veu->m2m_dev);
1230         vb2_dma_contig_cleanup_ctx(veu->alloc_ctx);
1231         v4l2_device_unregister(&veu->v4l2_dev);
1232
1233         return 0;
1234 }
1235
1236 static struct platform_driver __refdata sh_veu_pdrv = {
1237         .remove         = sh_veu_remove,
1238         .driver         = {
1239                 .name   = "sh_veu",
1240                 .owner  = THIS_MODULE,
1241         },
1242 };
1243
1244 module_platform_driver_probe(sh_veu_pdrv, sh_veu_probe);
1245
1246 MODULE_DESCRIPTION("sh-mobile VEU mem2mem driver");
1247 MODULE_AUTHOR("Guennadi Liakhovetski, <g.liakhovetski@gmx.de>");
1248 MODULE_LICENSE("GPL v2");