Imported Upstream version 4.3.1
[platform/upstream/ffmpeg.git] / libavfilter / vf_datascope.c
1 /*
2  * Copyright (c) 2016 Paul B Mahol
3  *
4  * This file is part of FFmpeg.
5  *
6  * FFmpeg is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * FFmpeg is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with FFmpeg; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
19  */
20
21 #include "libavutil/avassert.h"
22 #include "libavutil/intreadwrite.h"
23 #include "libavutil/opt.h"
24 #include "libavutil/parseutils.h"
25 #include "libavutil/pixdesc.h"
26 #include "libavutil/xga_font_data.h"
27 #include "avfilter.h"
28 #include "drawutils.h"
29 #include "formats.h"
30 #include "internal.h"
31 #include "video.h"
32
33 typedef struct DatascopeContext {
34     const AVClass *class;
35     int ow, oh;
36     int x, y;
37     int mode;
38     int dformat;
39     int axis;
40     float opacity;
41
42     int nb_planes;
43     int nb_comps;
44     int chars;
45     FFDrawContext draw;
46     FFDrawColor yellow;
47     FFDrawColor white;
48     FFDrawColor black;
49     FFDrawColor gray;
50
51     void (*pick_color)(FFDrawContext *draw, FFDrawColor *color, AVFrame *in, int x, int y, int *value);
52     void (*reverse_color)(FFDrawContext *draw, FFDrawColor *color, FFDrawColor *reverse);
53     int (*filter)(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs);
54 } DatascopeContext;
55
56 #define OFFSET(x) offsetof(DatascopeContext, x)
57 #define FLAGS AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM
58 #define FLAGSR AV_OPT_FLAG_FILTERING_PARAM|AV_OPT_FLAG_VIDEO_PARAM|AV_OPT_FLAG_RUNTIME_PARAM
59
60 static const AVOption datascope_options[] = {
61     { "size", "set output size", OFFSET(ow),   AV_OPT_TYPE_IMAGE_SIZE, {.str="hd720"}, 0, 0, FLAGS },
62     { "s",    "set output size", OFFSET(ow),   AV_OPT_TYPE_IMAGE_SIZE, {.str="hd720"}, 0, 0, FLAGS },
63     { "x",    "set x offset", OFFSET(x),    AV_OPT_TYPE_INT, {.i64=0}, 0, INT_MAX, FLAGS },
64     { "y",    "set y offset", OFFSET(y),    AV_OPT_TYPE_INT, {.i64=0}, 0, INT_MAX, FLAGS },
65     { "mode", "set scope mode", OFFSET(mode), AV_OPT_TYPE_INT, {.i64=0}, 0, 2, FLAGS, "mode" },
66     {   "mono",   NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "mode" },
67     {   "color",  NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "mode" },
68     {   "color2", NULL, 0, AV_OPT_TYPE_CONST, {.i64=2}, 0, 0, FLAGS, "mode" },
69     { "axis",    "draw column/row numbers", OFFSET(axis), AV_OPT_TYPE_BOOL, {.i64=0}, 0, 1, FLAGS },
70     { "opacity", "set background opacity", OFFSET(opacity), AV_OPT_TYPE_FLOAT, {.dbl=0.75}, 0, 1, FLAGS },
71     { "format", "set display number format", OFFSET(dformat), AV_OPT_TYPE_INT, {.i64=0}, 0, 1, FLAGS, "format" },
72     {   "hex",  NULL, 0, AV_OPT_TYPE_CONST, {.i64=0}, 0, 0, FLAGS, "format" },
73     {   "dec",  NULL, 0, AV_OPT_TYPE_CONST, {.i64=1}, 0, 0, FLAGS, "format" },
74     { NULL }
75 };
76
77 AVFILTER_DEFINE_CLASS(datascope);
78
79 static int query_formats(AVFilterContext *ctx)
80 {
81     return ff_set_common_formats(ctx, ff_draw_supported_pixel_formats(0));
82 }
83
84 static void draw_text(FFDrawContext *draw, AVFrame *frame, FFDrawColor *color,
85                       int x0, int y0, const uint8_t *text, int vertical)
86 {
87     int x = x0;
88
89     for (; *text; text++) {
90         if (*text == '\n') {
91             x = x0;
92             y0 += 8;
93             continue;
94         }
95         ff_blend_mask(draw, color, frame->data, frame->linesize,
96                       frame->width, frame->height,
97                       avpriv_cga_font + *text * 8, 1, 8, 8, 0, 0, x, y0);
98         if (vertical) {
99             x = x0;
100             y0 += 8;
101         } else {
102             x += 8;
103         }
104     }
105 }
106
107 static void pick_color8(FFDrawContext *draw, FFDrawColor *color, AVFrame *in, int x, int y, int *value)
108 {
109     int p, i;
110
111     color->rgba[3] = 255;
112     for (p = 0; p < draw->nb_planes; p++) {
113         if (draw->nb_planes == 1) {
114             for (i = 0; i < 4; i++) {
115                 value[i] = in->data[0][y * in->linesize[0] + x * draw->pixelstep[0] + i];
116                 color->comp[0].u8[i] = value[i];
117             }
118         } else {
119             value[p] = in->data[p][(y >> draw->vsub[p]) * in->linesize[p] + (x >> draw->hsub[p])];
120             color->comp[p].u8[0] = value[p];
121         }
122     }
123 }
124
125 static void pick_color16(FFDrawContext *draw, FFDrawColor *color, AVFrame *in, int x, int y, int *value)
126 {
127     int p, i;
128
129     color->rgba[3] = 255;
130     for (p = 0; p < draw->nb_planes; p++) {
131         if (draw->nb_planes == 1) {
132             for (i = 0; i < 4; i++) {
133                 value[i] = AV_RL16(in->data[0] + y * in->linesize[0] + x * draw->pixelstep[0] + i * 2);
134                 color->comp[0].u16[i] = value[i];
135             }
136         } else {
137             value[p] = AV_RL16(in->data[p] + (y >> draw->vsub[p]) * in->linesize[p] + (x >> draw->hsub[p]) * 2);
138             color->comp[p].u16[0] = value[p];
139         }
140     }
141 }
142
143 static void reverse_color8(FFDrawContext *draw, FFDrawColor *color, FFDrawColor *reverse)
144 {
145     int p;
146
147     reverse->rgba[3] = 255;
148     for (p = 0; p < draw->nb_planes; p++) {
149         reverse->comp[p].u8[0] = color->comp[p].u8[0] > 127 ? 0 : 255;
150         reverse->comp[p].u8[1] = color->comp[p].u8[1] > 127 ? 0 : 255;
151         reverse->comp[p].u8[2] = color->comp[p].u8[2] > 127 ? 0 : 255;
152     }
153 }
154
155 static void reverse_color16(FFDrawContext *draw, FFDrawColor *color, FFDrawColor *reverse)
156 {
157     int p;
158
159     reverse->rgba[3] = 255;
160     for (p = 0; p < draw->nb_planes; p++) {
161         const unsigned max = (1 << draw->desc->comp[p].depth) - 1;
162         const unsigned mid = (max + 1) / 2;
163
164         reverse->comp[p].u16[0] = color->comp[p].u16[0] > mid ? 0 : max;
165         reverse->comp[p].u16[1] = color->comp[p].u16[1] > mid ? 0 : max;
166         reverse->comp[p].u16[2] = color->comp[p].u16[2] > mid ? 0 : max;
167     }
168 }
169
170 typedef struct ThreadData {
171     AVFrame *in, *out;
172     int xoff, yoff;
173 } ThreadData;
174
175 static int filter_color2(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs)
176 {
177     DatascopeContext *s = ctx->priv;
178     AVFilterLink *outlink = ctx->outputs[0];
179     AVFilterLink *inlink = ctx->inputs[0];
180     ThreadData *td = arg;
181     AVFrame *in = td->in;
182     AVFrame *out = td->out;
183     const int xoff = td->xoff;
184     const int yoff = td->yoff;
185     const int P = FFMAX(s->nb_planes, s->nb_comps);
186     const int C = s->chars;
187     const int D = ((s->chars - s->dformat) >> 2) + s->dformat * 2;
188     const int W = (outlink->w - xoff) / (C * 10);
189     const int H = (outlink->h - yoff) / (P * 12);
190     const char *format[4] = {"%02X\n", "%04X\n", "%03d\n", "%05d\n"};
191     const int slice_start = (W * jobnr) / nb_jobs;
192     const int slice_end = (W * (jobnr+1)) / nb_jobs;
193     int x, y, p;
194
195     for (y = 0; y < H && (y + s->y < inlink->h); y++) {
196         for (x = slice_start; x < slice_end && (x + s->x < inlink->w); x++) {
197             FFDrawColor color = { { 0 } };
198             FFDrawColor reverse = { { 0 } };
199             int value[4] = { 0 };
200
201             s->pick_color(&s->draw, &color, in, x + s->x, y + s->y, value);
202             s->reverse_color(&s->draw, &color, &reverse);
203             ff_fill_rectangle(&s->draw, &color, out->data, out->linesize,
204                               xoff + x * C * 10, yoff + y * P * 12, C * 10, P * 12);
205
206             for (p = 0; p < P; p++) {
207                 char text[256];
208
209                 snprintf(text, sizeof(text), format[D], value[p]);
210                 draw_text(&s->draw, out, &reverse, xoff + x * C * 10 + 2, yoff + y * P * 12 + p * 10 + 2, text, 0);
211             }
212         }
213     }
214
215     return 0;
216 }
217
218 static int filter_color(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs)
219 {
220     DatascopeContext *s = ctx->priv;
221     AVFilterLink *outlink = ctx->outputs[0];
222     AVFilterLink *inlink = ctx->inputs[0];
223     ThreadData *td = arg;
224     AVFrame *in = td->in;
225     AVFrame *out = td->out;
226     const int xoff = td->xoff;
227     const int yoff = td->yoff;
228     const int P = FFMAX(s->nb_planes, s->nb_comps);
229     const int C = s->chars;
230     const int D = ((s->chars - s->dformat) >> 2) + s->dformat * 2;
231     const int W = (outlink->w - xoff) / (C * 10);
232     const int H = (outlink->h - yoff) / (P * 12);
233     const char *format[4] = {"%02X\n", "%04X\n", "%03d\n", "%05d\n"};
234     const int slice_start = (W * jobnr) / nb_jobs;
235     const int slice_end = (W * (jobnr+1)) / nb_jobs;
236     int x, y, p;
237
238     for (y = 0; y < H && (y + s->y < inlink->h); y++) {
239         for (x = slice_start; x < slice_end && (x + s->x < inlink->w); x++) {
240             FFDrawColor color = { { 0 } };
241             int value[4] = { 0 };
242
243             s->pick_color(&s->draw, &color, in, x + s->x, y + s->y, value);
244
245             for (p = 0; p < P; p++) {
246                 char text[256];
247
248                 snprintf(text, sizeof(text), format[D], value[p]);
249                 draw_text(&s->draw, out, &color, xoff + x * C * 10 + 2, yoff + y * P * 12 + p * 10 + 2, text, 0);
250             }
251         }
252     }
253
254     return 0;
255 }
256
257 static int filter_mono(AVFilterContext *ctx, void *arg, int jobnr, int nb_jobs)
258 {
259     DatascopeContext *s = ctx->priv;
260     AVFilterLink *outlink = ctx->outputs[0];
261     AVFilterLink *inlink = ctx->inputs[0];
262     ThreadData *td = arg;
263     AVFrame *in = td->in;
264     AVFrame *out = td->out;
265     const int xoff = td->xoff;
266     const int yoff = td->yoff;
267     const int P = FFMAX(s->nb_planes, s->nb_comps);
268     const int C = s->chars;
269     const int D = ((s->chars - s->dformat) >> 2) + s->dformat * 2;
270     const int W = (outlink->w - xoff) / (C * 10);
271     const int H = (outlink->h - yoff) / (P * 12);
272     const char *format[4] = {"%02X\n", "%04X\n", "%03d\n", "%05d\n"};
273     const int slice_start = (W * jobnr) / nb_jobs;
274     const int slice_end = (W * (jobnr+1)) / nb_jobs;
275     int x, y, p;
276
277     for (y = 0; y < H && (y + s->y < inlink->h); y++) {
278         for (x = slice_start; x < slice_end && (x + s->x < inlink->w); x++) {
279             FFDrawColor color = { { 0 } };
280             int value[4] = { 0 };
281
282             s->pick_color(&s->draw, &color, in, x + s->x, y + s->y, value);
283             for (p = 0; p < P; p++) {
284                 char text[256];
285
286                 snprintf(text, sizeof(text), format[D], value[p]);
287                 draw_text(&s->draw, out, &s->white, xoff + x * C * 10 + 2, yoff + y * P * 12 + p * 10 + 2, text, 0);
288             }
289         }
290     }
291
292     return 0;
293 }
294
295 static int filter_frame(AVFilterLink *inlink, AVFrame *in)
296 {
297     AVFilterContext *ctx  = inlink->dst;
298     DatascopeContext *s = ctx->priv;
299     AVFilterLink *outlink = ctx->outputs[0];
300     ThreadData td = { 0 };
301     int ymaxlen = 0;
302     int xmaxlen = 0;
303     AVFrame *out;
304
305     out = ff_get_video_buffer(outlink, outlink->w, outlink->h);
306     if (!out) {
307         av_frame_free(&in);
308         return AVERROR(ENOMEM);
309     }
310     out->pts = in->pts;
311
312     ff_fill_rectangle(&s->draw, &s->black, out->data, out->linesize,
313                       0, 0, outlink->w, outlink->h);
314
315     if (s->axis) {
316         const int P = FFMAX(s->nb_planes, s->nb_comps);
317         const int C = s->chars;
318         int Y = outlink->h / (P * 12);
319         int X = outlink->w / (C * 10);
320         char text[256] = { 0 };
321         int x, y;
322
323         snprintf(text, sizeof(text), "%d", s->y + Y);
324         ymaxlen = strlen(text);
325         ymaxlen *= 10;
326         snprintf(text, sizeof(text), "%d", s->x + X);
327         xmaxlen = strlen(text);
328         xmaxlen *= 10;
329
330         Y = (outlink->h - xmaxlen) / (P * 12);
331         X = (outlink->w - ymaxlen) / (C * 10);
332
333         for (y = 0; y < Y; y++) {
334             snprintf(text, sizeof(text), "%d", s->y + y);
335
336             ff_fill_rectangle(&s->draw, &s->gray, out->data, out->linesize,
337                               0, xmaxlen + y * P * 12 + (P + 1) * P - 2, ymaxlen, 10);
338
339             draw_text(&s->draw, out, &s->yellow, 2, xmaxlen + y * P * 12 + (P + 1) * P, text, 0);
340         }
341
342         for (x = 0; x < X; x++) {
343             snprintf(text, sizeof(text), "%d", s->x + x);
344
345             ff_fill_rectangle(&s->draw, &s->gray, out->data, out->linesize,
346                               ymaxlen + x * C * 10 + 2 * C - 2, 0, 10, xmaxlen);
347
348             draw_text(&s->draw, out, &s->yellow, ymaxlen + x * C * 10 + 2 * C, 2, text, 1);
349         }
350     }
351
352     td.in = in; td.out = out, td.yoff = xmaxlen, td.xoff = ymaxlen;
353     ctx->internal->execute(ctx, s->filter, &td, NULL, FFMIN(ff_filter_get_nb_threads(ctx), FFMAX(outlink->w / 20, 1)));
354
355     av_frame_free(&in);
356     return ff_filter_frame(outlink, out);
357 }
358
359 static int config_input(AVFilterLink *inlink)
360 {
361     DatascopeContext *s = inlink->dst->priv;
362     uint8_t alpha = s->opacity * 255;
363
364     s->nb_planes = av_pix_fmt_count_planes(inlink->format);
365     ff_draw_init(&s->draw, inlink->format, 0);
366     ff_draw_color(&s->draw, &s->white,  (uint8_t[]){ 255, 255, 255, 255} );
367     ff_draw_color(&s->draw, &s->black,  (uint8_t[]){ 0, 0, 0, alpha} );
368     ff_draw_color(&s->draw, &s->yellow, (uint8_t[]){ 255, 255, 0, 255} );
369     ff_draw_color(&s->draw, &s->gray,   (uint8_t[]){ 77, 77, 77, 255} );
370     s->chars = (s->draw.desc->comp[0].depth + 7) / 8 * 2 + s->dformat;
371     s->nb_comps = s->draw.desc->nb_components;
372
373     switch (s->mode) {
374     case 0: s->filter = filter_mono;   break;
375     case 1: s->filter = filter_color;  break;
376     case 2: s->filter = filter_color2; break;
377     }
378
379     if (s->draw.desc->comp[0].depth <= 8) {
380         s->pick_color = pick_color8;
381         s->reverse_color = reverse_color8;
382     } else {
383         s->pick_color = pick_color16;
384         s->reverse_color = reverse_color16;
385     }
386
387     return 0;
388 }
389
390 static int config_output(AVFilterLink *outlink)
391 {
392     DatascopeContext *s = outlink->src->priv;
393
394     outlink->h = s->oh;
395     outlink->w = s->ow;
396     outlink->sample_aspect_ratio = (AVRational){1,1};
397
398     return 0;
399 }
400
401 static const AVFilterPad inputs[] = {
402     {
403         .name         = "default",
404         .type         = AVMEDIA_TYPE_VIDEO,
405         .filter_frame = filter_frame,
406         .config_props = config_input,
407     },
408     { NULL }
409 };
410
411 static const AVFilterPad outputs[] = {
412     {
413         .name         = "default",
414         .type         = AVMEDIA_TYPE_VIDEO,
415         .config_props = config_output,
416     },
417     { NULL }
418 };
419
420 AVFilter ff_vf_datascope = {
421     .name          = "datascope",
422     .description   = NULL_IF_CONFIG_SMALL("Video data analysis."),
423     .priv_size     = sizeof(DatascopeContext),
424     .priv_class    = &datascope_class,
425     .query_formats = query_formats,
426     .inputs        = inputs,
427     .outputs       = outputs,
428     .flags         = AVFILTER_FLAG_SLICE_THREADS,
429 };
430
431 typedef struct PixscopeContext {
432     const AVClass *class;
433
434     float xpos, ypos;
435     float wx, wy;
436     int w, h;
437     float o;
438
439     int x, y;
440     int ww, wh;
441
442     int nb_planes;
443     int nb_comps;
444     int is_rgb;
445     uint8_t rgba_map[4];
446     FFDrawContext draw;
447     FFDrawColor   dark;
448     FFDrawColor   black;
449     FFDrawColor   white;
450     FFDrawColor   green;
451     FFDrawColor   blue;
452     FFDrawColor   red;
453     FFDrawColor  *colors[4];
454
455     uint16_t values[4][80][80];
456
457     void (*pick_color)(FFDrawContext *draw, FFDrawColor *color, AVFrame *in, int x, int y, int *value);
458 } PixscopeContext;
459
460 #define POFFSET(x) offsetof(PixscopeContext, x)
461
462 static const AVOption pixscope_options[] = {
463     { "x",  "set scope x offset",  POFFSET(xpos), AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0,  1, FLAGS },
464     { "y",  "set scope y offset",  POFFSET(ypos), AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0,  1, FLAGS },
465     { "w",  "set scope width",     POFFSET(w),    AV_OPT_TYPE_INT,   {.i64=7},   1, 80, FLAGS },
466     { "h",  "set scope height",    POFFSET(h),    AV_OPT_TYPE_INT,   {.i64=7},   1, 80, FLAGS },
467     { "o",  "set window opacity",  POFFSET(o),    AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0,  1, FLAGS },
468     { "wx", "set window x offset", POFFSET(wx),   AV_OPT_TYPE_FLOAT, {.dbl=-1}, -1,  1, FLAGS },
469     { "wy", "set window y offset", POFFSET(wy),   AV_OPT_TYPE_FLOAT, {.dbl=-1}, -1,  1, FLAGS },
470     { NULL }
471 };
472
473 AVFILTER_DEFINE_CLASS(pixscope);
474
475 static int pixscope_config_input(AVFilterLink *inlink)
476 {
477     PixscopeContext *s = inlink->dst->priv;
478
479     s->nb_planes = av_pix_fmt_count_planes(inlink->format);
480     ff_draw_init(&s->draw, inlink->format, 0);
481     ff_draw_color(&s->draw, &s->dark,  (uint8_t[]){ 0, 0, 0, s->o * 255} );
482     ff_draw_color(&s->draw, &s->black, (uint8_t[]){ 0, 0, 0, 255} );
483     ff_draw_color(&s->draw, &s->white, (uint8_t[]){ 255, 255, 255, 255} );
484     ff_draw_color(&s->draw, &s->green, (uint8_t[]){   0, 255,   0, 255} );
485     ff_draw_color(&s->draw, &s->blue,  (uint8_t[]){   0,   0, 255, 255} );
486     ff_draw_color(&s->draw, &s->red,   (uint8_t[]){ 255,   0,   0, 255} );
487     s->nb_comps = s->draw.desc->nb_components;
488     s->is_rgb   = s->draw.desc->flags & AV_PIX_FMT_FLAG_RGB;
489
490     if (s->is_rgb) {
491         s->colors[0] = &s->red;
492         s->colors[1] = &s->green;
493         s->colors[2] = &s->blue;
494         s->colors[3] = &s->white;
495         ff_fill_rgba_map(s->rgba_map, inlink->format);
496     } else {
497         s->colors[0] = &s->white;
498         s->colors[1] = &s->blue;
499         s->colors[2] = &s->red;
500         s->colors[3] = &s->white;
501         s->rgba_map[0] = 0;
502         s->rgba_map[1] = 1;
503         s->rgba_map[2] = 2;
504         s->rgba_map[3] = 3;
505     }
506
507     if (s->draw.desc->comp[0].depth <= 8) {
508         s->pick_color = pick_color8;
509     } else {
510         s->pick_color = pick_color16;
511     }
512
513     if (inlink->w < 640 || inlink->h < 480) {
514         av_log(inlink->dst, AV_LOG_ERROR, "min supported resolution is 640x480\n");
515         return AVERROR(EINVAL);
516     }
517
518     s->ww = 300;
519     s->wh = 300 * 1.6;
520     s->x = s->xpos * (inlink->w - 1);
521     s->y = s->ypos * (inlink->h - 1);
522     if (s->x + s->w >= inlink->w || s->y + s->h >= inlink->h) {
523         av_log(inlink->dst, AV_LOG_WARNING, "scope position is out of range, clipping\n");
524         s->x = FFMIN(s->x, inlink->w - s->w);
525         s->y = FFMIN(s->y, inlink->h - s->h);
526     }
527
528     return 0;
529 }
530
531 #define SQR(x) ((x)*(x))
532
533 static int pixscope_filter_frame(AVFilterLink *inlink, AVFrame *in)
534 {
535     AVFilterContext *ctx  = inlink->dst;
536     PixscopeContext *s = ctx->priv;
537     AVFilterLink *outlink = ctx->outputs[0];
538     AVFrame *out = ff_get_video_buffer(outlink, in->width, in->height);
539     int max[4] = { 0 }, min[4] = { INT_MAX, INT_MAX, INT_MAX, INT_MAX };
540     float average[4] = { 0 };
541     double std[4] = { 0 }, rms[4] = { 0 };
542     const char rgba[4] = { 'R', 'G', 'B', 'A' };
543     const char yuva[4] = { 'Y', 'U', 'V', 'A' };
544     int x, y, X, Y, i, w, h;
545     char text[128];
546
547     if (!out) {
548         av_frame_free(&in);
549         return AVERROR(ENOMEM);
550     }
551     av_frame_copy_props(out, in);
552     av_frame_copy(out, in);
553
554     w = s->ww / s->w;
555     h = s->ww / s->h;
556
557     if (s->wx >= 0) {
558         X = (in->width - s->ww) * s->wx;
559     } else {
560         X = (in->width - s->ww) * -s->wx;
561     }
562     if (s->wy >= 0) {
563         Y = (in->height - s->wh) * s->wy;
564     } else {
565         Y = (in->height - s->wh) * -s->wy;
566     }
567
568     if (s->wx < 0) {
569         if (s->x + s->w >= X && (s->x + s->w <= X + s->ww) &&
570             s->y + s->h >= Y && (s->y + s->h <= Y + s->wh)) {
571             X = (in->width - s->ww) * (1 + s->wx);
572         }
573     }
574
575     if (s->wy < 0) {
576         if (s->x + s->w >= X && (s->x + s->w <= X + s->ww) &&
577             s->y + s->h >= Y && (s->y + s->h <= Y + s->wh)) {
578             Y = (in->height - s->wh) * (1 + s->wy);
579         }
580     }
581
582     ff_blend_rectangle(&s->draw, &s->dark, out->data, out->linesize,
583                        out->width, out->height,
584                        X,
585                        Y,
586                        s->ww,
587                        s->wh);
588
589     for (y = 0; y < s->h; y++) {
590         for (x = 0; x < s->w; x++) {
591             FFDrawColor color = { { 0 } };
592             int value[4] = { 0 };
593
594             s->pick_color(&s->draw, &color, in, x + s->x, y + s->y, value);
595             ff_fill_rectangle(&s->draw, &color, out->data, out->linesize,
596                               x * w + (s->ww - 4 - (s->w * w)) / 2 + X, y * h + 2 + Y, w, h);
597             for (i = 0; i < 4; i++) {
598                 s->values[i][x][y] = value[i];
599                 rms[i]     += (double)value[i] * (double)value[i];
600                 average[i] += value[i];
601                 min[i]      = FFMIN(min[i], value[i]);
602                 max[i]      = FFMAX(max[i], value[i]);
603             }
604         }
605     }
606
607     ff_blend_rectangle(&s->draw, &s->black, out->data, out->linesize,
608                        out->width, out->height,
609                        s->x - 2, s->y - 2, s->w + 4, 1);
610
611     ff_blend_rectangle(&s->draw, &s->white, out->data, out->linesize,
612                        out->width, out->height,
613                        s->x - 1, s->y - 1, s->w + 2, 1);
614
615     ff_blend_rectangle(&s->draw, &s->white, out->data, out->linesize,
616                        out->width, out->height,
617                        s->x - 1, s->y - 1, 1, s->h + 2);
618
619     ff_blend_rectangle(&s->draw, &s->black, out->data, out->linesize,
620                        out->width, out->height,
621                        s->x - 2, s->y - 2, 1, s->h + 4);
622
623     ff_blend_rectangle(&s->draw, &s->white, out->data, out->linesize,
624                        out->width, out->height,
625                        s->x - 1, s->y + 1 + s->h, s->w + 3, 1);
626
627     ff_blend_rectangle(&s->draw, &s->black, out->data, out->linesize,
628                        out->width, out->height,
629                        s->x - 2, s->y + 2 + s->h, s->w + 4, 1);
630
631     ff_blend_rectangle(&s->draw, &s->white, out->data, out->linesize,
632                        out->width, out->height,
633                        s->x + 1 + s->w, s->y - 1, 1, s->h + 2);
634
635     ff_blend_rectangle(&s->draw, &s->black, out->data, out->linesize,
636                        out->width, out->height,
637                        s->x + 2 + s->w, s->y - 2, 1, s->h + 5);
638
639     for (i = 0; i < 4; i++) {
640         rms[i] /= s->w * s->h;
641         rms[i]  = sqrt(rms[i]);
642         average[i] /= s->w * s->h;
643     }
644
645     for (y = 0; y < s->h; y++) {
646         for (x = 0; x < s->w; x++) {
647             for (i = 0; i < 4; i++)
648                 std[i] += SQR(s->values[i][x][y] - average[i]);
649         }
650     }
651
652     for (i = 0; i < 4; i++) {
653         std[i] /= s->w * s->h;
654         std[i]  = sqrt(std[i]);
655     }
656
657     snprintf(text, sizeof(text), "CH   AVG    MIN    MAX    RMS\n");
658     draw_text(&s->draw, out, &s->white,        X + 28, Y + s->ww +  5,           text, 0);
659     for (i = 0; i < s->nb_comps; i++) {
660         int c = s->rgba_map[i];
661
662         snprintf(text, sizeof(text), "%c  %07.1f %05d %05d %07.1f\n", s->is_rgb ? rgba[i] : yuva[i], average[c], min[c], max[c], rms[c]);
663         draw_text(&s->draw, out, s->colors[i], X + 28, Y + s->ww + 15 * (i + 1), text, 0);
664     }
665     snprintf(text, sizeof(text), "CH   STD\n");
666     draw_text(&s->draw, out, &s->white,        X + 28, Y + s->ww + 15 * (0 + 5), text, 0);
667     for (i = 0; i < s->nb_comps; i++) {
668         int c = s->rgba_map[i];
669
670         snprintf(text, sizeof(text), "%c  %07.2f\n", s->is_rgb ? rgba[i] : yuva[i], std[c]);
671         draw_text(&s->draw, out, s->colors[i], X + 28, Y + s->ww + 15 * (i + 6), text, 0);
672     }
673
674     av_frame_free(&in);
675     return ff_filter_frame(outlink, out);
676 }
677
678 static const AVFilterPad pixscope_inputs[] = {
679     {
680         .name           = "default",
681         .type           = AVMEDIA_TYPE_VIDEO,
682         .filter_frame   = pixscope_filter_frame,
683         .config_props   = pixscope_config_input,
684     },
685     { NULL }
686 };
687
688 static const AVFilterPad pixscope_outputs[] = {
689     {
690         .name         = "default",
691         .type         = AVMEDIA_TYPE_VIDEO,
692     },
693     { NULL }
694 };
695
696 AVFilter ff_vf_pixscope = {
697     .name          = "pixscope",
698     .description   = NULL_IF_CONFIG_SMALL("Pixel data analysis."),
699     .priv_size     = sizeof(PixscopeContext),
700     .priv_class    = &pixscope_class,
701     .query_formats = query_formats,
702     .inputs        = pixscope_inputs,
703     .outputs       = pixscope_outputs,
704     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
705 };
706
707 typedef struct PixelValues {
708     uint16_t p[4];
709 } PixelValues;
710
711 typedef struct OscilloscopeContext {
712     const AVClass *class;
713
714     float xpos, ypos;
715     float tx, ty;
716     float size;
717     float tilt;
718     float theight, twidth;
719     float o;
720     int components;
721     int grid;
722     int statistics;
723     int scope;
724
725     int x1, y1, x2, y2;
726     int ox, oy;
727     int height, width;
728
729     int max;
730     int nb_planes;
731     int nb_comps;
732     int is_rgb;
733     uint8_t rgba_map[4];
734     FFDrawContext draw;
735     FFDrawColor   dark;
736     FFDrawColor   black;
737     FFDrawColor   white;
738     FFDrawColor   green;
739     FFDrawColor   blue;
740     FFDrawColor   red;
741     FFDrawColor   cyan;
742     FFDrawColor   magenta;
743     FFDrawColor   gray;
744     FFDrawColor  *colors[4];
745
746     int nb_values;
747     PixelValues  *values;
748
749     void (*pick_color)(FFDrawContext *draw, FFDrawColor *color, AVFrame *in, int x, int y, int *value);
750     void (*draw_trace)(struct OscilloscopeContext *s, AVFrame *frame);
751 } OscilloscopeContext;
752
753 #define OOFFSET(x) offsetof(OscilloscopeContext, x)
754
755 static const AVOption oscilloscope_options[] = {
756     { "x",  "set scope x position",    OOFFSET(xpos),       AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1,  FLAGSR },
757     { "y",  "set scope y position",    OOFFSET(ypos),       AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1,  FLAGSR },
758     { "s",  "set scope size",          OOFFSET(size),       AV_OPT_TYPE_FLOAT, {.dbl=0.8}, 0, 1,  FLAGSR },
759     { "t",  "set scope tilt",          OOFFSET(tilt),       AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1,  FLAGSR },
760     { "o",  "set trace opacity",       OOFFSET(o),          AV_OPT_TYPE_FLOAT, {.dbl=0.8}, 0, 1,  FLAGSR },
761     { "tx", "set trace x position",    OOFFSET(tx),         AV_OPT_TYPE_FLOAT, {.dbl=0.5}, 0, 1,  FLAGSR },
762     { "ty", "set trace y position",    OOFFSET(ty),         AV_OPT_TYPE_FLOAT, {.dbl=0.9}, 0, 1,  FLAGSR },
763     { "tw", "set trace width",         OOFFSET(twidth),     AV_OPT_TYPE_FLOAT, {.dbl=0.8},.1, 1,  FLAGSR },
764     { "th", "set trace height",        OOFFSET(theight),    AV_OPT_TYPE_FLOAT, {.dbl=0.3},.1, 1,  FLAGSR },
765     { "c",  "set components to trace", OOFFSET(components), AV_OPT_TYPE_INT,   {.i64=7},   0, 15, FLAGSR },
766     { "g",  "draw trace grid",         OOFFSET(grid),       AV_OPT_TYPE_BOOL,  {.i64=1},   0, 1,  FLAGSR },
767     { "st", "draw statistics",         OOFFSET(statistics), AV_OPT_TYPE_BOOL,  {.i64=1},   0, 1,  FLAGSR },
768     { "sc", "draw scope",              OOFFSET(scope),      AV_OPT_TYPE_BOOL,  {.i64=1},   0, 1,  FLAGSR },
769     { NULL }
770 };
771
772 AVFILTER_DEFINE_CLASS(oscilloscope);
773
774 static void oscilloscope_uninit(AVFilterContext *ctx)
775 {
776     OscilloscopeContext *s = ctx->priv;
777
778     av_freep(&s->values);
779 }
780
781 static void draw_line(FFDrawContext *draw, int x0, int y0, int x1, int y1,
782                       AVFrame *out, FFDrawColor *color)
783 {
784     int dx = FFABS(x1 - x0), sx = x0 < x1 ? 1 : -1;
785     int dy = FFABS(y1 - y0), sy = y0 < y1 ? 1 : -1;
786     int err = (dx > dy ? dx : -dy) / 2, e2;
787     int p, i;
788
789     for (;;) {
790         if (x0 >= 0 && y0 >= 0 && x0 < out->width && y0 < out->height) {
791             for (p = 0; p < draw->nb_planes; p++) {
792                 if (draw->desc->comp[p].depth == 8) {
793                     if (draw->nb_planes == 1) {
794                         for (i = 0; i < 4; i++) {
795                             out->data[0][y0 * out->linesize[0] + x0 * draw->pixelstep[0] + i] = color->comp[0].u8[i];
796                         }
797                     } else {
798                         out->data[p][out->linesize[p] * (y0 >> draw->vsub[p]) + (x0 >> draw->hsub[p])] = color->comp[p].u8[0];
799                     }
800                 } else {
801                     if (draw->nb_planes == 1) {
802                         for (i = 0; i < 4; i++) {
803                             AV_WN16(out->data[0] + y0 * out->linesize[0] + 2 * (x0 * draw->pixelstep[0] + i), color->comp[0].u16[i]);
804                         }
805                     } else {
806                         AV_WN16(out->data[p] + out->linesize[p] * (y0 >> draw->vsub[p]) + (x0 >> draw->hsub[p]) * 2, color->comp[p].u16[0]);
807                     }
808                 }
809             }
810         }
811
812         if (x0 == x1 && y0 == y1)
813             break;
814
815         e2 = err;
816
817         if (e2 >-dx) {
818             err -= dy;
819             x0 += sx;
820         }
821
822         if (e2 < dy) {
823             err += dx;
824             y0 += sy;
825         }
826     }
827 }
828
829 static void draw_trace8(OscilloscopeContext *s, AVFrame *frame)
830 {
831     int i, c;
832
833     for (i = 1; i < s->nb_values; i++) {
834         for (c = 0; c < s->nb_comps; c++) {
835             if ((1 << c) & s->components) {
836                 int x = i * s->width / s->nb_values;
837                 int px = (i - 1) * s->width / s->nb_values;
838                 int py = s->height - s->values[i-1].p[s->rgba_map[c]] * s->height / 256;
839                 int y = s->height - s->values[i].p[s->rgba_map[c]] * s->height / 256;
840
841                 draw_line(&s->draw, s->ox + x, s->oy + y, s->ox + px, s->oy + py, frame, s->colors[c]);
842             }
843         }
844     }
845 }
846
847
848 static void draw_trace16(OscilloscopeContext *s, AVFrame *frame)
849 {
850     int i, c;
851
852     for (i = 1; i < s->nb_values; i++) {
853         for (c = 0; c < s->nb_comps; c++) {
854             if ((1 << c) & s->components) {
855                 int x = i * s->width / s->nb_values;
856                 int px = (i - 1) * s->width / s->nb_values;
857                 int py = s->height - s->values[i-1].p[s->rgba_map[c]] * s->height / s->max;
858                 int y = s->height - s->values[i].p[s->rgba_map[c]] * s->height / s->max;
859
860                 draw_line(&s->draw, s->ox + x, s->oy + y, s->ox + px, s->oy + py, frame, s->colors[c]);
861             }
862         }
863     }
864 }
865
866 static void update_oscilloscope(AVFilterContext *ctx)
867 {
868     OscilloscopeContext *s = ctx->priv;
869     AVFilterLink *inlink = ctx->inputs[0];
870     int cx, cy, size;
871     double tilt;
872
873     ff_draw_color(&s->draw, &s->dark,    (uint8_t[]){   0,   0,   0, s->o * 255} );
874     s->height = s->theight * inlink->h;
875     s->width = s->twidth * inlink->w;
876     size = hypot(inlink->w, inlink->h);
877     size *= s->size;
878     tilt  = (s->tilt - 0.5) * M_PI;
879     cx = s->xpos * (inlink->w - 1);
880     cy = s->ypos * (inlink->h - 1);
881     s->x1 = cx - size / 2.0 * cos(tilt);
882     s->x2 = cx + size / 2.0 * cos(tilt);
883     s->y1 = cy - size / 2.0 * sin(tilt);
884     s->y2 = cy + size / 2.0 * sin(tilt);
885     s->ox = (inlink->w - s->width) * s->tx;
886     s->oy = (inlink->h - s->height) * s->ty;
887 }
888
889 static int oscilloscope_config_input(AVFilterLink *inlink)
890 {
891     OscilloscopeContext *s = inlink->dst->priv;
892     int size;
893
894     s->nb_planes = av_pix_fmt_count_planes(inlink->format);
895     ff_draw_init(&s->draw, inlink->format, 0);
896     ff_draw_color(&s->draw, &s->black,   (uint8_t[]){   0,   0,   0, 255} );
897     ff_draw_color(&s->draw, &s->white,   (uint8_t[]){ 255, 255, 255, 255} );
898     ff_draw_color(&s->draw, &s->green,   (uint8_t[]){   0, 255,   0, 255} );
899     ff_draw_color(&s->draw, &s->blue,    (uint8_t[]){   0,   0, 255, 255} );
900     ff_draw_color(&s->draw, &s->red,     (uint8_t[]){ 255,   0,   0, 255} );
901     ff_draw_color(&s->draw, &s->cyan,    (uint8_t[]){   0, 255, 255, 255} );
902     ff_draw_color(&s->draw, &s->magenta, (uint8_t[]){ 255,   0, 255, 255} );
903     ff_draw_color(&s->draw, &s->gray,    (uint8_t[]){ 128, 128, 128, 255} );
904     s->nb_comps = s->draw.desc->nb_components;
905     s->is_rgb   = s->draw.desc->flags & AV_PIX_FMT_FLAG_RGB;
906
907     if (s->is_rgb) {
908         s->colors[0] = &s->red;
909         s->colors[1] = &s->green;
910         s->colors[2] = &s->blue;
911         s->colors[3] = &s->white;
912         ff_fill_rgba_map(s->rgba_map, inlink->format);
913     } else {
914         s->colors[0] = &s->white;
915         s->colors[1] = &s->cyan;
916         s->colors[2] = &s->magenta;
917         s->colors[3] = &s->white;
918         s->rgba_map[0] = 0;
919         s->rgba_map[1] = 1;
920         s->rgba_map[2] = 2;
921         s->rgba_map[3] = 3;
922     }
923
924     if (s->draw.desc->comp[0].depth <= 8) {
925         s->pick_color = pick_color8;
926         s->draw_trace = draw_trace8;
927     } else {
928         s->pick_color = pick_color16;
929         s->draw_trace = draw_trace16;
930     }
931
932     s->max = (1 << s->draw.desc->comp[0].depth);
933     size = hypot(inlink->w, inlink->h);
934
935     s->values = av_calloc(size, sizeof(*s->values));
936     if (!s->values)
937         return AVERROR(ENOMEM);
938
939     update_oscilloscope(inlink->dst);
940
941     return 0;
942 }
943
944 static void draw_scope(OscilloscopeContext *s, int x0, int y0, int x1, int y1,
945                        AVFrame *out, PixelValues *p, int state)
946 {
947     int dx = FFABS(x1 - x0), sx = x0 < x1 ? 1 : -1;
948     int dy = FFABS(y1 - y0), sy = y0 < y1 ? 1 : -1;
949     int err = (dx > dy ? dx : -dy) / 2, e2;
950
951     for (;;) {
952         if (x0 >= 0 && y0 >= 0 && x0 < out->width && y0 < out->height) {
953             FFDrawColor color = { { 0 } };
954             int value[4] = { 0 };
955
956             s->pick_color(&s->draw, &color, out, x0, y0, value);
957             s->values[s->nb_values].p[0] = value[0];
958             s->values[s->nb_values].p[1] = value[1];
959             s->values[s->nb_values].p[2] = value[2];
960             s->values[s->nb_values].p[3] = value[3];
961             s->nb_values++;
962
963             if (s->scope) {
964                 if (s->draw.desc->comp[0].depth == 8) {
965                     if (s->draw.nb_planes == 1) {
966                         int i;
967
968                         for (i = 0; i < s->draw.pixelstep[0]; i++)
969                             out->data[0][out->linesize[0] * y0 + x0 * s->draw.pixelstep[0] + i] = 255 * ((s->nb_values + state) & 1);
970                     } else {
971                         out->data[0][out->linesize[0] * y0 + x0] = 255 * ((s->nb_values + state) & 1);
972                     }
973                 } else {
974                     if (s->draw.nb_planes == 1) {
975                         int i;
976
977                         for (i = 0; i < s->draw.pixelstep[0]; i++)
978                             AV_WN16(out->data[0] + out->linesize[0] * y0 + 2 * x0 * (s->draw.pixelstep[0] + i), (s->max - 1) * ((s->nb_values + state) & 1));
979                     } else {
980                         AV_WN16(out->data[0] + out->linesize[0] * y0 + 2 * x0, (s->max - 1) * ((s->nb_values + state) & 1));
981                     }
982                 }
983             }
984         }
985
986         if (x0 == x1 && y0 == y1)
987             break;
988
989         e2 = err;
990
991         if (e2 >-dx) {
992             err -= dy;
993             x0 += sx;
994         }
995
996         if (e2 < dy) {
997             err += dx;
998             y0 += sy;
999         }
1000     }
1001 }
1002
1003 static int oscilloscope_filter_frame(AVFilterLink *inlink, AVFrame *frame)
1004 {
1005     AVFilterContext *ctx  = inlink->dst;
1006     OscilloscopeContext *s = ctx->priv;
1007     AVFilterLink *outlink = ctx->outputs[0];
1008     float average[4] = { 0 };
1009     int max[4] = { 0 };
1010     int min[4] = { INT_MAX, INT_MAX, INT_MAX, INT_MAX };
1011     int i, c;
1012
1013     s->nb_values = 0;
1014     draw_scope(s, s->x1, s->y1, s->x2, s->y2, frame, s->values, inlink->frame_count_in & 1);
1015     ff_blend_rectangle(&s->draw, &s->dark, frame->data, frame->linesize,
1016                        frame->width, frame->height,
1017                        s->ox, s->oy, s->width, s->height + 20 * s->statistics);
1018
1019     if (s->grid && outlink->h >= 10) {
1020         ff_fill_rectangle(&s->draw, &s->gray, frame->data, frame->linesize,
1021                           s->ox, s->oy, s->width - 1, 1);
1022
1023         for (i = 1; i < 5; i++) {
1024             ff_fill_rectangle(&s->draw, &s->gray, frame->data, frame->linesize,
1025                               s->ox, s->oy + i * (s->height - 1) / 4, s->width, 1);
1026         }
1027
1028         for (i = 0; i < 10; i++) {
1029             ff_fill_rectangle(&s->draw, &s->gray, frame->data, frame->linesize,
1030                               s->ox + i * (s->width - 1) / 10, s->oy, 1, s->height);
1031         }
1032
1033         ff_fill_rectangle(&s->draw, &s->gray, frame->data, frame->linesize,
1034                           s->ox + s->width - 1, s->oy, 1, s->height);
1035     }
1036
1037     s->draw_trace(s, frame);
1038
1039     for (i = 0; i < s->nb_values; i++) {
1040         for (c = 0; c < s->nb_comps; c++) {
1041             if ((1 << c) & s->components) {
1042                 max[c] = FFMAX(max[c], s->values[i].p[s->rgba_map[c]]);
1043                 min[c] = FFMIN(min[c], s->values[i].p[s->rgba_map[c]]);
1044                 average[c] += s->values[i].p[s->rgba_map[c]];
1045             }
1046         }
1047     }
1048     for (c = 0; c < s->nb_comps; c++) {
1049         average[c] /= s->nb_values;
1050     }
1051
1052     if (s->statistics && s->height > 10 && s->width > 280 * av_popcount(s->components)) {
1053         for (c = 0, i = 0; c < s->nb_comps; c++) {
1054             if ((1 << c) & s->components) {
1055                 const char rgba[4] = { 'R', 'G', 'B', 'A' };
1056                 const char yuva[4] = { 'Y', 'U', 'V', 'A' };
1057                 char text[128];
1058
1059                 snprintf(text, sizeof(text), "%c avg:%.1f min:%d max:%d\n", s->is_rgb ? rgba[c] : yuva[c], average[c], min[c], max[c]);
1060                 draw_text(&s->draw, frame, &s->white, s->ox +  2 + 280 * i++, s->oy + s->height + 4, text, 0);
1061             }
1062         }
1063     }
1064
1065     return ff_filter_frame(outlink, frame);
1066 }
1067
1068 static int oscilloscope_process_command(AVFilterContext *ctx, const char *cmd, const char *args,
1069                                         char *res, int res_len, int flags)
1070 {
1071     int ret;
1072
1073     ret = ff_filter_process_command(ctx, cmd, args, res, res_len, flags);
1074     if (ret < 0)
1075         return ret;
1076
1077     update_oscilloscope(ctx);
1078
1079     return 0;
1080 }
1081
1082 static const AVFilterPad oscilloscope_inputs[] = {
1083     {
1084         .name           = "default",
1085         .type           = AVMEDIA_TYPE_VIDEO,
1086         .filter_frame   = oscilloscope_filter_frame,
1087         .config_props   = oscilloscope_config_input,
1088         .needs_writable = 1,
1089     },
1090     { NULL }
1091 };
1092
1093 static const AVFilterPad oscilloscope_outputs[] = {
1094     {
1095         .name         = "default",
1096         .type         = AVMEDIA_TYPE_VIDEO,
1097     },
1098     { NULL }
1099 };
1100
1101 AVFilter ff_vf_oscilloscope = {
1102     .name          = "oscilloscope",
1103     .description   = NULL_IF_CONFIG_SMALL("2D Video Oscilloscope."),
1104     .priv_size     = sizeof(OscilloscopeContext),
1105     .priv_class    = &oscilloscope_class,
1106     .query_formats = query_formats,
1107     .uninit        = oscilloscope_uninit,
1108     .inputs        = oscilloscope_inputs,
1109     .outputs       = oscilloscope_outputs,
1110     .flags         = AVFILTER_FLAG_SUPPORT_TIMELINE_GENERIC,
1111     .process_command = oscilloscope_process_command,
1112 };