Merge pull request #9763 from seiko2plus:addVsxCore

Merge pull request #9811 from dkurt:prelu_with_shared_channels

Merge pull request #9805 from alalek:ffmpeg_update

Merge pull request #9815 from alalek:issue_9813

qt: fix non-world builds

PReLU layer from Caffe

Merge pull request #9810 from alalek:fix_js_build

js: skip 'utils' headers

Merge pull request #9792 from alalek:port_9776

Merge pull request #9799 from alalek:ocl_program

Merge pull request #9800 from alalek:fix_build_msvs2010

Merge pull request #9803 from wzw-intel:ocl_timer

Merge pull request #9806 from mshabunin:fix-static-7

Fixed and suppressed warnings produced by GCC 6.3.0

Merge pull request #9790 from mevatron:patch-1

ffmpeg: update 3.3.4

Fixed warnings produced by static analyzer

ocl: simplify ocl::Timer

Use clFinish to gurantee commands completed, instead of waiting for events.

Signed-off-by: Wu Zhiwen <zhiwen.wu@intel.com>

Added universal intrinsic for VSX

Added support for VSX

build: fix MSVS2010

Merge pull request #9796 from lzx1413:patch-1

ocl: refactor program compilation

ocl: define ProgramSource before program

no changes in code

dnn(samples): fix python syntax (false -> False)

in python, false should be False

Merge pull request #9795 from IgWod:refactor-scalar-to-raw-data

Extract code from scalarToRawData

The same code was repeated several time for different data types, so
it was extracted as a templated function to improve maintability and
make a code more clear.

Fix a memory leak in the Mat copying constructor

Exception may be rasied inside the body of a copying constructor after
refcount has been increased, and beacause in the case of the exception
destrcutor is never called what causes memory leak. This commit adds a
workaround that calls the release() function before the exception is
thrown outside the contructor.

Small fix for using Qt 5.x with opencv_world

Merge pull request #9761 from Jazmann:ellipseFitAMS&Direct

Merge pull request #9424 from Cartucho:update_imgproc_tutorials

Merge pull request #9772 from dkurt:fix_caffe_eltwise_and_fc_layers

Merge pull request #9787 from dkurt:feature_dnn_resize_nearest_neighbor

Merge pull request #9778 from dkurt:dnn_colorization

Merge pull request #9779 from Lightricks:feature/assetslibrary-remove-link

Nearest neighbor resize layer

Merge pull request #9773 from shoeffner:feature/doxygen-tag-file

Grayscale colorization model (https://github.com/richzhang/colorization) test.

videoio: remove AssetsLibrary dependency.

The entire AssetsLibrary framework is deprecated since iOS 8.0. The code
used in the camera example code can use UIKit to save videos to the
camera instead, which allows to avoid linking with PhotoKit instead to
prevent increasing the iOS deployment target.

Tutorial Hough Lines

Tutorial Hough Circles

Tutorial Make Border

Tutorial Filter2D

Tutorial Image Pyramids

Tutorial Sobel Derivatives

Tutorial Laplace Operator

Tutorial Morph Lines Detection

Tutorial Hit-or-Miss

Tutorial Smoothing Images

Merge pull request #9762 from dkurt:fix_tensorflow_split_layer

Merge pull request #9771 from Bisaloo:patch-1

Configuring Doxygen to generate a tag file.

Additionally adds a tutorial on how to use the tag file in other
projects to link back to the OpenCV documentation.

The tutorial is also the only place which links to the tag file as of
now.

For more information on tag files and external documentation, check
https://www.stack.nl/~dimitri/doxygen/manual/external.html

Merge pull request #9769 from pstieber:FixPrivateIncludeInSaturateCast

Multidimensional eltwise layer.
Fixed fully-connected layer axis.

Fix 404 url in canny edge detection tutorial

Replace private.cuda.hpp with conditional include of cuda_fp16.h.

Fix TensorFlow split layer

Fix Transposed eigenvals and vecs. Didn't notice at first

Adds fitEllipseAMS to imgproc: The Approximate Mean Square (AMS) proposed by Taubin 1991.
Adds fitEllipseDirect to imgproc: The Direct least square (Direct) method by Fitzgibbon1999.

New Tests are included for the methods.
fitEllipseAMS Tests
fitEllipseDirect Tests

Comparative examples are added to fitEllipse.cpp in Samples.

Merge pull request #9754 from sturkmen72:patch-1

Merge pull request #9744 from sturkmen72:Update_HOGDescriptor_Documentation

Merge pull request #9596 from paroj:circle_board_params

Merge pull request #9114 from pengli:dnn_rebase

add libdnn acceleration to dnn module  (#9114)

* import libdnn code

Signed-off-by: Li Peng <peng.li@intel.com>
* add convolution layer ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* add pooling layer ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* add softmax layer ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* add lrn layer ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* add innerproduct layer ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* add HAVE_OPENCL macro

Signed-off-by: Li Peng <peng.li@intel.com>
* fix for convolution ocl

Signed-off-by: Li Peng <peng.li@intel.com>
* enable getUMat() for multi-dimension Mat

Signed-off-by: Li Peng <peng.li@intel.com>
* use getUMat for ocl acceleration

Signed-off-by: Li Peng <peng.li@intel.com>
* use CV_OCL_RUN macro

Signed-off-by: Li Peng <peng.li@intel.com>
* set OPENCL target when it is available

and disable fuseLayer for OCL target for the time being

Signed-off-by: Li Peng <peng.li@intel.com>
* fix innerproduct accuracy test

Signed-off-by: Li Peng <peng.li@intel.com>
* remove trailing space

Signed-off-by: Li Peng <peng.li@intel.com>
* Fixed tensorflow demo bug.

Root cause is that tensorflow has different algorithm with libdnn
to calculate convolution output dimension.

libdnn don't calculate output dimension anymore and just use one
passed in by config.

* split gemm ocl file

split it into gemm_buffer.cl and gemm_image.cl

Signed-off-by: Li Peng <peng.li@intel.com>
* Fix compile failure

Signed-off-by: Li Peng <peng.li@intel.com>
* check env flag for auto tuning

Signed-off-by: Li Peng <peng.li@intel.com>
* switch to new ocl kernels for softmax layer

Signed-off-by: Li Peng <peng.li@intel.com>
* update softmax layer

on some platform subgroup extension may not work well,
fallback to non subgroup ocl acceleration.

Signed-off-by: Li Peng <peng.li@intel.com>
* fallback to cpu path for fc layer with multi output

Signed-off-by: Li Peng <peng.li@intel.com>
* update output message

Signed-off-by: Li Peng <peng.li@intel.com>
* update fully connected layer

fallback to gemm API if libdnn return false

Signed-off-by: Li Peng <peng.li@intel.com>
* Add ReLU OCL implementation

* disable layer fusion for now

Signed-off-by: Li Peng <peng.li@intel.com>
* Add OCL implementation for concat layer

Signed-off-by: Wu Zhiwen <zhiwen.wu@intel.com>
* libdnn: update license and copyrights

Also refine libdnn coding style

Signed-off-by: Wu Zhiwen <zhiwen.wu@intel.com>
Signed-off-by: Li Peng <peng.li@intel.com>
* DNN: Don't link OpenCL library explicitly

* DNN: Make default preferableTarget to DNN_TARGET_CPU

User should set it to DNN_TARGET_OPENCL explicitly if want to
use OpenCL acceleration.

Also don't fusion when using DNN_TARGET_OPENCL

* DNN: refine coding style

* Add getOpenCLErrorString

* DNN: Use int32_t/uint32_t instread of alias

* Use namespace ocl4dnn to include libdnn things

* remove extra copyTo in softmax ocl path

Signed-off-by: Li Peng <peng.li@intel.com>
* update ReLU layer ocl path

Signed-off-by: Li Peng <peng.li@intel.com>
* Add prefer target property for layer class

It is used to indicate the target for layer forwarding,
either the default CPU target or OCL target.

Signed-off-by: Li Peng <peng.li@intel.com>
* Add cl_event based timer for cv::ocl

* Rename libdnn to ocl4dnn

Signed-off-by: Li Peng <peng.li@intel.com>
Signed-off-by: wzw <zhiwen.wu@intel.com>
* use UMat for ocl4dnn internal buffer

Remove allocateMemory which use clCreateBuffer directly

Signed-off-by: Li Peng <peng.li@intel.com>
Signed-off-by: wzw <zhiwen.wu@intel.com>
* enable buffer gemm in ocl4dnn innerproduct

Signed-off-by: Li Peng <peng.li@intel.com>
* replace int_tp globally for ocl4dnn kernels.

Signed-off-by: wzw <zhiwen.wu@intel.com>
Signed-off-by: Li Peng <peng.li@intel.com>
* create UMat for layer params

Signed-off-by: Li Peng <peng.li@intel.com>
* update sign ocl kernel

Signed-off-by: Li Peng <peng.li@intel.com>
* update image based gemm of inner product layer

Signed-off-by: Li Peng <peng.li@intel.com>
* remove buffer gemm of inner product layer

call cv::gemm API instead

Signed-off-by: Li Peng <peng.li@intel.com>
* change ocl4dnn forward parameter to UMat

Signed-off-by: Li Peng <peng.li@intel.com>
* Refine auto-tuning mechanism.

- Use OPENCV_OCL4DNN_KERNEL_CONFIG_PATH to set cache directory
  for fine-tuned kernel configuration.
  e.g. export OPENCV_OCL4DNN_KERNEL_CONFIG_PATH=/home/tmp,
  the cache directory will be /home/tmp/spatialkernels/ on Linux.

- Define environment OPENCV_OCL4DNN_ENABLE_AUTO_TUNING to enable
  auto-tuning.

- OPENCV_OPENCL_ENABLE_PROFILING is only used to enable profiling
  for OpenCL command queue. This fix basic kernel get wrong running
  time, i.e. 0ms.

- If creating cache directory failed, disable auto-tuning.

* Detect and create cache dir on windows

Signed-off-by: Li Peng <peng.li@intel.com>
* Refine gemm like convolution kernel.

Signed-off-by: Li Peng <peng.li@intel.com>
* Fix redundant swizzleWeights calling when use cached kernel config.

* Fix "out of resource" bug when auto-tuning too many kernels.

* replace cl_mem with UMat in ocl4dnnConvSpatial class

* OCL4DNN: reduce the tuning kernel candidate.

This patch could reduce 75% of the tuning candidates with less
than 2% performance impact for the final result.

Signed-off-by: Zhigang Gong <zhigang.gong@intel.com>
* replace cl_mem with umat in ocl4dnn convolution

Signed-off-by: Li Peng <peng.li@intel.com>
* remove weight_image_ of ocl4dnn inner product

Actually it is unused in the computation

Signed-off-by: Li Peng <peng.li@intel.com>
* Various fixes for ocl4dnn

1. OCL_PERFORMANCE_CHECK(ocl::Device::getDefault().isIntel())
2. Ptr<OCL4DNNInnerProduct<float> > innerProductOp
3. Code comments cleanup
4. ignore check on OCL cpu device

Signed-off-by: Li Peng <peng.li@intel.com>
* add build option for log softmax

Signed-off-by: Li Peng <peng.li@intel.com>
* remove unused ocl kernels in ocl4dnn

Signed-off-by: Li Peng <peng.li@intel.com>
* replace ocl4dnnSet with opencv setTo

Signed-off-by: Li Peng <peng.li@intel.com>
* replace ALIGN with cv::alignSize

Signed-off-by: Li Peng <peng.li@intel.com>
* check kernel build options

Signed-off-by: Li Peng <peng.li@intel.com>
* Handle program compilation fail properly.

* Use std::numeric_limits<float>::infinity() for large float number

* check ocl4dnn kernel compilation result

Signed-off-by: Li Peng <peng.li@intel.com>
* remove unused ctx_id

Signed-off-by: Li Peng <peng.li@intel.com>
* change clEnqueueNDRangeKernel to kernel.run()

Signed-off-by: Li Peng <peng.li@intel.com>
* change cl_mem to UMat in image based gemm

Signed-off-by: Li Peng <peng.li@intel.com>
* check intel subgroup support for lrn and pooling layer

Signed-off-by: Li Peng <peng.li@intel.com>
* Fix convolution bug if group is greater than 1

Signed-off-by: Li Peng <peng.li@intel.com>
* Set default layer preferableTarget to be DNN_TARGET_CPU

Signed-off-by: Li Peng <peng.li@intel.com>
* Add ocl perf test for convolution

Signed-off-by: Li Peng <peng.li@intel.com>
* Add more ocl accuracy test

Signed-off-by: Li Peng <peng.li@intel.com>
* replace cl_image with ocl::Image2D

Signed-off-by: Li Peng <peng.li@intel.com>
* Fix build failure in elementwise layer

Signed-off-by: Li Peng <peng.li@intel.com>
* use getUMat() to get blob data

Signed-off-by: Li Peng <peng.li@intel.com>
* replace cl_mem handle with ocl::KernelArg

Signed-off-by: Li Peng <peng.li@intel.com>
* dnn(build): don't use C++11, OPENCL_LIBRARIES fix

* dnn(ocl4dnn): remove unused OpenCL kernels

* dnn(ocl4dnn): extract OpenCL code into .cl files

* dnn(ocl4dnn): refine auto-tuning

Defaultly disable auto-tuning, set OPENCV_OCL4DNN_ENABLE_AUTO_TUNING
environment variable to enable it.

Use a set of pre-tuned configs as default config if auto-tuning is disabled.
These configs are tuned for Intel GPU with 48/72 EUs, and for googlenet,
AlexNet, ResNet-50

If default config is not suitable, use the first available kernel config
from the candidates. Candidate priority from high to low is gemm like kernel,
IDLF kernel, basick kernel.

* dnn(ocl4dnn): pooling doesn't use OpenCL subgroups

* dnn(ocl4dnn): fix perf test

OpenCV has default 3sec time limit for each performance test.
Warmup OpenCL backend outside of perf measurement loop.

* use ocl::KernelArg as much as possible

Signed-off-by: Li Peng <peng.li@intel.com>
* dnn(ocl4dnn): fix bias bug for gemm like kernel

* dnn(ocl4dnn): wrap cl_mem into UMat

Signed-off-by: Li Peng <peng.li@intel.com>
* dnn(ocl4dnn): Refine signature of kernel config

- Use more readable string as signture of kernel config
- Don't count device name and vendor in signature string
- Default kernel configurations are tuned for Intel GPU with
  24/48/72 EUs, and for googlenet, AlexNet, ResNet-50 net model.

* dnn(ocl4dnn): swap width/height in configuration

* dnn(ocl4dnn): enable configs for Intel OpenCL runtime only

* core: make configuration helper functions accessible from non-core modules

* dnn(ocl4dnn): update kernel auto-tuning behavior

Avoid unwanted creation of directories

* dnn(ocl4dnn): simplify kernel to workaround OpenCL compiler crash

* dnn(ocl4dnn): remove redundant code

* dnn(ocl4dnn): Add more clear message for simd size dismatch.

* dnn(ocl4dnn): add const to const argument

Signed-off-by: Li Peng <peng.li@intel.com>
* dnn(ocl4dnn): force compiler use a specific SIMD size for IDLF kernel

* dnn(ocl4dnn): drop unused tuneLocalSize()

* dnn(ocl4dnn): specify OpenCL queue for Timer and convolve() method

* dnn(ocl4dnn): sanitize file names used for cache

* dnn(perf): enable Network tests with OpenCL

* dnn(ocl4dnn/conv): drop computeGlobalSize()

* dnn(ocl4dnn/conv): drop unused fields

* dnn(ocl4dnn/conv): simplify ctor

* dnn(ocl4dnn/conv): refactor kernelConfig localSize=NULL

* dnn(ocl4dnn/conv): drop unsupported double / untested half types

* dnn(ocl4dnn/conv): drop unused variable

* dnn(ocl4dnn/conv): alignSize/divUp

* dnn(ocl4dnn/conv): use enum values

* dnn(ocl4dnn): drop unused innerproduct variable

Signed-off-by: Li Peng <peng.li@intel.com>
* dnn(ocl4dnn): add an generic function to check cl option support

* dnn(ocl4dnn): run softmax subgroup version kernel first

Signed-off-by: Li Peng <peng.li@intel.com>

calib3d: export parameters of CALIB_CB_CLUSTERING

Merge pull request #9752 from alalek:eigenNonSymmetric

Merge pull request #9756 from pranitbauva1997:doc-typo-faster

doc: fix typo in py_tutorials

Merge pull request #9746 from alalek:fix_msvs2017_warning

Merge pull request #9757 from berak:imgcodecs_4chan_bmp

doc: fix typo in py_tutorials

Update HOGDescriptor documentation

imgcodecs: fix 4 reading channel bmp images

build: fix MSVS2017 warning

core: cv::eigenNonSymmetric() via EigenvalueDecomposition

Update OpenCVFindLibsGrfmt.cmake

Merge pull request #9743 from DensityCo:tbb-debug

Merge pull request #9740 from tomoaki0705:universalArithm

Merge pull request #9726 from blendin:fix_oob

Merge pull request #9741 from alalek:stitching_test_update

stitching(perf): update condition threshold

test: clarify fail messages

use universal intrinsic in arithm.cpp
  * remove raw NEON/SSE2 implementation as much as possible
  * replace them to universal intrinsic in InRange/Compare/AddWeighted

TBB Debug Release

OpenCV fails to detect tbb on a debug build if the platform has only installed
debug libraries.  This PR adds an additional check to the tbb detect logic for
systems that only install tbb debug and not both tbb debug and release.

Merge pull request #9491 from dkurt:tf_lstm

Merge pull request #9683 from terfendail:grects_weights

Merge pull request #9604 from alalek:ocl_kernel_profiling

Merge pull request #9692 from alalek:dnn_perf_net

Merge pull request #9734 from dkurt:fix_deconv_layer_kernel_layout

Merge pull request #9691 from dkurt:padding_layer_refactoring

Merge pull request #9714 from tomoaki0705:universalBilateral

imgproc: use universal intrinsic as much as possible (#9714)

* use universal intrinsic as much as possible
  * make SSE3 part as common as possible with universal intrinsic implementation
  * put the reducing part out of the main loop

* follow the comment
  * fix the typo
  * use v_reduce_sum4

* follow the comment again
  * remove all CV_SSE3 part from smooth.cpp

Merge pull request #9710 from savuor:ovx_harris_build_fix

Merge pull request #9737 from huningxin:fix_9729

Use horizontal input/output images layout in OpenCV.js tutorials

Swap dimensions of deconvolution kernel

Merge pull request #9735 from alalek:fix_docs

doc: fix documentation generation with JavaScript bindings

doc: fix documentation generation with JavaScript bindings

Merge pull request #9730 from yanlend:patch-1

Merge pull request #9716 from alalek:fix_ipp_build

Merge pull request #9717 from alalek:fix_fma

Merge pull request #9728 from huningxin:fix_9727