modules/core/src/system.cpp

   1 /*M///////////////////////////////////////////////////////////////////////////////////////
   2 //
   3 //  IMPORTANT: READ BEFORE DOWNLOADING, COPYING, INSTALLING OR USING.
   4 //
   5 //  By downloading, copying, installing or using the software you agree to this license.
   6 //  If you do not agree to this license, do not download, install,
   7 //  copy or use the software.
   8 //
   9 //
  10 //                           License Agreement
  11 //                For Open Source Computer Vision Library
  12 //
  13 // Copyright (C) 2000-2008, Intel Corporation, all rights reserved.
  14 // Copyright (C) 2009, Willow Garage Inc., all rights reserved.
  15 // Copyright (C) 2015, Itseez Inc., all rights reserved.
  16 // Third party copyrights are property of their respective owners.
  17 //
  18 // Redistribution and use in source and binary forms, with or without modification,
  19 // are permitted provided that the following conditions are met:
  20 //
  21 //   * Redistribution's of source code must retain the above copyright notice,
  22 //     this list of conditions and the following disclaimer.
  23 //
  24 //   * Redistribution's in binary form must reproduce the above copyright notice,
  25 //     this list of conditions and the following disclaimer in the documentation
  26 //     and/or other materials provided with the distribution.
  27 //
  28 //   * The name of the copyright holders may not be used to endorse or promote products
  29 //     derived from this software without specific prior written permission.
  30 //
  31 // This software is provided by the copyright holders and contributors "as is" and
  32 // any express or implied warranties, including, but not limited to, the implied
  33 // warranties of merchantability and fitness for a particular purpose are disclaimed.
  34 // In no event shall the Intel Corporation or contributors be liable for any direct,
  35 // indirect, incidental, special, exemplary, or consequential damages
  36 // (including, but not limited to, procurement of substitute goods or services;
  37 // loss of use, data, or profits; or business interruption) however caused
  38 // and on any theory of liability, whether in contract, strict liability,
  39 // or tort (including negligence or otherwise) arising in any way out of
  40 // the use of this software, even if advised of the possibility of such damage.
  41 //
  42 //M*/
  43
  44 #include "precomp.hpp"
  45 #include <iostream>
  46
  47 #include <opencv2/core/utils/configuration.private.hpp>
  48 #include <opencv2/core/utils/trace.private.hpp>
  49
  50 namespace cv {
  51
  52 static Mutex* __initialization_mutex = NULL;
  53 Mutex& getInitializationMutex()
  54 {
  55     if (__initialization_mutex == NULL)
  56         __initialization_mutex = new Mutex();
  57     return *__initialization_mutex;
  58 }
  59 // force initialization (single-threaded environment)
  60 Mutex* __initialization_mutex_initializer = &getInitializationMutex();
  61
  62 } // namespace cv
  63
  64 #ifdef _MSC_VER
  65 # if _MSC_VER >= 1700
  66 #  pragma warning(disable:4447) // Disable warning 'main' signature found without threading model
  67 # endif
  68 #endif
  69
  70 #if defined __ANDROID__ || defined __linux__ || defined __FreeBSD__ || defined __HAIKU__
  71 #  include <unistd.h>
  72 #  include <fcntl.h>
  73 #  include <elf.h>
  74 #if defined __ANDROID__ || defined __linux__
  75 #  include <linux/auxvec.h>
  76 #endif
  77 #endif
  78
  79 #if defined __ANDROID__ && defined HAVE_CPUFEATURES
  80 #  include <cpu-features.h>
  81 #endif
  82
  83 #ifndef __VSX__
  84 # if defined __PPC64__ && defined __linux__
  85 #   include "sys/auxv.h"
  86 #   ifndef AT_HWCAP2
  87 #     define AT_HWCAP2 26
  88 #   endif
  89 #   ifndef PPC_FEATURE2_ARCH_2_07
  90 #     define PPC_FEATURE2_ARCH_2_07 0x80000000
  91 #   endif
  92 # endif
  93 #endif
  94
  95 #if defined _WIN32 || defined WINCE
  96 #ifndef _WIN32_WINNT           // This is needed for the declaration of TryEnterCriticalSection in winbase.h with Visual Studio 2005 (and older?)
  97   #define _WIN32_WINNT 0x0400  // http://msdn.microsoft.com/en-us/library/ms686857(VS.85).aspx
  98 #endif
  99 #include <windows.h>
 100 #if (_WIN32_WINNT >= 0x0602)
 101   #include <synchapi.h>
 102 #endif
 103 #undef small
 104 #undef min
 105 #undef max
 106 #undef abs
 107 #include <tchar.h>
 108 #if defined _MSC_VER
 109   #if _MSC_VER >= 1400
 110     #include <intrin.h>
 111   #elif defined _M_IX86
 112     static void __cpuid(int* cpuid_data, int)
 113     {
 114         __asm
 115         {
 116             push ebx
 117             push edi
 118             mov edi, cpuid_data
 119             mov eax, 1
 120             cpuid
 121             mov [edi], eax
 122             mov [edi + 4], ebx
 123             mov [edi + 8], ecx
 124             mov [edi + 12], edx
 125             pop edi
 126             pop ebx
 127         }
 128     }
 129     static void __cpuidex(int* cpuid_data, int, int)
 130     {
 131         __asm
 132         {
 133             push edi
 134             mov edi, cpuid_data
 135             mov eax, 7
 136             mov ecx, 0
 137             cpuid
 138             mov [edi], eax
 139             mov [edi + 4], ebx
 140             mov [edi + 8], ecx
 141             mov [edi + 12], edx
 142             pop edi
 143         }
 144     }
 145   #endif
 146 #endif
 147
 148 #ifdef WINRT
 149 #include <wrl/client.h>
 150 #ifndef __cplusplus_winrt
 151 #include <windows.storage.h>
 152 #pragma comment(lib, "runtimeobject.lib")
 153 #endif
 154
 155 std::wstring GetTempPathWinRT()
 156 {
 157 #ifdef __cplusplus_winrt
 158     return std::wstring(Windows::Storage::ApplicationData::Current->TemporaryFolder->Path->Data());
 159 #else
 160     Microsoft::WRL::ComPtr<ABI::Windows::Storage::IApplicationDataStatics> appdataFactory;
 161     Microsoft::WRL::ComPtr<ABI::Windows::Storage::IApplicationData> appdataRef;
 162     Microsoft::WRL::ComPtr<ABI::Windows::Storage::IStorageFolder> storagefolderRef;
 163     Microsoft::WRL::ComPtr<ABI::Windows::Storage::IStorageItem> storageitemRef;
 164     HSTRING str;
 165     HSTRING_HEADER hstrHead;
 166     std::wstring wstr;
 167     if (FAILED(WindowsCreateStringReference(RuntimeClass_Windows_Storage_ApplicationData,
 168                                             (UINT32)wcslen(RuntimeClass_Windows_Storage_ApplicationData), &hstrHead, &str)))
 169         return wstr;
 170     if (FAILED(RoGetActivationFactory(str, IID_PPV_ARGS(appdataFactory.ReleaseAndGetAddressOf()))))
 171         return wstr;
 172     if (FAILED(appdataFactory->get_Current(appdataRef.ReleaseAndGetAddressOf())))
 173         return wstr;
 174     if (FAILED(appdataRef->get_TemporaryFolder(storagefolderRef.ReleaseAndGetAddressOf())))
 175         return wstr;
 176     if (FAILED(storagefolderRef.As(&storageitemRef)))
 177         return wstr;
 178     str = NULL;
 179     if (FAILED(storageitemRef->get_Path(&str)))
 180         return wstr;
 181     wstr = WindowsGetStringRawBuffer(str, NULL);
 182     WindowsDeleteString(str);
 183     return wstr;
 184 #endif
 185 }
 186
 187 std::wstring GetTempFileNameWinRT(std::wstring prefix)
 188 {
 189     wchar_t guidStr[40];
 190     GUID g;
 191     CoCreateGuid(&g);
 192     wchar_t* mask = L"%08x_%04x_%04x_%02x%02x_%02x%02x%02x%02x%02x%02x";
 193     swprintf(&guidStr[0], sizeof(guidStr)/sizeof(wchar_t), mask,
 194              g.Data1, g.Data2, g.Data3, UINT(g.Data4[0]), UINT(g.Data4[1]),
 195              UINT(g.Data4[2]), UINT(g.Data4[3]), UINT(g.Data4[4]),
 196              UINT(g.Data4[5]), UINT(g.Data4[6]), UINT(g.Data4[7]));
 197
 198     return prefix.append(std::wstring(guidStr));
 199 }
 200
 201 #endif
 202 #else
 203 #include <pthread.h>
 204 #include <sys/time.h>
 205 #include <time.h>
 206
 207 #if defined __MACH__ && defined __APPLE__
 208 #include <mach/mach.h>
 209 #include <mach/mach_time.h>
 210 #endif
 211
 212 #endif
 213
 214 #ifdef _OPENMP
 215 #include "omp.h"
 216 #endif
 217
 218 #if defined __linux__ || defined __APPLE__ || defined __EMSCRIPTEN__ || defined __FreeBSD__ || defined __GLIBC__ || defined __HAIKU__
 219 #include <unistd.h>
 220 #include <stdio.h>
 221 #include <sys/types.h>
 222 #if defined __ANDROID__
 223 #include <sys/sysconf.h>
 224 #endif
 225 #endif
 226
 227 #ifdef __ANDROID__
 228 # include <android/log.h>
 229 #endif
 230
 231 namespace cv
 232 {
 233
 234 Exception::Exception() { code = 0; line = 0; }
 235
 236 Exception::Exception(int _code, const String& _err, const String& _func, const String& _file, int _line)
 237 : code(_code), err(_err), func(_func), file(_file), line(_line)
 238 {
 239     formatMessage();
 240 }
 241
 242 Exception::~Exception() throw() {}
 243
 244 /*!
 245  \return the error description and the context as a text string.
 246  */
 247 const char* Exception::what() const throw() { return msg.c_str(); }
 248
 249 void Exception::formatMessage()
 250 {
 251     if( func.size() > 0 )
 252         msg = format("%s:%d: error: (%d) %s in function %s\n", file.c_str(), line, code, err.c_str(), func.c_str());
 253     else
 254         msg = format("%s:%d: error: (%d) %s\n", file.c_str(), line, code, err.c_str());
 255 }
 256
 257 static const char* g_hwFeatureNames[CV_HARDWARE_MAX_FEATURE] = { NULL };
 258
 259 static const char* getHWFeatureName(int id)
 260 {
 261     return (id < CV_HARDWARE_MAX_FEATURE) ? g_hwFeatureNames[id] : NULL;
 262 }
 263 static const char* getHWFeatureNameSafe(int id)
 264 {
 265     const char* name = getHWFeatureName(id);
 266     return name ? name : "Unknown feature";
 267 }
 268
 269 struct HWFeatures
 270 {
 271     enum { MAX_FEATURE = CV_HARDWARE_MAX_FEATURE };
 272
 273     HWFeatures(bool run_initialize = false)
 274     {
 275         memset( have, 0, sizeof(have[0]) * MAX_FEATURE );
 276         if (run_initialize)
 277             initialize();
 278     }
 279
 280     static void initializeNames()
 281     {
 282         for (int i = 0; i < CV_HARDWARE_MAX_FEATURE; i++)
 283         {
 284             g_hwFeatureNames[i] = 0;
 285         }
 286         g_hwFeatureNames[CPU_MMX] = "MMX";
 287         g_hwFeatureNames[CPU_SSE] = "SSE";
 288         g_hwFeatureNames[CPU_SSE2] = "SSE2";
 289         g_hwFeatureNames[CPU_SSE3] = "SSE3";
 290         g_hwFeatureNames[CPU_SSSE3] = "SSSE3";
 291         g_hwFeatureNames[CPU_SSE4_1] = "SSE4.1";
 292         g_hwFeatureNames[CPU_SSE4_2] = "SSE4.2";
 293         g_hwFeatureNames[CPU_POPCNT] = "POPCNT";
 294         g_hwFeatureNames[CPU_FP16] = "FP16";
 295         g_hwFeatureNames[CPU_AVX] = "AVX";
 296         g_hwFeatureNames[CPU_AVX2] = "AVX2";
 297         g_hwFeatureNames[CPU_FMA3] = "FMA3";
 298
 299         g_hwFeatureNames[CPU_AVX_512F] = "AVX512F";
 300         g_hwFeatureNames[CPU_AVX_512BW] = "AVX512BW";
 301         g_hwFeatureNames[CPU_AVX_512CD] = "AVX512CD";
 302         g_hwFeatureNames[CPU_AVX_512DQ] = "AVX512DQ";
 303         g_hwFeatureNames[CPU_AVX_512ER] = "AVX512ER";
 304         g_hwFeatureNames[CPU_AVX_512IFMA] = "AVX512IFMA";
 305         g_hwFeatureNames[CPU_AVX_512PF] = "AVX512PF";
 306         g_hwFeatureNames[CPU_AVX_512VBMI] = "AVX512VBMI";
 307         g_hwFeatureNames[CPU_AVX_512VL] = "AVX512VL";
 308
 309         g_hwFeatureNames[CPU_NEON] = "NEON";
 310
 311         g_hwFeatureNames[CPU_VSX] = "VSX";
 312
 313         g_hwFeatureNames[CPU_AVX512_SKX] = "AVX512-SKX";
 314     }
 315
 316     void initialize(void)
 317     {
 318 #ifndef WINRT
 319         if (getenv("OPENCV_DUMP_CONFIG"))
 320         {
 321             fprintf(stderr, "\nOpenCV build configuration is:\n%s\n",
 322                 cv::getBuildInformation().c_str());
 323         }
 324 #endif
 325
 326         initializeNames();
 327
 328         int cpuid_data[4] = { 0, 0, 0, 0 };
 329         int cpuid_data_ex[4] = { 0, 0, 0, 0 };
 330
 331     #if defined _MSC_VER && (defined _M_IX86 || defined _M_X64)
 332     #define OPENCV_HAVE_X86_CPUID 1
 333         __cpuid(cpuid_data, 1);
 334     #elif defined __GNUC__ && (defined __i386__ || defined __x86_64__)
 335     #define OPENCV_HAVE_X86_CPUID 1
 336         #ifdef __x86_64__
 337         asm __volatile__
 338         (
 339          "movl $1, %%eax\n\t"
 340          "cpuid\n\t"
 341          :[eax]"=a"(cpuid_data[0]),[ebx]"=b"(cpuid_data[1]),[ecx]"=c"(cpuid_data[2]),[edx]"=d"(cpuid_data[3])
 342          :
 343          : "cc"
 344         );
 345         #else
 346         asm volatile
 347         (
 348          "pushl %%ebx\n\t"
 349          "movl $1,%%eax\n\t"
 350          "cpuid\n\t"
 351          "popl %%ebx\n\t"
 352          : "=a"(cpuid_data[0]), "=c"(cpuid_data[2]), "=d"(cpuid_data[3])
 353          :
 354          : "cc"
 355         );
 356         #endif
 357     #endif
 358
 359     #ifdef OPENCV_HAVE_X86_CPUID
 360         int x86_family = (cpuid_data[0] >> 8) & 15;
 361         if( x86_family >= 6 )
 362         {
 363             have[CV_CPU_MMX]    = (cpuid_data[3] & (1<<23)) != 0;
 364             have[CV_CPU_SSE]    = (cpuid_data[3] & (1<<25)) != 0;
 365             have[CV_CPU_SSE2]   = (cpuid_data[3] & (1<<26)) != 0;
 366             have[CV_CPU_SSE3]   = (cpuid_data[2] & (1<<0)) != 0;
 367             have[CV_CPU_SSSE3]  = (cpuid_data[2] & (1<<9)) != 0;
 368             have[CV_CPU_FMA3]   = (cpuid_data[2] & (1<<12)) != 0;
 369             have[CV_CPU_SSE4_1] = (cpuid_data[2] & (1<<19)) != 0;
 370             have[CV_CPU_SSE4_2] = (cpuid_data[2] & (1<<20)) != 0;
 371             have[CV_CPU_POPCNT] = (cpuid_data[2] & (1<<23)) != 0;
 372             have[CV_CPU_AVX]    = (cpuid_data[2] & (1<<28)) != 0;
 373             have[CV_CPU_FP16]   = (cpuid_data[2] & (1<<29)) != 0;
 374
 375             // make the second call to the cpuid command in order to get
 376             // information about extended features like AVX2
 377         #if defined _MSC_VER && (defined _M_IX86 || defined _M_X64)
 378         #define OPENCV_HAVE_X86_CPUID_EX 1
 379             __cpuidex(cpuid_data_ex, 7, 0);
 380         #elif defined __GNUC__ && (defined __i386__ || defined __x86_64__)
 381         #define OPENCV_HAVE_X86_CPUID_EX 1
 382             #ifdef __x86_64__
 383             asm __volatile__
 384             (
 385              "movl $7, %%eax\n\t"
 386              "movl $0, %%ecx\n\t"
 387              "cpuid\n\t"
 388              :[eax]"=a"(cpuid_data_ex[0]),[ebx]"=b"(cpuid_data_ex[1]),[ecx]"=c"(cpuid_data_ex[2]),[edx]"=d"(cpuid_data_ex[3])
 389              :
 390              : "cc"
 391             );
 392             #else
 393             asm volatile
 394             (
 395              "pushl %%ebx\n\t"
 396              "movl $7,%%eax\n\t"
 397              "movl $0,%%ecx\n\t"
 398              "cpuid\n\t"
 399              "movl %%ebx, %0\n\t"
 400              "popl %%ebx\n\t"
 401              : "=r"(cpuid_data_ex[1]), "=c"(cpuid_data_ex[2])
 402              :
 403              : "cc"
 404             );
 405             #endif
 406         #endif
 407
 408         #ifdef OPENCV_HAVE_X86_CPUID_EX
 409             have[CV_CPU_AVX2]   = (cpuid_data_ex[1] & (1<<5)) != 0;
 410
 411             have[CV_CPU_AVX_512F]       = (cpuid_data_ex[1] & (1<<16)) != 0;
 412             have[CV_CPU_AVX_512DQ]      = (cpuid_data_ex[1] & (1<<17)) != 0;
 413             have[CV_CPU_AVX_512IFMA512] = (cpuid_data_ex[1] & (1<<21)) != 0;
 414             have[CV_CPU_AVX_512PF]      = (cpuid_data_ex[1] & (1<<26)) != 0;
 415             have[CV_CPU_AVX_512ER]      = (cpuid_data_ex[1] & (1<<27)) != 0;
 416             have[CV_CPU_AVX_512CD]      = (cpuid_data_ex[1] & (1<<28)) != 0;
 417             have[CV_CPU_AVX_512BW]      = (cpuid_data_ex[1] & (1<<30)) != 0;
 418             have[CV_CPU_AVX_512VL]      = (cpuid_data_ex[1] & (1<<31)) != 0;
 419             have[CV_CPU_AVX_512VBMI]    = (cpuid_data_ex[2] & (1<<1)) != 0;
 420         #else
 421             CV_UNUSED(cpuid_data_ex);
 422         #endif
 423
 424             bool have_AVX_OS_support = true;
 425             bool have_AVX512_OS_support = true;
 426             if (!(cpuid_data[2] & (1<<27)))
 427                 have_AVX_OS_support = false; // OS uses XSAVE_XRSTORE and CPU support AVX
 428             else
 429             {
 430                 int xcr0 = 0;
 431             #ifdef _XCR_XFEATURE_ENABLED_MASK // requires immintrin.h
 432                 xcr0 = (int)_xgetbv(_XCR_XFEATURE_ENABLED_MASK);
 433             #elif defined __GNUC__ && (defined __i386__ || defined __x86_64__)
 434                 __asm__ ("xgetbv" : "=a" (xcr0) : "c" (0) : "%edx" );
 435             #endif
 436                 if ((xcr0 & 0x6) != 0x6)
 437                     have_AVX_OS_support = false; // YMM registers
 438                 if ((xcr0 & 0xe6) != 0xe6)
 439                     have_AVX512_OS_support = false; // ZMM registers
 440             }
 441
 442             if (!have_AVX_OS_support)
 443             {
 444                 have[CV_CPU_AVX] = false;
 445                 have[CV_CPU_FP16] = false;
 446                 have[CV_CPU_AVX2] = false;
 447                 have[CV_CPU_FMA3] = false;
 448             }
 449             if (!have_AVX_OS_support || !have_AVX512_OS_support)
 450             {
 451                 have[CV_CPU_AVX_512F] = false;
 452                 have[CV_CPU_AVX_512BW] = false;
 453                 have[CV_CPU_AVX_512CD] = false;
 454                 have[CV_CPU_AVX_512DQ] = false;
 455                 have[CV_CPU_AVX_512ER] = false;
 456                 have[CV_CPU_AVX_512IFMA512] = false;
 457                 have[CV_CPU_AVX_512PF] = false;
 458                 have[CV_CPU_AVX_512VBMI] = false;
 459                 have[CV_CPU_AVX_512VL] = false;
 460             }
 461
 462             if (have[CV_CPU_AVX_512F])
 463             {
 464                 have[CV_CPU_AVX512_SKX] = have[CV_CPU_AVX_512F] & have[CV_CPU_AVX_512CD] & have[CV_CPU_AVX_512BW] & have[CV_CPU_AVX_512DQ] & have[CV_CPU_AVX_512VL];
 465             }
 466         }
 467     #else
 468         CV_UNUSED(cpuid_data);
 469         CV_UNUSED(cpuid_data_ex);
 470     #endif // OPENCV_HAVE_X86_CPUID
 471
 472     #if defined __ANDROID__ || defined __linux__
 473     #ifdef __aarch64__
 474         have[CV_CPU_NEON] = true;
 475         have[CV_CPU_FP16] = true;
 476     #elif defined __arm__ && defined __ANDROID__
 477       #if defined HAVE_CPUFEATURES
 478         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "calling android_getCpuFeatures() ...");
 479         uint64_t features = android_getCpuFeatures();
 480         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "calling android_getCpuFeatures() ... Done (%llx)", features);
 481         have[CV_CPU_NEON] = (features & ANDROID_CPU_ARM_FEATURE_NEON) != 0;
 482         have[CV_CPU_FP16] = (features & ANDROID_CPU_ARM_FEATURE_VFP_FP16) != 0;
 483       #else
 484         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "cpufeatures library is not avaialble for CPU detection");
 485         #if CV_NEON
 486         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "- NEON instructions is enabled via build flags");
 487         have[CV_CPU_NEON] = true;
 488         #else
 489         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "- NEON instructions is NOT enabled via build flags");
 490         #endif
 491         #if CV_FP16
 492         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "- FP16 instructions is enabled via build flags");
 493         have[CV_CPU_FP16] = true;
 494         #else
 495         __android_log_print(ANDROID_LOG_INFO, "OpenCV", "- FP16 instructions is NOT enabled via build flags");
 496         #endif
 497       #endif
 498     #elif defined __arm__
 499         int cpufile = open("/proc/self/auxv", O_RDONLY);
 500
 501         if (cpufile >= 0)
 502         {
 503             Elf32_auxv_t auxv;
 504             const size_t size_auxv_t = sizeof(auxv);
 505
 506             while ((size_t)read(cpufile, &auxv, size_auxv_t) == size_auxv_t)
 507             {
 508                 if (auxv.a_type == AT_HWCAP)
 509                 {
 510                     have[CV_CPU_NEON] = (auxv.a_un.a_val & 4096) != 0;
 511                     have[CV_CPU_FP16] = (auxv.a_un.a_val & 2) != 0;
 512                     break;
 513                 }
 514             }
 515
 516             close(cpufile);
 517         }
 518     #endif
 519     #elif (defined __clang__ || defined __APPLE__)
 520     #if (defined __ARM_NEON__ || (defined __ARM_NEON && defined __aarch64__))
 521         have[CV_CPU_NEON] = true;
 522     #endif
 523     #if (defined __ARM_FP  && (((__ARM_FP & 0x2) != 0) && defined __ARM_NEON__))
 524         have[CV_CPU_FP16] = true;
 525     #endif
 526     #endif
 527
 528     #ifdef __VSX__
 529         have[CV_CPU_VSX] = true;
 530     #elif (defined __PPC64__ && defined __linux__)
 531         uint64 hwcaps = getauxval(AT_HWCAP);
 532         uint64 hwcap2 = getauxval(AT_HWCAP2);
 533         have[CV_CPU_VSX] = (hwcaps & PPC_FEATURE_PPC_LE && hwcaps & PPC_FEATURE_HAS_VSX && hwcap2 & PPC_FEATURE2_ARCH_2_07);
 534     #else
 535         have[CV_CPU_VSX] = false;
 536     #endif
 537
 538         int baseline_features[] = { CV_CPU_BASELINE_FEATURES };
 539         if (!checkFeatures(baseline_features, sizeof(baseline_features) / sizeof(baseline_features[0])))
 540         {
 541             fprintf(stderr, "\n"
 542                     "******************************************************************\n"
 543                     "* FATAL ERROR:                                                   *\n"
 544                     "* This OpenCV build doesn't support current CPU/HW configuration *\n"
 545                     "*                                                                *\n"
 546                     "* Use OPENCV_DUMP_CONFIG=1 environment variable for details      *\n"
 547                     "******************************************************************\n");
 548             fprintf(stderr, "\nRequired baseline features:\n");
 549             checkFeatures(baseline_features, sizeof(baseline_features) / sizeof(baseline_features[0]), true);
 550             CV_ErrorNoReturn(cv::Error::StsAssert, "Missing support for required CPU baseline features. Check OpenCV build configuration and required CPU/HW setup.");
 551         }
 552
 553         readSettings(baseline_features, sizeof(baseline_features) / sizeof(baseline_features[0]));
 554     }
 555
 556     bool checkFeatures(const int* features, int count, bool dump = false)
 557     {
 558         bool result = true;
 559         for (int i = 0; i < count; i++)
 560         {
 561             int feature = features[i];
 562             if (feature)
 563             {
 564                 if (have[feature])
 565                 {
 566                     if (dump) fprintf(stderr, "%s - OK\n", getHWFeatureNameSafe(feature));
 567                 }
 568                 else
 569                 {
 570                     result = false;
 571                     if (dump) fprintf(stderr, "%s - NOT AVAILABLE\n", getHWFeatureNameSafe(feature));
 572                 }
 573             }
 574         }
 575         return result;
 576     }
 577
 578     static inline bool isSymbolSeparator(char c)
 579     {
 580         return c == ',' || c == ';' || c == '-';
 581     }
 582
 583     void readSettings(const int* baseline_features, int baseline_count)
 584     {
 585         bool dump = true;
 586         const char* disabled_features =
 587 #ifndef WINRT
 588                 getenv("OPENCV_CPU_DISABLE");
 589 #else
 590                 NULL;
 591 #endif
 592         if (disabled_features && disabled_features[0] != 0)
 593         {
 594             const char* start = disabled_features;
 595             for (;;)
 596             {
 597                 while (start[0] != 0 && isSymbolSeparator(start[0]))
 598                 {
 599                     start++;
 600                 }
 601                 if (start[0] == 0)
 602                     break;
 603                 const char* end = start;
 604                 while (end[0] != 0 && !isSymbolSeparator(end[0]))
 605                 {
 606                     end++;
 607                 }
 608                 if (end == start)
 609                     continue;
 610                 cv::String feature(start, end);
 611                 start = end;
 612
 613                 CV_Assert(feature.size() > 0);
 614
 615                 bool found = false;
 616                 for (int i = 0; i < CV_HARDWARE_MAX_FEATURE; i++)
 617                 {
 618                     if (!g_hwFeatureNames[i]) continue;
 619                     size_t len = strlen(g_hwFeatureNames[i]);
 620                     if (len != feature.size()) continue;
 621                     if (feature.compare(g_hwFeatureNames[i]) == 0)
 622                     {
 623                         bool isBaseline = false;
 624                         for (int k = 0; k < baseline_count; k++)
 625                         {
 626                             if (baseline_features[k] == i)
 627                             {
 628                                 isBaseline = true;
 629                                 break;
 630                             }
 631                         }
 632                         if (isBaseline)
 633                         {
 634                             if (dump) fprintf(stderr, "OPENCV: Trying to disable baseline CPU feature: '%s'. This has very limited effect, because code optimizations for this feature are executed unconditionally in the most cases.\n", getHWFeatureNameSafe(i));
 635                         }
 636                         if (!have[i])
 637                         {
 638                             if (dump) fprintf(stderr, "OPENCV: Trying to disable unavailable CPU feature on the current platform: '%s'.\n", getHWFeatureNameSafe(i));
 639                         }
 640                         have[i] = false;
 641
 642                         found = true;
 643                         break;
 644                     }
 645                 }
 646                 if (!found)
 647                 {
 648                     if (dump) fprintf(stderr, "OPENCV: Trying to disable unknown CPU feature: '%s'.\n", feature.c_str());
 649                 }
 650             }
 651         }
 652     }
 653
 654     bool have[MAX_FEATURE+1];
 655 };
 656
 657 static HWFeatures  featuresEnabled(true), featuresDisabled = HWFeatures(false);
 658 static HWFeatures* currentFeatures = &featuresEnabled;
 659
 660 bool checkHardwareSupport(int feature)
 661 {
 662     CV_DbgAssert( 0 <= feature && feature <= CV_HARDWARE_MAX_FEATURE );
 663     return currentFeatures->have[feature];
 664 }
 665
 666
 667 volatile bool useOptimizedFlag = true;
 668
 669 void setUseOptimized( bool flag )
 670 {
 671     useOptimizedFlag = flag;
 672     currentFeatures = flag ? &featuresEnabled : &featuresDisabled;
 673
 674     ipp::setUseIPP(flag);
 675 #ifdef HAVE_OPENCL
 676     ocl::setUseOpenCL(flag);
 677 #endif
 678 #ifdef HAVE_TEGRA_OPTIMIZATION
 679     ::tegra::setUseTegra(flag);
 680 #endif
 681 }
 682
 683 bool useOptimized(void)
 684 {
 685     return useOptimizedFlag;
 686 }
 687
 688 int64 getTickCount(void)
 689 {
 690 #if defined _WIN32 || defined WINCE
 691     LARGE_INTEGER counter;
 692     QueryPerformanceCounter( &counter );
 693     return (int64)counter.QuadPart;
 694 #elif defined __linux || defined __linux__
 695     struct timespec tp;
 696     clock_gettime(CLOCK_MONOTONIC, &tp);
 697     return (int64)tp.tv_sec*1000000000 + tp.tv_nsec;
 698 #elif defined __MACH__ && defined __APPLE__
 699     return (int64)mach_absolute_time();
 700 #else
 701     struct timeval tv;
 702     struct timezone tz;
 703     gettimeofday( &tv, &tz );
 704     return (int64)tv.tv_sec*1000000 + tv.tv_usec;
 705 #endif
 706 }
 707
 708 double getTickFrequency(void)
 709 {
 710 #if defined _WIN32 || defined WINCE
 711     LARGE_INTEGER freq;
 712     QueryPerformanceFrequency(&freq);
 713     return (double)freq.QuadPart;
 714 #elif defined __linux || defined __linux__
 715     return 1e9;
 716 #elif defined __MACH__ && defined __APPLE__
 717     static double freq = 0;
 718     if( freq == 0 )
 719     {
 720         mach_timebase_info_data_t sTimebaseInfo;
 721         mach_timebase_info(&sTimebaseInfo);
 722         freq = sTimebaseInfo.denom*1e9/sTimebaseInfo.numer;
 723     }
 724     return freq;
 725 #else
 726     return 1e6;
 727 #endif
 728 }
 729
 730 #if defined __GNUC__ && (defined __i386__ || defined __x86_64__ || defined __ppc__)
 731 #if defined(__i386__)
 732
 733 int64 getCPUTickCount(void)
 734 {
 735     int64 x;
 736     __asm__ volatile (".byte 0x0f, 0x31" : "=A" (x));
 737     return x;
 738 }
 739 #elif defined(__x86_64__)
 740
 741 int64 getCPUTickCount(void)
 742 {
 743     unsigned hi, lo;
 744     __asm__ __volatile__ ("rdtsc" : "=a"(lo), "=d"(hi));
 745     return (int64)lo | ((int64)hi << 32);
 746 }
 747
 748 #elif defined(__ppc__)
 749
 750 int64 getCPUTickCount(void)
 751 {
 752     int64 result = 0;
 753     unsigned upper, lower, tmp;
 754     __asm__ volatile(
 755                      "0:                  \n"
 756                      "\tmftbu   %0           \n"
 757                      "\tmftb    %1           \n"
 758                      "\tmftbu   %2           \n"
 759                      "\tcmpw    %2,%0        \n"
 760                      "\tbne     0b         \n"
 761                      : "=r"(upper),"=r"(lower),"=r"(tmp)
 762                      );
 763     return lower | ((int64)upper << 32);
 764 }
 765
 766 #else
 767
 768 #error "RDTSC not defined"
 769
 770 #endif
 771
 772 #elif defined _MSC_VER && defined _WIN32 && defined _M_IX86
 773
 774 int64 getCPUTickCount(void)
 775 {
 776     __asm _emit 0x0f;
 777     __asm _emit 0x31;
 778 }
 779
 780 #else
 781
 782 //#ifdef HAVE_IPP
 783 //int64 getCPUTickCount(void)
 784 //{
 785 //    return ippGetCpuClocks();
 786 //}
 787 //#else
 788 int64 getCPUTickCount(void)
 789 {
 790     return getTickCount();
 791 }
 792 //#endif
 793
 794 #endif
 795
 796 const String& getBuildInformation()
 797 {
 798     static String build_info =
 799 #include "version_string.inc"
 800     ;
 801     return build_info;
 802 }
 803
 804 String format( const char* fmt, ... )
 805 {
 806     AutoBuffer<char, 1024> buf;
 807
 808     for ( ; ; )
 809     {
 810         va_list va;
 811         va_start(va, fmt);
 812         int bsize = static_cast<int>(buf.size());
 813         int len = cv_vsnprintf((char *)buf, bsize, fmt, va);
 814         va_end(va);
 815
 816         CV_Assert(len >= 0 && "Check format string for errors");
 817         if (len >= bsize)
 818         {
 819             buf.resize(len + 1);
 820             continue;
 821         }
 822         buf[bsize - 1] = 0;
 823         return String((char *)buf, len);
 824     }
 825 }
 826
 827 String tempfile( const char* suffix )
 828 {
 829     String fname;
 830 #ifndef WINRT
 831     const char *temp_dir = getenv("OPENCV_TEMP_PATH");
 832 #endif
 833
 834 #if defined _WIN32
 835 #ifdef WINRT
 836     RoInitialize(RO_INIT_MULTITHREADED);
 837     std::wstring temp_dir = GetTempPathWinRT();
 838
 839     std::wstring temp_file = GetTempFileNameWinRT(L"ocv");
 840     if (temp_file.empty())
 841         return String();
 842
 843     temp_file = temp_dir.append(std::wstring(L"\\")).append(temp_file);
 844     DeleteFileW(temp_file.c_str());
 845
 846     char aname[MAX_PATH];
 847     size_t copied = wcstombs(aname, temp_file.c_str(), MAX_PATH);
 848     CV_Assert((copied != MAX_PATH) && (copied != (size_t)-1));
 849     fname = String(aname);
 850     RoUninitialize();
 851 #else
 852     char temp_dir2[MAX_PATH] = { 0 };
 853     char temp_file[MAX_PATH] = { 0 };
 854
 855     if (temp_dir == 0 || temp_dir[0] == 0)
 856     {
 857         ::GetTempPathA(sizeof(temp_dir2), temp_dir2);
 858         temp_dir = temp_dir2;
 859     }
 860     if(0 == ::GetTempFileNameA(temp_dir, "ocv", 0, temp_file))
 861         return String();
 862
 863     DeleteFileA(temp_file);
 864
 865     fname = temp_file;
 866 #endif
 867 # else
 868 #  ifdef __ANDROID__
 869     //char defaultTemplate[] = "/mnt/sdcard/__opencv_temp.XXXXXX";
 870     char defaultTemplate[] = "/data/local/tmp/__opencv_temp.XXXXXX";
 871 #  else
 872     char defaultTemplate[] = "/tmp/__opencv_temp.XXXXXX";
 873 #  endif
 874
 875     if (temp_dir == 0 || temp_dir[0] == 0)
 876         fname = defaultTemplate;
 877     else
 878     {
 879         fname = temp_dir;
 880         char ech = fname[fname.size() - 1];
 881         if(ech != '/' && ech != '\\')
 882             fname = fname + "/";
 883         fname = fname + "__opencv_temp.XXXXXX";
 884     }
 885
 886     const int fd = mkstemp((char*)fname.c_str());
 887     if (fd == -1) return String();
 888
 889     close(fd);
 890     remove(fname.c_str());
 891 # endif
 892
 893     if (suffix)
 894     {
 895         if (suffix[0] != '.')
 896             return fname + "." + suffix;
 897         else
 898             return fname + suffix;
 899     }
 900     return fname;
 901 }
 902
 903 static ErrorCallback customErrorCallback = 0;
 904 static void* customErrorCallbackData = 0;
 905 static bool breakOnError = false;
 906
 907 bool setBreakOnError(bool value)
 908 {
 909     bool prevVal = breakOnError;
 910     breakOnError = value;
 911     return prevVal;
 912 }
 913
 914 int cv_snprintf(char* buf, int len, const char* fmt, ...)
 915 {
 916     va_list va;
 917     va_start(va, fmt);
 918     int res = cv_vsnprintf(buf, len, fmt, va);
 919     va_end(va);
 920     return res;
 921 }
 922
 923 int cv_vsnprintf(char* buf, int len, const char* fmt, va_list args)
 924 {
 925 #if defined _MSC_VER
 926     if (len <= 0) return len == 0 ? 1024 : -1;
 927     int res = _vsnprintf_s(buf, len, _TRUNCATE, fmt, args);
 928     // ensure null terminating on VS
 929     if (res >= 0 && res < len)
 930     {
 931         buf[res] = 0;
 932         return res;
 933     }
 934     else
 935     {
 936         buf[len - 1] = 0; // truncate happened
 937         return res >= len ? res : (len * 2);
 938     }
 939 #else
 940     return vsnprintf(buf, len, fmt, args);
 941 #endif
 942 }
 943
 944 void error( const Exception& exc )
 945 {
 946     if (customErrorCallback != 0)
 947         customErrorCallback(exc.code, exc.func.c_str(), exc.err.c_str(),
 948                             exc.file.c_str(), exc.line, customErrorCallbackData);
 949     else
 950     {
 951         const char* errorStr = cvErrorStr(exc.code);
 952         char buf[1 << 12];
 953
 954         cv_snprintf(buf, sizeof(buf),
 955             "OpenCV Error: %s (%s) in %s, file %s, line %d",
 956             errorStr, exc.err.c_str(), exc.func.size() > 0 ?
 957             exc.func.c_str() : "unknown function", exc.file.c_str(), exc.line);
 958         fprintf( stderr, "%s\n", buf );
 959         fflush( stderr );
 960 #  ifdef __ANDROID__
 961         __android_log_print(ANDROID_LOG_ERROR, "cv::error()", "%s", buf);
 962 #  endif
 963     }
 964
 965     if(breakOnError)
 966     {
 967         static volatile int* p = 0;
 968         *p = 0;
 969     }
 970
 971     CV_THROW(exc);
 972 }
 973
 974 void error(int _code, const String& _err, const char* _func, const char* _file, int _line)
 975 {
 976     error(cv::Exception(_code, _err, _func, _file, _line));
 977 }
 978
 979
 980 ErrorCallback
 981 redirectError( ErrorCallback errCallback, void* userdata, void** prevUserdata)
 982 {
 983     if( prevUserdata )
 984         *prevUserdata = customErrorCallbackData;
 985
 986     ErrorCallback prevCallback = customErrorCallback;
 987
 988     customErrorCallback     = errCallback;
 989     customErrorCallbackData = userdata;
 990
 991     return prevCallback;
 992 }
 993
 994 }
 995
 996 CV_IMPL int cvCheckHardwareSupport(int feature)
 997 {
 998     CV_DbgAssert( 0 <= feature && feature <= CV_HARDWARE_MAX_FEATURE );
 999     return cv::currentFeatures->have[feature];
1000 }
1001
1002 CV_IMPL int cvUseOptimized( int flag )
1003 {
1004     int prevMode = cv::useOptimizedFlag;
1005     cv::setUseOptimized( flag != 0 );
1006     return prevMode;
1007 }
1008
1009 CV_IMPL int64  cvGetTickCount(void)
1010 {
1011     return cv::getTickCount();
1012 }
1013
1014 CV_IMPL double cvGetTickFrequency(void)
1015 {
1016     return cv::getTickFrequency()*1e-6;
1017 }
1018
1019 CV_IMPL CvErrorCallback
1020 cvRedirectError( CvErrorCallback errCallback, void* userdata, void** prevUserdata)
1021 {
1022     return cv::redirectError(errCallback, userdata, prevUserdata);
1023 }
1024
1025 CV_IMPL int cvNulDevReport( int, const char*, const char*,
1026                             const char*, int, void* )
1027 {
1028     return 0;
1029 }
1030
1031 CV_IMPL int cvStdErrReport( int, const char*, const char*,
1032                             const char*, int, void* )
1033 {
1034     return 0;
1035 }
1036
1037 CV_IMPL int cvGuiBoxReport( int, const char*, const char*,
1038                             const char*, int, void* )
1039 {
1040     return 0;
1041 }
1042
1043 CV_IMPL int cvGetErrInfo( const char**, const char**, const char**, int* )
1044 {
1045     return 0;
1046 }
1047
1048
1049 CV_IMPL const char* cvErrorStr( int status )
1050 {
1051     static char buf[256];
1052
1053     switch (status)
1054     {
1055     case CV_StsOk :                  return "No Error";
1056     case CV_StsBackTrace :           return "Backtrace";
1057     case CV_StsError :               return "Unspecified error";
1058     case CV_StsInternal :            return "Internal error";
1059     case CV_StsNoMem :               return "Insufficient memory";
1060     case CV_StsBadArg :              return "Bad argument";
1061     case CV_StsNoConv :              return "Iterations do not converge";
1062     case CV_StsAutoTrace :           return "Autotrace call";
1063     case CV_StsBadSize :             return "Incorrect size of input array";
1064     case CV_StsNullPtr :             return "Null pointer";
1065     case CV_StsDivByZero :           return "Division by zero occurred";
1066     case CV_BadStep :                return "Image step is wrong";
1067     case CV_StsInplaceNotSupported : return "Inplace operation is not supported";
1068     case CV_StsObjectNotFound :      return "Requested object was not found";
1069     case CV_BadDepth :               return "Input image depth is not supported by function";
1070     case CV_StsUnmatchedFormats :    return "Formats of input arguments do not match";
1071     case CV_StsUnmatchedSizes :      return "Sizes of input arguments do not match";
1072     case CV_StsOutOfRange :          return "One of arguments\' values is out of range";
1073     case CV_StsUnsupportedFormat :   return "Unsupported format or combination of formats";
1074     case CV_BadCOI :                 return "Input COI is not supported";
1075     case CV_BadNumChannels :         return "Bad number of channels";
1076     case CV_StsBadFlag :             return "Bad flag (parameter or structure field)";
1077     case CV_StsBadPoint :            return "Bad parameter of type CvPoint";
1078     case CV_StsBadMask :             return "Bad type of mask argument";
1079     case CV_StsParseError :          return "Parsing error";
1080     case CV_StsNotImplemented :      return "The function/feature is not implemented";
1081     case CV_StsBadMemBlock :         return "Memory block has been corrupted";
1082     case CV_StsAssert :              return "Assertion failed";
1083     case CV_GpuNotSupported :        return "No CUDA support";
1084     case CV_GpuApiCallError :        return "Gpu API call";
1085     case CV_OpenGlNotSupported :     return "No OpenGL support";
1086     case CV_OpenGlApiCallError :     return "OpenGL API call";
1087     };
1088
1089     sprintf(buf, "Unknown %s code %d", status >= 0 ? "status":"error", status);
1090     return buf;
1091 }
1092
1093 CV_IMPL int cvGetErrMode(void)
1094 {
1095     return 0;
1096 }
1097
1098 CV_IMPL int cvSetErrMode(int)
1099 {
1100     return 0;
1101 }
1102
1103 CV_IMPL int cvGetErrStatus(void)
1104 {
1105     return 0;
1106 }
1107
1108 CV_IMPL void cvSetErrStatus(int)
1109 {
1110 }
1111
1112
1113 CV_IMPL void cvError( int code, const char* func_name,
1114                       const char* err_msg,
1115                       const char* file_name, int line )
1116 {
1117     cv::error(cv::Exception(code, err_msg, func_name, file_name, line));
1118 }
1119
1120 /* function, which converts int to int */
1121 CV_IMPL int
1122 cvErrorFromIppStatus( int status )
1123 {
1124     switch (status)
1125     {
1126     case CV_BADSIZE_ERR:               return CV_StsBadSize;
1127     case CV_BADMEMBLOCK_ERR:           return CV_StsBadMemBlock;
1128     case CV_NULLPTR_ERR:               return CV_StsNullPtr;
1129     case CV_DIV_BY_ZERO_ERR:           return CV_StsDivByZero;
1130     case CV_BADSTEP_ERR:               return CV_BadStep;
1131     case CV_OUTOFMEM_ERR:              return CV_StsNoMem;
1132     case CV_BADARG_ERR:                return CV_StsBadArg;
1133     case CV_NOTDEFINED_ERR:            return CV_StsError;
1134     case CV_INPLACE_NOT_SUPPORTED_ERR: return CV_StsInplaceNotSupported;
1135     case CV_NOTFOUND_ERR:              return CV_StsObjectNotFound;
1136     case CV_BADCONVERGENCE_ERR:        return CV_StsNoConv;
1137     case CV_BADDEPTH_ERR:              return CV_BadDepth;
1138     case CV_UNMATCHED_FORMATS_ERR:     return CV_StsUnmatchedFormats;
1139     case CV_UNSUPPORTED_COI_ERR:       return CV_BadCOI;
1140     case CV_UNSUPPORTED_CHANNELS_ERR:  return CV_BadNumChannels;
1141     case CV_BADFLAG_ERR:               return CV_StsBadFlag;
1142     case CV_BADRANGE_ERR:              return CV_StsBadArg;
1143     case CV_BADCOEF_ERR:               return CV_StsBadArg;
1144     case CV_BADFACTOR_ERR:             return CV_StsBadArg;
1145     case CV_BADPOINT_ERR:              return CV_StsBadPoint;
1146
1147     default:
1148       return CV_StsError;
1149     }
1150 }
1151
1152 namespace cv {
1153 bool __termination = false;
1154 }
1155
1156 namespace cv
1157 {
1158
1159 #if defined _WIN32 || defined WINCE
1160
1161 struct Mutex::Impl
1162 {
1163     Impl()
1164     {
1165 #if (_WIN32_WINNT >= 0x0600)
1166         ::InitializeCriticalSectionEx(&cs, 1000, 0);
1167 #else
1168         ::InitializeCriticalSection(&cs);
1169 #endif
1170         refcount = 1;
1171     }
1172     ~Impl() { DeleteCriticalSection(&cs); }
1173
1174     void lock() { EnterCriticalSection(&cs); }
1175     bool trylock() { return TryEnterCriticalSection(&cs) != 0; }
1176     void unlock() { LeaveCriticalSection(&cs); }
1177
1178     CRITICAL_SECTION cs;
1179     int refcount;
1180 };
1181
1182 #else
1183
1184 struct Mutex::Impl
1185 {
1186     Impl()
1187     {
1188         pthread_mutexattr_t attr;
1189         pthread_mutexattr_init(&attr);
1190         pthread_mutexattr_settype(&attr, PTHREAD_MUTEX_RECURSIVE);
1191         pthread_mutex_init(&mt, &attr);
1192         pthread_mutexattr_destroy(&attr);
1193
1194         refcount = 1;
1195     }
1196     ~Impl() { pthread_mutex_destroy(&mt); }
1197
1198     void lock() { pthread_mutex_lock(&mt); }
1199     bool trylock() { return pthread_mutex_trylock(&mt) == 0; }
1200     void unlock() { pthread_mutex_unlock(&mt); }
1201
1202     pthread_mutex_t mt;
1203     int refcount;
1204 };
1205
1206 #endif
1207
1208 Mutex::Mutex()
1209 {
1210     impl = new Mutex::Impl;
1211 }
1212
1213 Mutex::~Mutex()
1214 {
1215     if( CV_XADD(&impl->refcount, -1) == 1 )
1216         delete impl;
1217     impl = 0;
1218 }
1219
1220 Mutex::Mutex(const Mutex& m)
1221 {
1222     impl = m.impl;
1223     CV_XADD(&impl->refcount, 1);
1224 }
1225
1226 Mutex& Mutex::operator = (const Mutex& m)
1227 {
1228     if (this != &m)
1229     {
1230         CV_XADD(&m.impl->refcount, 1);
1231         if( CV_XADD(&impl->refcount, -1) == 1 )
1232             delete impl;
1233         impl = m.impl;
1234     }
1235     return *this;
1236 }
1237
1238 void Mutex::lock() { impl->lock(); }
1239 void Mutex::unlock() { impl->unlock(); }
1240 bool Mutex::trylock() { return impl->trylock(); }
1241
1242
1243 //////////////////////////////// thread-local storage ////////////////////////////////
1244
1245 #ifdef _WIN32
1246 #ifdef _MSC_VER
1247 #pragma warning(disable:4505) // unreferenced local function has been removed
1248 #endif
1249 #ifndef TLS_OUT_OF_INDEXES
1250 #define TLS_OUT_OF_INDEXES ((DWORD)0xFFFFFFFF)
1251 #endif
1252 #endif
1253
1254 // TLS platform abstraction layer
1255 class TlsAbstraction
1256 {
1257 public:
1258     TlsAbstraction();
1259     ~TlsAbstraction();
1260     void* GetData() const;
1261     void  SetData(void *pData);
1262
1263 private:
1264 #ifdef _WIN32
1265 #ifndef WINRT
1266     DWORD tlsKey;
1267 #endif
1268 #else // _WIN32
1269     pthread_key_t  tlsKey;
1270 #endif
1271 };
1272
1273 #ifdef _WIN32
1274 #ifdef WINRT
1275 static __declspec( thread ) void* tlsData = NULL; // using C++11 thread attribute for local thread data
1276 TlsAbstraction::TlsAbstraction() {}
1277 TlsAbstraction::~TlsAbstraction() {}
1278 void* TlsAbstraction::GetData() const
1279 {
1280     return tlsData;
1281 }
1282 void  TlsAbstraction::SetData(void *pData)
1283 {
1284     tlsData = pData;
1285 }
1286 #else //WINRT
1287 TlsAbstraction::TlsAbstraction()
1288 {
1289     tlsKey = TlsAlloc();
1290     CV_Assert(tlsKey != TLS_OUT_OF_INDEXES);
1291 }
1292 TlsAbstraction::~TlsAbstraction()
1293 {
1294     TlsFree(tlsKey);
1295 }
1296 void* TlsAbstraction::GetData() const
1297 {
1298     return TlsGetValue(tlsKey);
1299 }
1300 void  TlsAbstraction::SetData(void *pData)
1301 {
1302     CV_Assert(TlsSetValue(tlsKey, pData) == TRUE);
1303 }
1304 #endif
1305 #else // _WIN32
1306 TlsAbstraction::TlsAbstraction()
1307 {
1308     CV_Assert(pthread_key_create(&tlsKey, NULL) == 0);
1309 }
1310 TlsAbstraction::~TlsAbstraction()
1311 {
1312     CV_Assert(pthread_key_delete(tlsKey) == 0);
1313 }
1314 void* TlsAbstraction::GetData() const
1315 {
1316     return pthread_getspecific(tlsKey);
1317 }
1318 void  TlsAbstraction::SetData(void *pData)
1319 {
1320     CV_Assert(pthread_setspecific(tlsKey, pData) == 0);
1321 }
1322 #endif
1323
1324 // Per-thread data structure
1325 struct ThreadData
1326 {
1327     ThreadData()
1328     {
1329         idx = 0;
1330         slots.reserve(32);
1331     }
1332
1333     std::vector<void*> slots; // Data array for a thread
1334     size_t idx;               // Thread index in TLS storage. This is not OS thread ID!
1335 };
1336
1337 // Main TLS storage class
1338 class TlsStorage
1339 {
1340 public:
1341     TlsStorage() :
1342         tlsSlotsSize(0)
1343     {
1344         tlsSlots.reserve(32);
1345         threads.reserve(32);
1346     }
1347     ~TlsStorage()
1348     {
1349         for(size_t i = 0; i < threads.size(); i++)
1350         {
1351             if(threads[i])
1352             {
1353                 /* Current architecture doesn't allow proper global objects release, so this check can cause crashes
1354
1355                 // Check if all slots were properly cleared
1356                 for(size_t j = 0; j < threads[i]->slots.size(); j++)
1357                 {
1358                     CV_Assert(threads[i]->slots[j] == 0);
1359                 }
1360                 */
1361                 delete threads[i];
1362             }
1363         }
1364         threads.clear();
1365     }
1366
1367     void releaseThread()
1368     {
1369         AutoLock guard(mtxGlobalAccess);
1370         ThreadData *pTD = (ThreadData*)tls.GetData();
1371         for(size_t i = 0; i < threads.size(); i++)
1372         {
1373             if(pTD == threads[i])
1374             {
1375                 threads[i] = 0;
1376                 break;
1377             }
1378         }
1379         tls.SetData(0);
1380         delete pTD;
1381     }
1382
1383     // Reserve TLS storage index
1384     size_t reserveSlot()
1385     {
1386         AutoLock guard(mtxGlobalAccess);
1387         CV_Assert(tlsSlotsSize == tlsSlots.size());
1388
1389         // Find unused slots
1390         for(size_t slot = 0; slot < tlsSlotsSize; slot++)
1391         {
1392             if(!tlsSlots[slot])
1393             {
1394                 tlsSlots[slot] = 1;
1395                 return slot;
1396             }
1397         }
1398
1399         // Create new slot
1400         tlsSlots.push_back(1); tlsSlotsSize++;
1401         return tlsSlotsSize - 1;
1402     }
1403
1404     // Release TLS storage index and pass associated data to caller
1405     void releaseSlot(size_t slotIdx, std::vector<void*> &dataVec, bool keepSlot = false)
1406     {
1407         AutoLock guard(mtxGlobalAccess);
1408         CV_Assert(tlsSlotsSize == tlsSlots.size());
1409         CV_Assert(tlsSlotsSize > slotIdx);
1410
1411         for(size_t i = 0; i < threads.size(); i++)
1412         {
1413             if(threads[i])
1414             {
1415                 std::vector<void*>& thread_slots = threads[i]->slots;
1416                 if (thread_slots.size() > slotIdx && thread_slots[slotIdx])
1417                 {
1418                     dataVec.push_back(thread_slots[slotIdx]);
1419                     thread_slots[slotIdx] = NULL;
1420                 }
1421             }
1422         }
1423
1424         if (!keepSlot)
1425             tlsSlots[slotIdx] = 0;
1426     }
1427
1428     // Get data by TLS storage index
1429     void* getData(size_t slotIdx) const
1430     {
1431 #ifndef CV_THREAD_SANITIZER
1432         CV_Assert(tlsSlotsSize > slotIdx);
1433 #endif
1434
1435         ThreadData* threadData = (ThreadData*)tls.GetData();
1436         if(threadData && threadData->slots.size() > slotIdx)
1437             return threadData->slots[slotIdx];
1438
1439         return NULL;
1440     }
1441
1442     // Gather data from threads by TLS storage index
1443     void gather(size_t slotIdx, std::vector<void*> &dataVec)
1444     {
1445         AutoLock guard(mtxGlobalAccess);
1446         CV_Assert(tlsSlotsSize == tlsSlots.size());
1447         CV_Assert(tlsSlotsSize > slotIdx);
1448
1449         for(size_t i = 0; i < threads.size(); i++)
1450         {
1451             if(threads[i])
1452             {
1453                 std::vector<void*>& thread_slots = threads[i]->slots;
1454                 if (thread_slots.size() > slotIdx && thread_slots[slotIdx])
1455                     dataVec.push_back(thread_slots[slotIdx]);
1456             }
1457         }
1458     }
1459
1460     // Set data to storage index
1461     void setData(size_t slotIdx, void* pData)
1462     {
1463 #ifndef CV_THREAD_SANITIZER
1464         CV_Assert(tlsSlotsSize > slotIdx);
1465 #endif
1466
1467         ThreadData* threadData = (ThreadData*)tls.GetData();
1468         if(!threadData)
1469         {
1470             threadData = new ThreadData;
1471             tls.SetData((void*)threadData);
1472             {
1473                 AutoLock guard(mtxGlobalAccess);
1474                 threadData->idx = threads.size();
1475                 threads.push_back(threadData);
1476             }
1477         }
1478
1479         if(slotIdx >= threadData->slots.size())
1480         {
1481             AutoLock guard(mtxGlobalAccess); // keep synchronization with gather() calls
1482             threadData->slots.resize(slotIdx + 1, NULL);
1483         }
1484         threadData->slots[slotIdx] = pData;
1485     }
1486
1487 private:
1488     TlsAbstraction tls; // TLS abstraction layer instance
1489
1490     Mutex  mtxGlobalAccess;           // Shared objects operation guard
1491     size_t tlsSlotsSize;              // equal to tlsSlots.size() in synchronized sections
1492                                       // without synchronization this counter doesn't desrease - it is used for slotIdx sanity checks
1493     std::vector<int> tlsSlots;        // TLS keys state
1494     std::vector<ThreadData*> threads; // Array for all allocated data. Thread data pointers are placed here to allow data cleanup
1495 };
1496
1497 // Create global TLS storage object
1498 static TlsStorage &getTlsStorage()
1499 {
1500     CV_SINGLETON_LAZY_INIT_REF(TlsStorage, new TlsStorage())
1501 }
1502
1503 TLSDataContainer::TLSDataContainer()
1504 {
1505     key_ = (int)getTlsStorage().reserveSlot(); // Reserve key from TLS storage
1506 }
1507
1508 TLSDataContainer::~TLSDataContainer()
1509 {
1510     CV_Assert(key_ == -1); // Key must be released in child object
1511 }
1512
1513 void TLSDataContainer::gatherData(std::vector<void*> &data) const
1514 {
1515     getTlsStorage().gather(key_, data);
1516 }
1517
1518 void TLSDataContainer::release()
1519 {
1520     std::vector<void*> data;
1521     data.reserve(32);
1522     getTlsStorage().releaseSlot(key_, data); // Release key and get stored data for proper destruction
1523     key_ = -1;
1524     for(size_t i = 0; i < data.size(); i++)  // Delete all associated data
1525         deleteDataInstance(data[i]);
1526 }
1527
1528 void TLSDataContainer::cleanup()
1529 {
1530     std::vector<void*> data;
1531     data.reserve(32);
1532     getTlsStorage().releaseSlot(key_, data, true); // Extract stored data with removal from TLS tables
1533     for(size_t i = 0; i < data.size(); i++)  // Delete all associated data
1534         deleteDataInstance(data[i]);
1535 }
1536
1537 void* TLSDataContainer::getData() const
1538 {
1539     CV_Assert(key_ != -1 && "Can't fetch data from terminated TLS container.");
1540     void* pData = getTlsStorage().getData(key_); // Check if data was already allocated
1541     if(!pData)
1542     {
1543         // Create new data instance and save it to TLS storage
1544         pData = createDataInstance();
1545         getTlsStorage().setData(key_, pData);
1546     }
1547     return pData;
1548 }
1549
1550 TLSData<CoreTLSData>& getCoreTlsData()
1551 {
1552     CV_SINGLETON_LAZY_INIT_REF(TLSData<CoreTLSData>, new TLSData<CoreTLSData>())
1553 }
1554
1555 #if defined CVAPI_EXPORTS && defined _WIN32 && !defined WINCE
1556 #ifdef WINRT
1557     #pragma warning(disable:4447) // Disable warning 'main' signature found without threading model
1558 #endif
1559
1560 extern "C"
1561 BOOL WINAPI DllMain(HINSTANCE, DWORD fdwReason, LPVOID lpReserved);
1562
1563 extern "C"
1564 BOOL WINAPI DllMain(HINSTANCE, DWORD fdwReason, LPVOID lpReserved)
1565 {
1566     if (fdwReason == DLL_THREAD_DETACH || fdwReason == DLL_PROCESS_DETACH)
1567     {
1568         if (lpReserved != NULL) // called after ExitProcess() call
1569         {
1570             cv::__termination = true;
1571         }
1572         else
1573         {
1574             // Not allowed to free resources if lpReserved is non-null
1575             // http://msdn.microsoft.com/en-us/library/windows/desktop/ms682583.aspx
1576             cv::getTlsStorage().releaseThread();
1577         }
1578     }
1579     return TRUE;
1580 }
1581 #endif
1582
1583
1584 namespace {
1585 static int g_threadNum = 0;
1586 class ThreadID {
1587 public:
1588     const int id;
1589     ThreadID() :
1590         id(CV_XADD(&g_threadNum, 1))
1591     {
1592 #ifdef OPENCV_WITH_ITT
1593         __itt_thread_set_name(cv::format("OpenCVThread-%03d", id).c_str());
1594 #endif
1595     }
1596 };
1597
1598 static TLSData<ThreadID>& getThreadIDTLS()
1599 {
1600     CV_SINGLETON_LAZY_INIT_REF(TLSData<ThreadID>, new TLSData<ThreadID>());
1601 }
1602
1603 } // namespace
1604 int utils::getThreadID() { return getThreadIDTLS().get()->id; }
1605
1606 bool utils::getConfigurationParameterBool(const char* name, bool defaultValue)
1607 {
1608 #ifdef NO_GETENV
1609     const char* envValue = NULL;
1610 #else
1611     const char* envValue = getenv(name);
1612 #endif
1613     if (envValue == NULL)
1614     {
1615         return defaultValue;
1616     }
1617     cv::String value = envValue;
1618     if (value == "1" || value == "True" || value == "true" || value == "TRUE")
1619     {
1620         return true;
1621     }
1622     if (value == "0" || value == "False" || value == "false" || value == "FALSE")
1623     {
1624         return false;
1625     }
1626     CV_ErrorNoReturn(cv::Error::StsBadArg, cv::format("Invalid value for %s parameter: %s", name, value.c_str()));
1627 }
1628
1629
1630 size_t utils::getConfigurationParameterSizeT(const char* name, size_t defaultValue)
1631 {
1632 #ifdef NO_GETENV
1633     const char* envValue = NULL;
1634 #else
1635     const char* envValue = getenv(name);
1636 #endif
1637     if (envValue == NULL)
1638     {
1639         return defaultValue;
1640     }
1641     cv::String value = envValue;
1642     size_t pos = 0;
1643     for (; pos < value.size(); pos++)
1644     {
1645         if (!isdigit(value[pos]))
1646             break;
1647     }
1648     cv::String valueStr = value.substr(0, pos);
1649     cv::String suffixStr = value.substr(pos, value.length() - pos);
1650     int v = atoi(valueStr.c_str());
1651     if (suffixStr.length() == 0)
1652         return v;
1653     else if (suffixStr == "MB" || suffixStr == "Mb" || suffixStr == "mb")
1654         return v * 1024 * 1024;
1655     else if (suffixStr == "KB" || suffixStr == "Kb" || suffixStr == "kb")
1656         return v * 1024;
1657     CV_ErrorNoReturn(cv::Error::StsBadArg, cv::format("Invalid value for %s parameter: %s", name, value.c_str()));
1658 }
1659
1660 cv::String utils::getConfigurationParameterString(const char* name, const char* defaultValue)
1661 {
1662 #ifdef NO_GETENV
1663     const char* envValue = NULL;
1664 #else
1665     const char* envValue = getenv(name);
1666 #endif
1667     if (envValue == NULL)
1668     {
1669         return defaultValue;
1670     }
1671     cv::String value = envValue;
1672     return value;
1673 }
1674
1675
1676 #ifdef CV_COLLECT_IMPL_DATA
1677 ImplCollector& getImplData()
1678 {
1679     CV_SINGLETON_LAZY_INIT_REF(ImplCollector, new ImplCollector())
1680 }
1681
1682 void setImpl(int flags)
1683 {
1684     cv::AutoLock lock(getImplData().mutex);
1685
1686     getImplData().implFlags = flags;
1687     getImplData().implCode.clear();
1688     getImplData().implFun.clear();
1689 }
1690
1691 void addImpl(int flag, const char* func)
1692 {
1693     cv::AutoLock lock(getImplData().mutex);
1694
1695     getImplData().implFlags |= flag;
1696     if(func) // use lazy collection if name was not specified
1697     {
1698         size_t index = getImplData().implCode.size();
1699         if(!index || (getImplData().implCode[index-1] != flag || getImplData().implFun[index-1].compare(func))) // avoid duplicates
1700         {
1701             getImplData().implCode.push_back(flag);
1702             getImplData().implFun.push_back(func);
1703         }
1704     }
1705 }
1706
1707 int getImpl(std::vector<int> &impl, std::vector<String> &funName)
1708 {
1709     cv::AutoLock lock(getImplData().mutex);
1710
1711     impl    = getImplData().implCode;
1712     funName = getImplData().implFun;
1713     return getImplData().implFlags; // return actual flags for lazy collection
1714 }
1715
1716 bool useCollection()
1717 {
1718     return getImplData().useCollection;
1719 }
1720
1721 void setUseCollection(bool flag)
1722 {
1723     cv::AutoLock lock(getImplData().mutex);
1724
1725     getImplData().useCollection = flag;
1726 }
1727 #endif
1728
1729 namespace instr
1730 {
1731 bool useInstrumentation()
1732 {
1733 #ifdef ENABLE_INSTRUMENTATION
1734     return getInstrumentStruct().useInstr;
1735 #else
1736     return false;
1737 #endif
1738 }
1739
1740 void setUseInstrumentation(bool flag)
1741 {
1742 #ifdef ENABLE_INSTRUMENTATION
1743     getInstrumentStruct().useInstr = flag;
1744 #else
1745     CV_UNUSED(flag);
1746 #endif
1747 }
1748
1749 InstrNode* getTrace()
1750 {
1751 #ifdef ENABLE_INSTRUMENTATION
1752     return &getInstrumentStruct().rootNode;
1753 #else
1754     return NULL;
1755 #endif
1756 }
1757
1758 void resetTrace()
1759 {
1760 #ifdef ENABLE_INSTRUMENTATION
1761     getInstrumentStruct().rootNode.removeChilds();
1762     getInstrumentTLSStruct().pCurrentNode = &getInstrumentStruct().rootNode;
1763 #endif
1764 }
1765
1766 void setFlags(FLAGS modeFlags)
1767 {
1768 #ifdef ENABLE_INSTRUMENTATION
1769     getInstrumentStruct().flags = modeFlags;
1770 #else
1771     CV_UNUSED(modeFlags);
1772 #endif
1773 }
1774 FLAGS getFlags()
1775 {
1776 #ifdef ENABLE_INSTRUMENTATION
1777     return (FLAGS)getInstrumentStruct().flags;
1778 #else
1779     return (FLAGS)0;
1780 #endif
1781 }
1782
1783 NodeData::NodeData(const char* funName, const char* fileName, int lineNum, void* retAddress, bool alwaysExpand, cv::instr::TYPE instrType, cv::instr::IMPL implType)
1784 {
1785     m_funName       = funName;
1786     m_instrType     = instrType;
1787     m_implType      = implType;
1788     m_fileName      = fileName;
1789     m_lineNum       = lineNum;
1790     m_retAddress    = retAddress;
1791     m_alwaysExpand  = alwaysExpand;
1792
1793     m_threads    = 1;
1794     m_counter    = 0;
1795     m_ticksTotal = 0;
1796
1797     m_funError  = false;
1798 }
1799 NodeData::NodeData(NodeData &ref)
1800 {
1801     *this = ref;
1802 }
1803 NodeData& NodeData::operator=(const NodeData &right)
1804 {
1805     this->m_funName      = right.m_funName;
1806     this->m_instrType    = right.m_instrType;
1807     this->m_implType     = right.m_implType;
1808     this->m_fileName     = right.m_fileName;
1809     this->m_lineNum      = right.m_lineNum;
1810     this->m_retAddress   = right.m_retAddress;
1811     this->m_alwaysExpand = right.m_alwaysExpand;
1812
1813     this->m_threads     = right.m_threads;
1814     this->m_counter     = right.m_counter;
1815     this->m_ticksTotal  = right.m_ticksTotal;
1816
1817     this->m_funError    = right.m_funError;
1818
1819     return *this;
1820 }
1821 NodeData::~NodeData()
1822 {
1823 }
1824 bool operator==(const NodeData& left, const NodeData& right)
1825 {
1826     if(left.m_lineNum == right.m_lineNum && left.m_funName == right.m_funName && left.m_fileName == right.m_fileName)
1827     {
1828         if(left.m_retAddress == right.m_retAddress || !(cv::instr::getFlags()&cv::instr::FLAGS_EXPAND_SAME_NAMES || left.m_alwaysExpand))
1829             return true;
1830     }
1831     return false;
1832 }
1833
1834 #ifdef ENABLE_INSTRUMENTATION
1835 InstrStruct& getInstrumentStruct()
1836 {
1837     static InstrStruct instr;
1838     return instr;
1839 }
1840
1841 InstrTLSStruct& getInstrumentTLSStruct()
1842 {
1843     return *getInstrumentStruct().tlsStruct.get();
1844 }
1845
1846 InstrNode* getCurrentNode()
1847 {
1848     return getInstrumentTLSStruct().pCurrentNode;
1849 }
1850
1851 IntrumentationRegion::IntrumentationRegion(const char* funName, const char* fileName, int lineNum, void *retAddress, bool alwaysExpand, TYPE instrType, IMPL implType)
1852 {
1853     m_disabled    = false;
1854     m_regionTicks = 0;
1855
1856     InstrStruct *pStruct = &getInstrumentStruct();
1857     if(pStruct->useInstr)
1858     {
1859         InstrTLSStruct *pTLS = &getInstrumentTLSStruct();
1860
1861         // Disable in case of failure
1862         if(!pTLS->pCurrentNode)
1863         {
1864             m_disabled = true;
1865             return;
1866         }
1867
1868         int depth = pTLS->pCurrentNode->getDepth();
1869         if(pStruct->maxDepth && pStruct->maxDepth <= depth)
1870         {
1871             m_disabled = true;
1872             return;
1873         }
1874
1875         NodeData payload(funName, fileName, lineNum, retAddress, alwaysExpand, instrType, implType);
1876         Node<NodeData>* pChild = NULL;
1877
1878         if(pStruct->flags&FLAGS_MAPPING)
1879         {
1880             // Critical section
1881             cv::AutoLock guard(pStruct->mutexCreate); // Guard from concurrent child creation
1882             pChild = pTLS->pCurrentNode->findChild(payload);
1883             if(!pChild)
1884             {
1885                 pChild = new Node<NodeData>(payload);
1886                 pTLS->pCurrentNode->addChild(pChild);
1887             }
1888         }
1889         else
1890         {
1891             pChild = pTLS->pCurrentNode->findChild(payload);
1892             if(!pChild)
1893             {
1894                 m_disabled = true;
1895                 return;
1896             }
1897         }
1898         pTLS->pCurrentNode = pChild;
1899
1900         m_regionTicks = getTickCount();
1901     }
1902 }
1903
1904 IntrumentationRegion::~IntrumentationRegion()
1905 {
1906     InstrStruct *pStruct = &getInstrumentStruct();
1907     if(pStruct->useInstr)
1908     {
1909         if(!m_disabled)
1910         {
1911             InstrTLSStruct *pTLS = &getInstrumentTLSStruct();
1912
1913             if (pTLS->pCurrentNode->m_payload.m_implType == cv::instr::IMPL_OPENCL &&
1914                 (pTLS->pCurrentNode->m_payload.m_instrType == cv::instr::TYPE_FUN ||
1915                     pTLS->pCurrentNode->m_payload.m_instrType == cv::instr::TYPE_WRAPPER))
1916             {
1917                 cv::ocl::finish(); // TODO Support "async" OpenCL instrumentation
1918             }
1919
1920             uint64 ticks = (getTickCount() - m_regionTicks);
1921             {
1922                 cv::AutoLock guard(pStruct->mutexCount); // Concurrent ticks accumulation
1923                 pTLS->pCurrentNode->m_payload.m_counter++;
1924                 pTLS->pCurrentNode->m_payload.m_ticksTotal += ticks;
1925                 pTLS->pCurrentNode->m_payload.m_tls.get()->m_ticksTotal += ticks;
1926             }
1927
1928             pTLS->pCurrentNode = pTLS->pCurrentNode->m_pParent;
1929         }
1930     }
1931 }
1932 #endif
1933 }
1934
1935 namespace ipp
1936 {
1937
1938 #ifdef HAVE_IPP
1939 struct IPPInitSingleton
1940 {
1941 public:
1942     IPPInitSingleton()
1943     {
1944         useIPP         = true;
1945         useIPP_NE      = false;
1946         ippStatus      = 0;
1947         funcname       = NULL;
1948         filename       = NULL;
1949         linen          = 0;
1950         cpuFeatures    = 0;
1951         ippFeatures    = 0;
1952         ippTopFeatures = 0;
1953         pIppLibInfo    = NULL;
1954
1955         ippStatus = ippGetCpuFeatures(&cpuFeatures, NULL);
1956         if(ippStatus < 0)
1957         {
1958             std::cerr << "ERROR: IPP cannot detect CPU features, IPP was disabled " << std::endl;
1959             useIPP = false;
1960             return;
1961         }
1962         ippFeatures = cpuFeatures;
1963
1964         const char* pIppEnv = getenv("OPENCV_IPP");
1965         cv::String env = pIppEnv;
1966         if(env.size())
1967         {
1968 #if IPP_VERSION_X100 >= 201703
1969             const Ipp64u minorFeatures = ippCPUID_MOVBE|ippCPUID_AES|ippCPUID_CLMUL|ippCPUID_ABR|ippCPUID_RDRAND|ippCPUID_F16C|
1970                 ippCPUID_ADCOX|ippCPUID_RDSEED|ippCPUID_PREFETCHW|ippCPUID_SHA|ippCPUID_MPX|ippCPUID_AVX512CD|ippCPUID_AVX512ER|
1971                 ippCPUID_AVX512PF|ippCPUID_AVX512BW|ippCPUID_AVX512DQ|ippCPUID_AVX512VL|ippCPUID_AVX512VBMI;
1972 #elif IPP_VERSION_X100 >= 201700
1973             const Ipp64u minorFeatures = ippCPUID_MOVBE|ippCPUID_AES|ippCPUID_CLMUL|ippCPUID_ABR|ippCPUID_RDRAND|ippCPUID_F16C|
1974                 ippCPUID_ADCOX|ippCPUID_RDSEED|ippCPUID_PREFETCHW|ippCPUID_SHA|ippCPUID_AVX512CD|ippCPUID_AVX512ER|
1975                 ippCPUID_AVX512PF|ippCPUID_AVX512BW|ippCPUID_AVX512DQ|ippCPUID_AVX512VL|ippCPUID_AVX512VBMI;
1976 #else
1977             const Ipp64u minorFeatures = 0;
1978 #endif
1979
1980             env = env.toLowerCase();
1981             if(env.substr(0, 2) == "ne")
1982             {
1983                 useIPP_NE = true;
1984                 env = env.substr(3, env.size());
1985             }
1986
1987             if(env == "disabled")
1988             {
1989                 std::cerr << "WARNING: IPP was disabled by OPENCV_IPP environment variable" << std::endl;
1990                 useIPP = false;
1991             }
1992             else if(env == "sse42")
1993                 ippFeatures = minorFeatures|ippCPUID_SSE2|ippCPUID_SSE3|ippCPUID_SSSE3|ippCPUID_SSE41|ippCPUID_SSE42;
1994             else if(env == "avx2")
1995                 ippFeatures = minorFeatures|ippCPUID_SSE2|ippCPUID_SSE3|ippCPUID_SSSE3|ippCPUID_SSE41|ippCPUID_SSE42|ippCPUID_AVX|ippCPUID_AVX2;
1996 #if IPP_VERSION_X100 >= 201700
1997 #if defined (_M_AMD64) || defined (__x86_64__)
1998             else if(env == "avx512")
1999                 ippFeatures = minorFeatures|ippCPUID_SSE2|ippCPUID_SSE3|ippCPUID_SSSE3|ippCPUID_SSE41|ippCPUID_SSE42|ippCPUID_AVX|ippCPUID_AVX2|ippCPUID_AVX512F;
2000 #endif
2001 #endif
2002             else
2003                 std::cerr << "ERROR: Improper value of OPENCV_IPP: " << env.c_str() << ". Correct values are: disabled, sse42, avx2, avx512 (Intel64 only)" << std::endl;
2004
2005             // Trim unsupported features
2006             ippFeatures &= cpuFeatures;
2007         }
2008
2009         // Disable AVX1 since we don't track regressions for it. SSE42 will be used instead
2010         if(cpuFeatures&ippCPUID_AVX && !(cpuFeatures&ippCPUID_AVX2))
2011             ippFeatures &= ~((Ipp64u)ippCPUID_AVX);
2012
2013         // IPP integrations in OpenCV support only SSE4.2, AVX2 and AVX-512 optimizations.
2014         if(!(
2015 #if IPP_VERSION_X100 >= 201700
2016             cpuFeatures&ippCPUID_AVX512F ||
2017 #endif
2018             cpuFeatures&ippCPUID_AVX2 ||
2019             cpuFeatures&ippCPUID_SSE42
2020             ))
2021         {
2022             useIPP = false;
2023             return;
2024         }
2025
2026         if(ippFeatures == cpuFeatures)
2027             IPP_INITIALIZER(0)
2028         else
2029             IPP_INITIALIZER(ippFeatures)
2030         ippFeatures = ippGetEnabledCpuFeatures();
2031
2032         // Detect top level optimizations to make comparison easier for optimizations dependent conditions
2033 #if IPP_VERSION_X100 >= 201700
2034         if(ippFeatures&ippCPUID_AVX512F)
2035         {
2036             if((ippFeatures&ippCPUID_AVX512_SKX) == ippCPUID_AVX512_SKX)
2037                 ippTopFeatures = ippCPUID_AVX512_SKX;
2038             else if((ippFeatures&ippCPUID_AVX512_KNL) == ippCPUID_AVX512_KNL)
2039                 ippTopFeatures = ippCPUID_AVX512_KNL;
2040             else
2041                 ippTopFeatures = ippCPUID_AVX512F; // Unknown AVX512 configuration
2042         }
2043         else
2044 #endif
2045         if(ippFeatures&ippCPUID_AVX2)
2046             ippTopFeatures = ippCPUID_AVX2;
2047         else if(ippFeatures&ippCPUID_SSE42)
2048             ippTopFeatures = ippCPUID_SSE42;
2049
2050         pIppLibInfo = ippiGetLibVersion();
2051     }
2052
2053 public:
2054     bool        useIPP;
2055     bool        useIPP_NE;
2056
2057     int         ippStatus;  // 0 - all is ok, -1 - IPP functions failed
2058     const char *funcname;
2059     const char *filename;
2060     int         linen;
2061     Ipp64u      ippFeatures;
2062     Ipp64u      cpuFeatures;
2063     Ipp64u      ippTopFeatures;
2064     const IppLibraryVersion *pIppLibInfo;
2065 };
2066
2067 static IPPInitSingleton& getIPPSingleton()
2068 {
2069     CV_SINGLETON_LAZY_INIT_REF(IPPInitSingleton, new IPPInitSingleton())
2070 }
2071 #endif
2072
2073 #if OPENCV_ABI_COMPATIBILITY > 300
2074 unsigned long long getIppFeatures()
2075 #else
2076 int getIppFeatures()
2077 #endif
2078 {
2079 #ifdef HAVE_IPP
2080 #if OPENCV_ABI_COMPATIBILITY > 300
2081     return getIPPSingleton().ippFeatures;
2082 #else
2083     return (int)getIPPSingleton().ippFeatures;
2084 #endif
2085 #else
2086     return 0;
2087 #endif
2088 }
2089
2090 unsigned long long getIppTopFeatures();
2091
2092 unsigned long long getIppTopFeatures()
2093 {
2094 #ifdef HAVE_IPP
2095     return getIPPSingleton().ippTopFeatures;
2096 #else
2097     return 0;
2098 #endif
2099 }
2100
2101 void setIppStatus(int status, const char * const _funcname, const char * const _filename, int _line)
2102 {
2103 #ifdef HAVE_IPP
2104     getIPPSingleton().ippStatus = status;
2105     getIPPSingleton().funcname = _funcname;
2106     getIPPSingleton().filename = _filename;
2107     getIPPSingleton().linen = _line;
2108 #else
2109     CV_UNUSED(status); CV_UNUSED(_funcname); CV_UNUSED(_filename); CV_UNUSED(_line);
2110 #endif
2111 }
2112
2113 int getIppStatus()
2114 {
2115 #ifdef HAVE_IPP
2116     return getIPPSingleton().ippStatus;
2117 #else
2118     return 0;
2119 #endif
2120 }
2121
2122 String getIppErrorLocation()
2123 {
2124 #ifdef HAVE_IPP
2125     return format("%s:%d %s", getIPPSingleton().filename ? getIPPSingleton().filename : "", getIPPSingleton().linen, getIPPSingleton().funcname ? getIPPSingleton().funcname : "");
2126 #else
2127     return String();
2128 #endif
2129 }
2130
2131 String getIppVersion()
2132 {
2133 #ifdef HAVE_IPP
2134     const IppLibraryVersion *pInfo = getIPPSingleton().pIppLibInfo;
2135     if(pInfo)
2136         return format("%s %s %s", pInfo->Name, pInfo->Version, pInfo->BuildDate);
2137     else
2138         return String("error");
2139 #else
2140     return String("disabled");
2141 #endif
2142 }
2143
2144 bool useIPP()
2145 {
2146 #ifdef HAVE_IPP
2147     CoreTLSData* data = getCoreTlsData().get();
2148     if(data->useIPP < 0)
2149     {
2150         data->useIPP = getIPPSingleton().useIPP;
2151     }
2152     return (data->useIPP > 0);
2153 #else
2154     return false;
2155 #endif
2156 }
2157
2158 void setUseIPP(bool flag)
2159 {
2160     CoreTLSData* data = getCoreTlsData().get();
2161 #ifdef HAVE_IPP
2162     data->useIPP = (getIPPSingleton().useIPP)?flag:false;
2163 #else
2164     (void)flag;
2165     data->useIPP = false;
2166 #endif
2167 }
2168
2169 bool useIPP_NE()
2170 {
2171 #ifdef HAVE_IPP
2172     CoreTLSData* data = getCoreTlsData().get();
2173     if(data->useIPP_NE < 0)
2174     {
2175         data->useIPP_NE = getIPPSingleton().useIPP_NE;
2176     }
2177     return (data->useIPP_NE > 0);
2178 #else
2179     return false;
2180 #endif
2181 }
2182
2183 void setUseIPP_NE(bool flag)
2184 {
2185     CoreTLSData* data = getCoreTlsData().get();
2186 #ifdef HAVE_IPP
2187     data->useIPP_NE = (getIPPSingleton().useIPP_NE)?flag:false;
2188 #else
2189     (void)flag;
2190     data->useIPP_NE = false;
2191 #endif
2192 }
2193
2194 } // namespace ipp
2195
2196 } // namespace cv
2197
2198 #ifdef HAVE_TEGRA_OPTIMIZATION
2199
2200 namespace tegra {
2201
2202 bool useTegra()
2203 {
2204     cv::CoreTLSData* data = cv::getCoreTlsData().get();
2205
2206     if (data->useTegra < 0)
2207     {
2208         const char* pTegraEnv = getenv("OPENCV_TEGRA");
2209         if (pTegraEnv && (cv::String(pTegraEnv) == "disabled"))
2210             data->useTegra = false;
2211         else
2212             data->useTegra = true;
2213     }
2214
2215     return (data->useTegra > 0);
2216 }
2217
2218 void setUseTegra(bool flag)
2219 {
2220     cv::CoreTLSData* data = cv::getCoreTlsData().get();
2221     data->useTegra = flag;
2222 }
2223
2224 } // namespace tegra
2225
2226 #endif
2227
2228 /* End of file. */