modules/ts/misc/run_long.py

   1 #!/usr/bin/env python
   2 from __future__ import print_function
   3 import xml.etree.ElementTree as ET
   4 from glob import glob
   5 from pprint import PrettyPrinter as PP
   6
   7 LONG_TESTS_DEBUG_VALGRIND = [
   8     ('calib3d', 'Calib3d_InitUndistortRectifyMap.accuracy', 2017.22),
   9     ('dnn', 'Reproducibility*', 1000),  # large DNN models
  10     ('dnn', '*RCNN*', 1000),  # very large DNN models
  11     ('dnn', '*RFCN*', 1000),  # very large DNN models
  12     ('dnn', '*EAST*', 1000),  # very large DNN models
  13     ('dnn', '*VGG16*', 1000),  # very large DNN models
  14     ('dnn', '*ZFNet*', 1000),  # very large DNN models
  15     ('dnn', '*ResNet101_DUC_HDC*', 1000),  # very large DNN models
  16     ('dnn', '*LResNet100E_IR*', 1000),  # very large DNN models
  17     ('dnn', '*read_yolo_voc_stream*', 1000),  # very large DNN models
  18     ('dnn', '*eccv16*', 1000),  # very large DNN models
  19     ('dnn', '*OpenPose*', 1000),  # very large DNN models
  20     ('dnn', '*SSD/*', 1000),  # very large DNN models
  21     ('gapi', 'Fluid.MemoryConsumptionDoesNotGrowOnReshape', 1000000),  # test doesn't work properly under valgrind
  22     ('face', 'CV_Face_FacemarkLBF.test_workflow', 10000.0), # >40min on i7
  23     ('features2d', 'Features2d/DescriptorImage.no_crash/3', 1000),
  24     ('features2d', 'Features2d/DescriptorImage.no_crash/4', 1000),
  25     ('features2d', 'Features2d/DescriptorImage.no_crash/5', 1000),
  26     ('features2d', 'Features2d/DescriptorImage.no_crash/6', 1000),
  27     ('features2d', 'Features2d/DescriptorImage.no_crash/7', 1000),
  28     ('imgcodecs', 'Imgcodecs_Png.write_big', 1000),  # memory limit
  29     ('imgcodecs', 'Imgcodecs_Tiff.decode_tile16384x16384', 1000),  # memory limit
  30     ('ml', 'ML_RTrees.regression', 1423.47),
  31     ('optflow', 'DenseOpticalFlow_DeepFlow.ReferenceAccuracy', 1360.95),
  32     ('optflow', 'DenseOpticalFlow_DeepFlow_perf.perf/0', 1881.59),
  33     ('optflow', 'DenseOpticalFlow_DeepFlow_perf.perf/1', 5608.75),
  34     ('optflow', 'DenseOpticalFlow_GlobalPatchColliderDCT.ReferenceAccuracy', 5433.84),
  35     ('optflow', 'DenseOpticalFlow_GlobalPatchColliderWHT.ReferenceAccuracy', 5232.73),
  36     ('optflow', 'DenseOpticalFlow_SimpleFlow.ReferenceAccuracy', 1542.1),
  37     ('photo', 'Photo_Denoising.speed', 1484.87),
  38     ('photo', 'Photo_DenoisingColoredMulti.regression', 2447.11),
  39     ('rgbd', 'Rgbd_Normals.compute', 1156.32),
  40     ('shape', 'Hauss.regression', 2625.72),
  41     ('shape', 'ShapeEMD_SCD.regression', 61913.7),
  42     ('shape', 'Shape_SCD.regression', 3311.46),
  43     ('tracking', 'AUKF.br_mean_squared_error', 10764.6),
  44     ('tracking', 'UKF.br_mean_squared_error', 5228.27),
  45     ('tracking', '*DistanceAndOverlap*/1', 1000.0), # dudek
  46     ('tracking', '*DistanceAndOverlap*/2', 1000.0), # faceocc2
  47     ('videoio', 'videoio/videoio_ffmpeg.write_big*', 1000),
  48     ('videoio', 'videoio_ffmpeg.parallel', 1000),
  49     ('videoio', '*videocapture_acceleration*', 1000), # valgrind can't track HW buffers: Conditional jump or move depends on uninitialised value(s)
  50     ('videoio', '*videowriter_acceleration*', 1000), # valgrind crash: set_mempolicy: Operation not permitted
  51     ('xfeatures2d', 'Features2d_RotationInvariance_Descriptor_BoostDesc_LBGM.regression', 1124.51),
  52     ('xfeatures2d', 'Features2d_RotationInvariance_Descriptor_VGG120.regression', 2198.1),
  53     ('xfeatures2d', 'Features2d_RotationInvariance_Descriptor_VGG48.regression', 1958.52),
  54     ('xfeatures2d', 'Features2d_RotationInvariance_Descriptor_VGG64.regression', 2113.12),
  55     ('xfeatures2d', 'Features2d_RotationInvariance_Descriptor_VGG80.regression', 2167.16),
  56     ('xfeatures2d', 'Features2d_ScaleInvariance_Descriptor_BoostDesc_LBGM.regression', 1511.39),
  57     ('xfeatures2d', 'Features2d_ScaleInvariance_Descriptor_VGG120.regression', 1222.07),
  58     ('xfeatures2d', 'Features2d_ScaleInvariance_Descriptor_VGG48.regression', 1059.14),
  59     ('xfeatures2d', 'Features2d_ScaleInvariance_Descriptor_VGG64.regression', 1163.41),
  60     ('xfeatures2d', 'Features2d_ScaleInvariance_Descriptor_VGG80.regression', 1179.06),
  61     ('ximgproc', 'L0SmoothTest.SplatSurfaceAccuracy', 6382.26),
  62     ('ximgproc', 'perf*/1*:perf*/2*:perf*/3*:perf*/4*:perf*/5*:perf*/6*:perf*/7*:perf*/8*:perf*/9*', 1000.0),  # only first 10 parameters
  63     ('ximgproc', 'TypicalSet1/RollingGuidanceFilterTest.MultiThreadReproducibility/5', 1086.33),
  64     ('ximgproc', 'TypicalSet1/RollingGuidanceFilterTest.MultiThreadReproducibility/7', 1405.05),
  65     ('ximgproc', 'TypicalSet1/RollingGuidanceFilterTest.SplatSurfaceAccuracy/5', 1253.07),
  66     ('ximgproc', 'TypicalSet1/RollingGuidanceFilterTest.SplatSurfaceAccuracy/7', 1599.98),
  67     ('ximgproc', '*MultiThreadReproducibility*/1:*MultiThreadReproducibility*/2:*MultiThreadReproducibility*/3:*MultiThreadReproducibility*/4:*MultiThreadReproducibility*/5:*MultiThreadReproducibility*/6:*MultiThreadReproducibility*/7:*MultiThreadReproducibility*/8:*MultiThreadReproducibility*/9:*MultiThreadReproducibility*/1*', 1000.0),
  68     ('ximgproc', '*AdaptiveManifoldRefImplTest*/1:*AdaptiveManifoldRefImplTest*/2:*AdaptiveManifoldRefImplTest*/3', 1000.0),
  69     ('ximgproc', '*JointBilateralFilterTest_NaiveRef*', 1000.0),
  70     ('ximgproc', '*RollingGuidanceFilterTest_BilateralRef*/1*:*RollingGuidanceFilterTest_BilateralRef*/2*:*RollingGuidanceFilterTest_BilateralRef*/3*', 1000.0),
  71     ('ximgproc', '*JointBilateralFilterTest_NaiveRef*', 1000.0),
  72 ]
  73
  74
  75 def longTestFilter(data, module=None):
  76     res = ['*', '-'] + [v for m, v, _time in data if module is None or m == module]
  77     return '--gtest_filter={}'.format(':'.join(res))
  78
  79
  80 # Parse one xml file, filter out tests which took less than 'timeLimit' seconds
  81 # Returns tuple: ( <module_name>, [ (<module_name>, <test_name>, <test_time>), ... ] )
  82 def parseOneFile(filename, timeLimit):
  83     tree = ET.parse(filename)
  84     root = tree.getroot()
  85
  86     def guess(s, delims):
  87         for delim in delims:
  88             tmp = s.partition(delim)
  89             if len(tmp[1]) != 0:
  90                 return tmp[0]
  91         return None
  92     module = guess(filename, ['_posix_', '_nt_', '__']) or root.get('cv_module_name')
  93     if not module:
  94         return (None, None)
  95     res = []
  96     for elem in root.findall('.//testcase'):
  97         key = '{}.{}'.format(elem.get('classname'), elem.get('name'))
  98         val = elem.get('time')
  99         if float(val) >= timeLimit:
 100             res.append((module, key, float(val)))
 101     return (module, res)
 102
 103
 104 # Parse all xml files in current folder and combine results into one list
 105 # Print result to the stdout
 106 if __name__ == '__main__':
 107     LIMIT = 1000
 108     res = []
 109     xmls = glob('*.xml')
 110     for xml in xmls:
 111         print('Parsing file', xml, '...')
 112         module, testinfo = parseOneFile(xml, LIMIT)
 113         if not module:
 114             print('SKIP')
 115             continue
 116         res.extend(testinfo)
 117
 118     print('========= RESULTS =========')
 119     PP(indent=4, width=100).pprint(sorted(res))