src/runtime/OMP/OMPScheduler.cpp

   1 /*
   2  * Copyright (c) 2017 ARM Limited.
   3  *
   4  * SPDX-License-Identifier: MIT
   5  *
   6  * Permission is hereby granted, free of charge, to any person obtaining a copy
   7  * of this software and associated documentation files (the "Software"), to
   8  * deal in the Software without restriction, including without limitation the
   9  * rights to use, copy, modify, merge, publish, distribute, sublicense, and/or
  10  * sell copies of the Software, and to permit persons to whom the Software is
  11  * furnished to do so, subject to the following conditions:
  12  *
  13  * The above copyright notice and this permission notice shall be included in all
  14  * copies or substantial portions of the Software.
  15  *
  16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  17  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  18  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
  19  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  20  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  21  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  22  * SOFTWARE.
  23  */
  24 #include "arm_compute/runtime/OMP/OMPScheduler.h"
  25
  26 #include "arm_compute/core/CPP/ICPPKernel.h"
  27 #include "arm_compute/core/Error.h"
  28 #include "arm_compute/core/Helpers.h"
  29 #include "arm_compute/core/Utils.h"
  30
  31 #include <omp.h>
  32
  33 using namespace arm_compute;
  34
  35 OMPScheduler &OMPScheduler::get()
  36 {
  37     static OMPScheduler scheduler;
  38     return scheduler;
  39 }
  40
  41 OMPScheduler::OMPScheduler() // NOLINT
  42     : _num_threads(omp_get_max_threads())
  43 {
  44 }
  45
  46 unsigned int OMPScheduler::num_threads() const
  47 {
  48     return _num_threads;
  49 }
  50
  51 void OMPScheduler::set_num_threads(unsigned int num_threads)
  52 {
  53     const unsigned int num_cores = omp_get_max_threads();
  54     _num_threads                 = (num_threads == 0) ? num_cores : num_threads;
  55 }
  56
  57 void OMPScheduler::schedule(ICPPKernel *kernel, unsigned int split_dimension)
  58 {
  59     ARM_COMPUTE_ERROR_ON_MSG(!kernel, "The child class didn't set the kernel");
  60
  61     ThreadInfo info;
  62     info.cpu_info = _info;
  63
  64     const Window      &max_window     = kernel->window();
  65     const unsigned int num_iterations = max_window.num_iterations(split_dimension);
  66     info.num_threads                  = std::min(num_iterations, _num_threads);
  67
  68     if(!kernel->is_parallelisable() || info.num_threads == 1)
  69     {
  70         kernel->run(max_window, info);
  71     }
  72     else
  73     {
  74         #pragma omp parallel num_threads(info.num_threads)
  75         {
  76             #pragma omp for
  77             for(int t = 0; t < info.num_threads; ++t)
  78             {
  79                 Window win     = max_window.split_window(split_dimension, t, info.num_threads);
  80                 info.thread_id = t;
  81                 kernel->run(win, info);
  82             }
  83         }
  84     }
  85 }