Add CPUID identification of Intel Ice Lake
[platform/upstream/openblas.git] / interface / spmv.c
1 /*********************************************************************/
2 /* Copyright 2009, 2010 The University of Texas at Austin.           */
3 /* All rights reserved.                                              */
4 /*                                                                   */
5 /* Redistribution and use in source and binary forms, with or        */
6 /* without modification, are permitted provided that the following   */
7 /* conditions are met:                                               */
8 /*                                                                   */
9 /*   1. Redistributions of source code must retain the above         */
10 /*      copyright notice, this list of conditions and the following  */
11 /*      disclaimer.                                                  */
12 /*                                                                   */
13 /*   2. Redistributions in binary form must reproduce the above      */
14 /*      copyright notice, this list of conditions and the following  */
15 /*      disclaimer in the documentation and/or other materials       */
16 /*      provided with the distribution.                              */
17 /*                                                                   */
18 /*    THIS  SOFTWARE IS PROVIDED  BY THE  UNIVERSITY OF  TEXAS AT    */
19 /*    AUSTIN  ``AS IS''  AND ANY  EXPRESS OR  IMPLIED WARRANTIES,    */
20 /*    INCLUDING, BUT  NOT LIMITED  TO, THE IMPLIED  WARRANTIES OF    */
21 /*    MERCHANTABILITY  AND FITNESS FOR  A PARTICULAR  PURPOSE ARE    */
22 /*    DISCLAIMED.  IN  NO EVENT SHALL THE UNIVERSITY  OF TEXAS AT    */
23 /*    AUSTIN OR CONTRIBUTORS BE  LIABLE FOR ANY DIRECT, INDIRECT,    */
24 /*    INCIDENTAL,  SPECIAL, EXEMPLARY,  OR  CONSEQUENTIAL DAMAGES    */
25 /*    (INCLUDING, BUT  NOT LIMITED TO,  PROCUREMENT OF SUBSTITUTE    */
26 /*    GOODS  OR  SERVICES; LOSS  OF  USE,  DATA,  OR PROFITS;  OR    */
27 /*    BUSINESS INTERRUPTION) HOWEVER CAUSED  AND ON ANY THEORY OF    */
28 /*    LIABILITY, WHETHER  IN CONTRACT, STRICT  LIABILITY, OR TORT    */
29 /*    (INCLUDING NEGLIGENCE OR OTHERWISE)  ARISING IN ANY WAY OUT    */
30 /*    OF  THE  USE OF  THIS  SOFTWARE,  EVEN  IF ADVISED  OF  THE    */
31 /*    POSSIBILITY OF SUCH DAMAGE.                                    */
32 /*                                                                   */
33 /* The views and conclusions contained in the software and           */
34 /* documentation are those of the authors and should not be          */
35 /* interpreted as representing official policies, either expressed   */
36 /* or implied, of The University of Texas at Austin.                 */
37 /*********************************************************************/
38
39 #include <stdio.h>
40 #include <ctype.h>
41 #include "common.h"
42 #ifdef FUNCTION_PROFILE
43 #include "functable.h"
44 #endif
45
46 #ifdef XDOUBLE
47 #define ERROR_NAME "QSPMV "
48 #elif defined(DOUBLE)
49 #define ERROR_NAME "DSPMV "
50 #else
51 #define ERROR_NAME "SSPMV "
52 #endif
53
54 static  int (*spmv[])(BLASLONG, FLOAT, FLOAT *, FLOAT *, BLASLONG, FLOAT *, BLASLONG, void *) = {
55 #ifdef XDOUBLE
56   qspmv_U, qspmv_L,
57 #elif defined(DOUBLE)
58   dspmv_U, dspmv_L,
59 #else
60   sspmv_U, sspmv_L,
61 #endif
62 };
63
64 #ifdef SMPTEST
65 static  int (*spmv_thread[])(BLASLONG, FLOAT, FLOAT *, FLOAT *, BLASLONG, FLOAT *, BLASLONG, FLOAT *, int) = {
66 #ifdef XDOUBLE
67   qspmv_thread_U, qspmv_thread_L,
68 #elif defined(DOUBLE)
69   dspmv_thread_U, dspmv_thread_L,
70 #else
71   sspmv_thread_U, sspmv_thread_L,
72 #endif
73 };
74 #endif
75
76 #ifndef CBLAS
77
78 void NAME(char *UPLO, blasint *N, FLOAT  *ALPHA, FLOAT *a,
79             FLOAT  *x, blasint *INCX, FLOAT *BETA, FLOAT *y, blasint *INCY){
80
81   char uplo_arg = *UPLO;
82   blasint n             = *N;
83   FLOAT alpha   = *ALPHA;
84   blasint incx  = *INCX;
85   FLOAT beta    = *BETA;
86   blasint incy  = *INCY;
87
88   blasint info;
89   int uplo;
90   FLOAT *buffer;
91 #ifdef SMPTEST
92   int nthreads;
93 #endif
94
95   PRINT_DEBUG_NAME;
96
97   TOUPPER(uplo_arg);
98   uplo  = -1;
99
100   if (uplo_arg  == 'U') uplo  = 0;
101   if (uplo_arg  == 'L') uplo  = 1;
102
103   info = 0;
104
105   if (incy == 0)          info =  9;
106   if (incx == 0)          info =  6;
107   if (n < 0)              info =  2;
108   if (uplo  < 0)          info =  1;
109
110   if (info != 0) {
111     BLASFUNC(xerbla)(ERROR_NAME, &info, sizeof(ERROR_NAME));
112     return;
113   }
114
115 #else
116
117 void CNAME(enum CBLAS_ORDER order,
118            enum CBLAS_UPLO Uplo,
119            blasint n,
120            FLOAT alpha,
121            FLOAT  *a,
122            FLOAT  *x, blasint incx,
123            FLOAT beta,
124            FLOAT  *y, blasint incy){
125
126   FLOAT *buffer;
127   int uplo;
128   blasint info;
129 #ifdef SMPTEST
130   int nthreads;
131 #endif
132
133   PRINT_DEBUG_CNAME;
134
135   uplo = -1;
136   info =  0;
137
138   if (order == CblasColMajor) {
139     if (Uplo == CblasUpper)         uplo  = 0;
140     if (Uplo == CblasLower)         uplo  = 1;
141
142     info = -1;
143
144     if (incy == 0)          info =  9;
145     if (incx == 0)          info =  6;
146     if (n < 0)              info =  2;
147     if (uplo  < 0)          info =  1;
148   }
149
150   if (order == CblasRowMajor) {
151     if (Uplo == CblasUpper)         uplo  = 1;
152     if (Uplo == CblasLower)         uplo  = 0;
153
154     info = -1;
155
156     if (incy == 0)          info =  9;
157     if (incx == 0)          info =  6;
158     if (n < 0)              info =  2;
159     if (uplo  < 0)          info =  1;
160   }
161
162   if (info >= 0) {
163     BLASFUNC(xerbla)(ERROR_NAME, &info, sizeof(ERROR_NAME));
164     return;
165   }
166
167 #endif
168
169   if (n == 0) return;
170
171   if (beta != ONE) SCAL_K(n, 0, 0, beta, y, blasabs(incy), NULL, 0, NULL, 0);
172
173   if (alpha == ZERO) return;
174
175   IDEBUG_START;
176
177   FUNCTION_PROFILE_START();
178
179   if (incx < 0 ) x -= (n - 1) * incx;
180   if (incy < 0 ) y -= (n - 1) * incy;
181
182   buffer = (FLOAT *)blas_memory_alloc(1);
183
184 #ifdef SMPTEST
185   nthreads = num_cpu_avail(2);
186
187   if (nthreads == 1) {
188 #endif
189
190   (spmv[uplo])(n, alpha, a, x, incx, y, incy, buffer);
191
192 #ifdef SMPTEST
193   } else {
194
195     (spmv_thread[uplo])(n, alpha, a, x, incx, y, incy, buffer, nthreads);
196
197   }
198 #endif
199
200   blas_memory_free(buffer);
201
202   FUNCTION_PROFILE_END(1, n * n / 2 + n, n * n);
203
204   IDEBUG_END;
205
206   return;
207 }