s390x/DYNAMIC_ARCH: pass supported arch levels from Makefile to run-time code

... instead of duplicating the (old) mechanism from the Makefile that
aimed to derive supported architecture generations from the gcc
version.

To enable builds with DYNAMIC_ARCH with older compiler releases, the
Makefile and drivers/other/dynamic_arch.c need a common view of the
architecture support built into the library.

We follow the notation from x86 when used with DYNAMIC_LIST, where
defines DYN_<ARCH NAME> denote support for a given generation to be
built in. Since there are far fewer architecture generations in OpenBLAS
for s390x, that does not bloat command lines too much.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: generalize detecting supported archs for clang

Simplify detection of which kernels we can compile on s390x. Instead of
decoding the gcc version in a complicated manner, just check if CC
supports a given -march=archXY flag. Together with the next patch, we
thereby gain support for builds with LLVM/clang with DYNAMIC_ARCH=1.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2828 from martin-frbg/lapack438

Correct xLASET arguments in LAPACK EIG tests

Correct dimension argument to xLASET

from Reference-LAPACK PR 438

Merge pull request #82 from xianyi/develop

rebase

Merge pull request #2803 from xiegengxin/AVX2-asum

Implementaion of dasum, sasum with AVX2 & AVX512 intrinsic

Merge pull request #2824 from martin-frbg/asumbench

Use POSIX2001 clock.gettime in asum benchmark if available

Use POSIX2001 clock.gettime for higher resolution

Merge pull request #2816 from martin-frbg/silicon

Add basic support for Apple Vortex (ARM64) cpu

Merge pull request #2823 from martin-frbg/fix2778

Improve fix for lapack-test EIG/cchkhb2stg from PR 2778

Correct argument to SLASET (Improves fix from PR2778)

as explained by serguei-patchkovskii in Reference-LAPACK/lapack#438 (comment) , passing in an index of 1 instead of N leads to a standards violation accessing matrix A in SLASET, i.e. undefined behavior

Merge pull request #81 from xianyi/develop

rebase

Merge pull request #2822 from martin-frbg/issue2821

Fix potential domain error in sqrt

Fix potentiol domain error in sqrt

Merge pull request #2819 from h-vetinari/carry_lapack_437

Carry lapack#437

Merge pull request #2820 from RajalakshmiSR/clang

POWER9: Fix mcpu option with clang

POWER9: Fix mcpu option with clang

Adding check for compiler type before checking GCC version in Makefile.
This allows clang to use power9 instead of power8 when CORE is POWER9.

adapt ?ggsv?-functions to ambient code style in LAPACKE/include/lapack.h

Follow-up to lapack#434 & lapack#409: add missing 'const' in signatures

Based on how the surrounding functions in lapack.h are handling the
parameters, particularly the ?ggsv?3-variants of the affected functions

Follow-up to lapack#434 & lapack#409: fix signature mismatches

Merge pull request #2778 from martin-frbg/lapackeig

Fix various wrong calls to SLASET/DLASET in the EIG part of the LAPACK testsuite

Merge pull request #2817 from martin-frbg/lapack436

LAPACKE: fix declaration of work arrays in [cz]gesvdq

Rename KERNEL.SILICON to KERNEL.VORTEX

Rename SILICON to VORTEX and fix duplicate numbering

Rename SILICON to VORTEX

rename SILICON to VORTEX

align to 64, using SSE when input size is small

Fix data type of work array in zgesvdq prototype

Fix data type of rwork array

Create KERNEL.SILICON

Add AppleSIlicon cpu

Add Apple Silicon

Detect AppleSilicon cpu on OSX

Merge pull request #80 from xianyi/develop

rebase

Merge pull request #2815 from mhillenibm/clang_s390x

Fix build with clang on s390x

s390x: enable S/DGEMM block with explicit loop unrolling + interleaving with clang

The code for SGEMM 16x4 and DGEMM 8x4 blocks on z14 and z15 uses
explicit unrolling and interleaving to improve performance. The code
employs an empty inline asm statement with operands that constrain the
compiler's instruction scheduling and thereby enforce proper overlapping
of load and compute phases. Fix an ifdef to apply that for clang builds,
as well.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: allow clang to emit fused multiply-adds (replicates gcc's default behavior)

gcc's default setting for floating-point expression contraction is
"fast", which allows the compiler to emit fused multiply adds instead of
separate multiplies and adds (amongst others). Fused multiply-adds,
which assembly kernels typically apply, also bring a significant
performance advantage to the C implementation for matrix-matrix
multiplication on s390x. To enable that performance advantage for builds
with clang, add -ffp-contract=fast to the compiler options.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid variable-length arrays in struct for asm operands

... since it is not required and clang does not support that gcc
extension. Instead, use a variable-length array directly for these
operands.

Note that, while the actual inline assembly code does not directly use
these memory operands, they serve to inform the compiler that it cannot
reorder reads or writes to/from the input and output data across the
inline asm statements.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid inline assembly for vector loads for clang

... since clang does not support the instruction format for inline
assembly and also it is not required for current versions of clang.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: replace nop with "nop 0" in inline assembly

... as a bandaid for building with clang until LLVM's internal assembler
supports nops without operand.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: use "lghi" for immediate values to fix build with clang

Some of the kernels written in assembly utilize a "load address"
instruction for loading an immediate value into a register. That is
both unnecessarily complex and LLVM's assembler does not understand that
specific syntax. Thus, replace with the appropriate "load immediate"
instruction, which is also clearer to read.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2813 from martin-frbg/issue2804-2

Fix for c_check misinterpreting arm64 in uname -m output as armv7

Fix c_check misinterpreting arm64 in uname output to mean armv7

additionla fix for upcoming OSX on ARM64 related to #2804, as suggested by fxcoudert in #2805

Merge pull request #2811 from martin-frbg/issue2806

Make NO_AVX512 option override the AVX512 compile test in CMAKE builds as well

Merge pull request #2797 from martin-frbg/relafixes1

ReLAPACK fixes

Merge pull request #79 from xianyi/develop

rebase

Fix misnaming of LAPACK_?ggsvp function prototypes as LAPACKE_ (#2808)

* Fix misnaming of LAPACK_?ggsvp and ?ggsvd function prototypes as LAPACKE_

* Drop the LAPACKE matrix_layout parameter from the argument lists, change ints to pointers and add missing work arguments.

Merge pull request #2807 from martin-frbg/issue2804

Work around ARMV8 build-time cpu detection problems on non-Linux systems

Report cpu as ARMV8 instead of just giving up on non-Linux hosts

Handle Apple labeling armv8 as arm64 rather than aarch64

define __AVX2__ to ensure the haswell code compiled with avx2

Implementaion of dasum, sasum with AVX2 & AVX512 intrinsic

Merge pull request #2799 from RajalakshmiSR/p10_ger

POWER10: Avoid setting accumulators to zero in gemm kernels

POWER10: Avoid setting accumulators to zero in gemm kernels

For the first iteration, it is better to use xvf*ger instead of xvf*gerpp
builtins which helps to avoid setting accumulators to zero. This helps
to reduce few instructions.

Merge pull request #2798 from kadler/aix-cpuid

Fix compile error on AIX cpuid detection

Fix compile error on AIX cpuid detection

In 589c74a the cpuid detection was changed to use systemcfg, but a copy
and paste error was introduced during some refactoring that caused
POWER7 detection to reference CPUTYPE_POWER7 (which doesn't exist)
instead of CPUTYPE_POWER6.

Add early returns and fix sign errors in workspace calculations

Add early returns

Add early returns

Add early returns

Make ILAENV and xGETRF2 functions available

Merge pull request #2775 from Guobing-Chen/Fix_OMP_threads_specify

Fix OMP num specify issue

Merge pull request #2792 from pkubaj/patch-1

Add aliases for armv6, armv7

Add aliases for armv6, armv7

FreeBSD uses those names for 32-bit ARM variants.

Fix OMP num specify issue

In current code, no matter what number of threads specified, all
available CPU count is used when invoking OMP, which leads to very bad
performance if the workload is small while all available CPUs are big.
Lots of time are wasted on inter-thread sync. Fix this issue by really
using the number specified by the variable 'num' from calling API.

Signed-off-by: Chen, Guobing <guobing.chen@intel.com>

Merge pull request #2791 from martin-frbg/issue2787

Fix crashes in parallelized x86_64 ZDOT particularly on Windows

Fix mssing dummy parameter (imag part of alpha) of zdot_thread_function

Merge pull request #2790 from martin-frbg/issue2789

Add OpenMP dependency to pkgconfig information if needed

Add OpenMP dependency to pkgconfig file if needed

Add OpenMP dependency to pkgconfig file if needed

Merge pull request #78 from xianyi/develop

rebase

Merge pull request #2780 from Guobing-Chen/CPL_build_support

Enable COOPERLAKE build target

Update system.cmake

Update system.cmake

fallback from cooperlake to skylake if gcc<10

Typo fix

-march=cooperlake requires gcc10

-march=cooperlake requires gcc10

Fix typo

-march=cooperlake only available in gcc >= 10

make march=cooperlake option conditional on gcc >= 10.1

[WIP] Refactor the driver code for direct SGEMM (#2782)

Move "direct SGEMM" functionality out of the SkylakeX SGEMM kernel and make it available
(on x86_64 targets only for now) in DYNAMIC_ARCH builds
* Add  sgemm_direct targets in the kernel Makefile.L3 and CMakeLists.txt
* Add direct_sgemm functions to the gotoblas struct in common_param.h
* Move sgemm_direct_performant helper to separate file
* Update gemm.c  to macros for sgemm_direct to support dynamic_arch naming via common_s,h
* (Conditionally) add sgemm_direct functions in setparam-ref.c

Merge pull request #2785 from albertziegenhagel/always-generate-pkg-config

Do not require pkg-config to generate the *.pc file

Do not require pkg-config to generate the *.pc file

Generating the pkg-config file does not actually depend on pkg-config being available.

Merge pull request #2784 from martin-frbg/issue2783

Add fallback typedef for bfloat16 to openblas_config.h template

Add typedef for bfloat16 if needed

Merge pull request #77 from xianyi/develop

rebase

revert

revert

revert

Update .drone.yml

Update Makefile

Add simple MT sgemm precision test and INTERFACE64 build

Add simple sgemm preicsion test

Update gemm64.cpp

Add trivial gemm test for multithread consistency

Fix incorrect argument to SLASET

Reference-LAPACK issue 425 (and 318)

Fix incorrect argument to SLASET

Reference-LAPACK issue 425 (and 318)

Fix incorrect calls to DLASET

Reference-LAPACK issue 429

Enable COOPERLAKE build target

Enable new build target platform -- COOPERLAKE. This target platform
supports all the SKYLAKEX supported ISAs + avx512bf16. So all the
SKYLAKEX specific kernels/drivers and related code are now extended
to be also active on COOPERLAKE. Besides, new BF16 related kernels
are active under this target.