Add BUILD_vartype defines

Add BUILD_vartype defines

Support building only selected types

Support building only seleced types

fix grouping of sources used for more than one type

add defines for building a subset of types

Merge pull request #88 from xianyi/develop

rebase

Merge pull request #2851 from martin-frbg/travis-xcode12

Add an OSX build with xcode12

Add an OSX build with xcode12

Merge pull request #2847 from mhillenibm/fixup_cscal

s390x: fix cscal and zscal implementations

s390x: fix cscal and zscal implementations

The implementation of complex scalar * vector multiplication for Z14
makes some LAPACK tests fail because the numerical differences to the
reference implementation exceed the threshold (as can be seen by running
make lapack-test and replacing kernel/zarch/cscal.c with a generic
implementation for comparison).

The complex multiplication uses terms of the form a * b + c * d for both
real and imaginary parts. The assembly code (and compiler-emitted code
as well) uses fused multiply add operations for the second product and
sum. The results can be "surprising", for example when both terms in the
imaginary part nearly cancel each other out. In that case, the second
product contributes more digits to the sum than the first product that
has been rounded before.

One option is to use separate multiplications (which then round the same
way) and a distinct add. Change the code to pursue that path, by (1)
requesting the compiler not to contract the operations into FMAs and (2)
replacing the assembly kernel with corresponding vectorized C code
(where change 1 also applies).

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: for clang use fp-contract=on instead of fast

Make clang slightly more cautious when contracting floating-point
operations (e.g., when applying fused multiply add) by setting
-ffp-contract=on (instead of fast).

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: move common vector definitions and utils into header

... to facilitate reuse beyond gemm_vec.c and avoid code duplication.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2845 from martin-frbg/lapack443

Fix workspace query in LAPACK xGELQ (Reference-LAPACK 443)

Fix workspace query in xGELQ (Reference-LAPACK PR443)

Merge pull request #86 from xianyi/develop

rebase

Merge pull request #2844 from RajalakshmiSR/daxpy_p10

Optimize daxpy/zaxpy for POWER10

Optimize daxpy/zaxpy for POWER10

This patch makes use of new POWER10 vector pair instructions for
loads and stores. Tested in simulator and no new failures.

Merge pull request #2841 from martin-frbg/cpp_gemvtest

Make thread safety tests available to CMAKE and support running only the GEMV version

Merge pull request #2843 from mhillenibm/fixup_merge_dynamic_zarch

s390x/DYNAMIC_ARCH: fixup broken merge and reapply simplification

s390x/DYNAMIC_ARCH: fixup broken merge and reapply simplification

An unrelated commit and merge inadvertently reverted our recent two
changes for simplifying DYNAMIC_ARCH on s390x. Simply reapply the
changes.

Simplify detection of which kernels we can compile on s390x. Instead of
decoding the gcc version in a complicated manner, just check if CC
supports a given -march=archXY flag. Together with the next patch, we
thereby gain support for builds with LLVM/clang with DYNAMIC_ARCH=1.

To enable builds with DYNAMIC_ARCH with older compiler releases, the
Makefile and drivers/other/dynamic_arch.c need a common view of the
architecture support built into the library.

We follow the notation from x86 when used with DYNAMIC_LIST, where
defines DYN_<ARCH NAME> denote support for a given generation to be
built in. Since there are far fewer architecture generations in OpenBLAS
for s390x, that does not bloat command lines too much.

Closes: #2842
Fixes: ba644378dce7 ("Copy BUILD_ options available to the compiler flags"

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Add option for running only the less demanding GEMV version of the thread safety tests

Support running just the GEMV version of the thread safety test

Add cpp_thread_test options

Add CMakeLists.txt

Merge pull request #85 from xianyi/develop

rebase

Merge pull request #2840 from martin-frbg/fixup2833

Fix for cmake BUILD_ settings PR 2833

Activate all BUILD_ options if none was specified

Merge pull request #84 from xianyi/develop

rebase

Merge pull request #2838 from austinpagan/gordon_trmm

Adding performance patch for trmm, just like trsm (#2836)

Adding performance patch for trmm, just like #2836

Merge pull request #2836 from austinpagan/gordon_trsm

Fixing a performance bug in trsm_[LR].c.

Fixing a performance bug in trsm_[LR].c.

Merge pull request #2796 from Guobing-Chen/BF16_dot_coversion_apis

Add bfloat16 based dot and conversion with single/double

Merge pull request #2833 from martin-frbg/issue2830

Make building the tests for individual data types conditional on the respective BUILD option

Copy BUILD_ options available to the compiler flags

Add BUILD_SINGLE etc

Rearrange ifdefs

Remove spurious tests for complex ASUM and NRM2

Make tests conditional on BUILD_DOUBLE

Make tests for individual variable types conditional on the respective BUILD_ option

Make building individual tests depend on BUILD_SINGLE etc defines

Remove spurious complex16 tests

Copy BUILD_* directives to the compiler options to allow ifdef in tests

Merge pull request #2832 from martin-frbg/issue2831

Fix gfortran detection by vendor matching

Fix vendor match for GCC gfortran

Merge pull request #83 from xianyi/develop

rebase

Merge pull request #2829 from mhillenibm/clang_s390x

Fix DYNAMIC_ARCH=1 with clang s390x

Add an s390 build with clang to the Travis configuration

Since clang builds have been fixed on s390x, including support for
DYNAMIC_ARCH, cover that build type in Travis.

Explicitly request Ubuntu 20.04 (codename focal) to get a recent
LLVM/clang version 10.x and thereby cover all s390x architecture
generations supported in OpenBLAS. Ubuntu 18.10's LLVM/clang 6.x cannot
build the inline assembly in some of the Z13 and Z14 kernels.

LLVM/clang currently does not support OpenMP on s390x, so disable that
in the build.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Update CONTRIBUTERS.md - clang build fixes for IBM z

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: define a HW_CAP flag to support slightly older glibc versions

Enable building DYNAMIC_ARCH support with older versions of glibc that
do not know about the hwcap flag HWCAP_S390_VXE yet.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: pass supported arch levels from Makefile to run-time code

... instead of duplicating the (old) mechanism from the Makefile that
aimed to derive supported architecture generations from the gcc
version.

To enable builds with DYNAMIC_ARCH with older compiler releases, the
Makefile and drivers/other/dynamic_arch.c need a common view of the
architecture support built into the library.

We follow the notation from x86 when used with DYNAMIC_LIST, where
defines DYN_<ARCH NAME> denote support for a given generation to be
built in. Since there are far fewer architecture generations in OpenBLAS
for s390x, that does not bloat command lines too much.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: generalize detecting supported archs for clang

Simplify detection of which kernels we can compile on s390x. Instead of
decoding the gcc version in a complicated manner, just check if CC
supports a given -march=archXY flag. Together with the next patch, we
thereby gain support for builds with LLVM/clang with DYNAMIC_ARCH=1.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2828 from martin-frbg/lapack438

Correct xLASET arguments in LAPACK EIG tests

Correct dimension argument to xLASET

from Reference-LAPACK PR 438

Merge pull request #82 from xianyi/develop

rebase

Merge pull request #2803 from xiegengxin/AVX2-asum

Implementaion of dasum, sasum with AVX2 & AVX512 intrinsic

Merge pull request #2824 from martin-frbg/asumbench

Use POSIX2001 clock.gettime in asum benchmark if available

Use POSIX2001 clock.gettime for higher resolution

Merge pull request #2816 from martin-frbg/silicon

Add basic support for Apple Vortex (ARM64) cpu

Merge pull request #2823 from martin-frbg/fix2778

Improve fix for lapack-test EIG/cchkhb2stg from PR 2778

Correct argument to SLASET (Improves fix from PR2778)

as explained by serguei-patchkovskii in Reference-LAPACK/lapack#438 (comment) , passing in an index of 1 instead of N leads to a standards violation accessing matrix A in SLASET, i.e. undefined behavior

Merge pull request #81 from xianyi/develop

rebase

Merge pull request #2822 from martin-frbg/issue2821

Fix potential domain error in sqrt

Fix potentiol domain error in sqrt

Merge pull request #2819 from h-vetinari/carry_lapack_437

Carry lapack#437

Merge pull request #2820 from RajalakshmiSR/clang

POWER9: Fix mcpu option with clang

POWER9: Fix mcpu option with clang

Adding check for compiler type before checking GCC version in Makefile.
This allows clang to use power9 instead of power8 when CORE is POWER9.

adapt ?ggsv?-functions to ambient code style in LAPACKE/include/lapack.h

Follow-up to lapack#434 & lapack#409: add missing 'const' in signatures

Based on how the surrounding functions in lapack.h are handling the
parameters, particularly the ?ggsv?3-variants of the affected functions

Follow-up to lapack#434 & lapack#409: fix signature mismatches

Merge pull request #2778 from martin-frbg/lapackeig

Fix various wrong calls to SLASET/DLASET in the EIG part of the LAPACK testsuite

Add bfloat16 based dot and conversion with single/double

1. Added bfloat16 based dot as new API: shdot
2. Implemented generic kernel and cooperlake-specific (AVX512-BF16) kernel for shdot
3. Added 4 conversion APIs for bfloat16 data type <=> single/double: shstobf16 shdtobf16 sbf16tos dbf16tod
     shstobf16 -- convert single float array to bfloat16 array
     shdtobf16 -- convert double float array to bfloat16 array
     sbf16tos  -- convert bfloat16 array to single float array
     dbf16tod  -- convert bfloat16 array to double float array
4. Implemented generic kernels for all 4 conversion APIs, and cooperlake-specific kernel for shstobf16 and shdtobf16
5. Update level1 thread facilitate functions and macros to support multi-threading for these new APIs
6. Fix Cooperlake platform detection/specify issue when under dynamic-arch building
7. Change the typedef of bfloat16 from unsigned short to more strict uint16_t

Signed-off-by: Chen, Guobing <guobing.chen@intel.com>

Merge pull request #2817 from martin-frbg/lapack436

LAPACKE: fix declaration of work arrays in [cz]gesvdq

Rename KERNEL.SILICON to KERNEL.VORTEX

Rename SILICON to VORTEX and fix duplicate numbering

Rename SILICON to VORTEX

rename SILICON to VORTEX

align to 64, using SSE when input size is small

Fix data type of work array in zgesvdq prototype

Fix data type of rwork array

Create KERNEL.SILICON

Add AppleSIlicon cpu

Add Apple Silicon

Detect AppleSilicon cpu on OSX

Merge pull request #80 from xianyi/develop

rebase

Merge pull request #2815 from mhillenibm/clang_s390x

Fix build with clang on s390x

s390x: enable S/DGEMM block with explicit loop unrolling + interleaving with clang

The code for SGEMM 16x4 and DGEMM 8x4 blocks on z14 and z15 uses
explicit unrolling and interleaving to improve performance. The code
employs an empty inline asm statement with operands that constrain the
compiler's instruction scheduling and thereby enforce proper overlapping
of load and compute phases. Fix an ifdef to apply that for clang builds,
as well.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: allow clang to emit fused multiply-adds (replicates gcc's default behavior)

gcc's default setting for floating-point expression contraction is
"fast", which allows the compiler to emit fused multiply adds instead of
separate multiplies and adds (amongst others). Fused multiply-adds,
which assembly kernels typically apply, also bring a significant
performance advantage to the C implementation for matrix-matrix
multiplication on s390x. To enable that performance advantage for builds
with clang, add -ffp-contract=fast to the compiler options.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid variable-length arrays in struct for asm operands

... since it is not required and clang does not support that gcc
extension. Instead, use a variable-length array directly for these
operands.

Note that, while the actual inline assembly code does not directly use
these memory operands, they serve to inform the compiler that it cannot
reorder reads or writes to/from the input and output data across the
inline asm statements.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid inline assembly for vector loads for clang

... since clang does not support the instruction format for inline
assembly and also it is not required for current versions of clang.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: replace nop with "nop 0" in inline assembly

... as a bandaid for building with clang until LLVM's internal assembler
supports nops without operand.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: use "lghi" for immediate values to fix build with clang

Some of the kernels written in assembly utilize a "load address"
instruction for loading an immediate value into a register. That is
both unnecessarily complex and LLVM's assembler does not understand that
specific syntax. Thus, replace with the appropriate "load immediate"
instruction, which is also clearer to read.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2813 from martin-frbg/issue2804-2

Fix for c_check misinterpreting arm64 in uname -m output as armv7

Fix c_check misinterpreting arm64 in uname output to mean armv7

additionla fix for upcoming OSX on ARM64 related to #2804, as suggested by fxcoudert in #2805

Merge pull request #2811 from martin-frbg/issue2806

Make NO_AVX512 option override the AVX512 compile test in CMAKE builds as well

Merge pull request #2797 from martin-frbg/relafixes1

ReLAPACK fixes

Merge pull request #79 from xianyi/develop

rebase

Fix misnaming of LAPACK_?ggsvp function prototypes as LAPACKE_ (#2808)

* Fix misnaming of LAPACK_?ggsvp and ?ggsvd function prototypes as LAPACKE_

* Drop the LAPACKE matrix_layout parameter from the argument lists, change ints to pointers and add missing work arguments.

Merge pull request #2807 from martin-frbg/issue2804

Work around ARMV8 build-time cpu detection problems on non-Linux systems