Merge pull request #2796 from Guobing-Chen/BF16_dot_coversion_apis

Add bfloat16 based dot and conversion with single/double

Merge pull request #2833 from martin-frbg/issue2830

Make building the tests for individual data types conditional on the respective BUILD option

Copy BUILD_ options available to the compiler flags

Add BUILD_SINGLE etc

Rearrange ifdefs

Remove spurious tests for complex ASUM and NRM2

Make tests conditional on BUILD_DOUBLE

Make tests for individual variable types conditional on the respective BUILD_ option

Make building individual tests depend on BUILD_SINGLE etc defines

Remove spurious complex16 tests

Copy BUILD_* directives to the compiler options to allow ifdef in tests

Merge pull request #2832 from martin-frbg/issue2831

Fix gfortran detection by vendor matching

Fix vendor match for GCC gfortran

Merge pull request #83 from xianyi/develop

rebase

Merge pull request #2829 from mhillenibm/clang_s390x

Fix DYNAMIC_ARCH=1 with clang s390x

Add an s390 build with clang to the Travis configuration

Since clang builds have been fixed on s390x, including support for
DYNAMIC_ARCH, cover that build type in Travis.

Explicitly request Ubuntu 20.04 (codename focal) to get a recent
LLVM/clang version 10.x and thereby cover all s390x architecture
generations supported in OpenBLAS. Ubuntu 18.10's LLVM/clang 6.x cannot
build the inline assembly in some of the Z13 and Z14 kernels.

LLVM/clang currently does not support OpenMP on s390x, so disable that
in the build.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Update CONTRIBUTERS.md - clang build fixes for IBM z

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: define a HW_CAP flag to support slightly older glibc versions

Enable building DYNAMIC_ARCH support with older versions of glibc that
do not know about the hwcap flag HWCAP_S390_VXE yet.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: pass supported arch levels from Makefile to run-time code

... instead of duplicating the (old) mechanism from the Makefile that
aimed to derive supported architecture generations from the gcc
version.

To enable builds with DYNAMIC_ARCH with older compiler releases, the
Makefile and drivers/other/dynamic_arch.c need a common view of the
architecture support built into the library.

We follow the notation from x86 when used with DYNAMIC_LIST, where
defines DYN_<ARCH NAME> denote support for a given generation to be
built in. Since there are far fewer architecture generations in OpenBLAS
for s390x, that does not bloat command lines too much.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/DYNAMIC_ARCH: generalize detecting supported archs for clang

Simplify detection of which kernels we can compile on s390x. Instead of
decoding the gcc version in a complicated manner, just check if CC
supports a given -march=archXY flag. Together with the next patch, we
thereby gain support for builds with LLVM/clang with DYNAMIC_ARCH=1.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2828 from martin-frbg/lapack438

Correct xLASET arguments in LAPACK EIG tests

Correct dimension argument to xLASET

from Reference-LAPACK PR 438

Merge pull request #82 from xianyi/develop

rebase

Merge pull request #2803 from xiegengxin/AVX2-asum

Implementaion of dasum, sasum with AVX2 & AVX512 intrinsic

Merge pull request #2824 from martin-frbg/asumbench

Use POSIX2001 clock.gettime in asum benchmark if available

Use POSIX2001 clock.gettime for higher resolution

Merge pull request #2816 from martin-frbg/silicon

Add basic support for Apple Vortex (ARM64) cpu

Merge pull request #2823 from martin-frbg/fix2778

Improve fix for lapack-test EIG/cchkhb2stg from PR 2778

Correct argument to SLASET (Improves fix from PR2778)

as explained by serguei-patchkovskii in Reference-LAPACK/lapack#438 (comment) , passing in an index of 1 instead of N leads to a standards violation accessing matrix A in SLASET, i.e. undefined behavior

Merge pull request #81 from xianyi/develop

rebase

Merge pull request #2822 from martin-frbg/issue2821

Fix potential domain error in sqrt

Fix potentiol domain error in sqrt

Merge pull request #2819 from h-vetinari/carry_lapack_437

Carry lapack#437

Merge pull request #2820 from RajalakshmiSR/clang

POWER9: Fix mcpu option with clang

POWER9: Fix mcpu option with clang

Adding check for compiler type before checking GCC version in Makefile.
This allows clang to use power9 instead of power8 when CORE is POWER9.

adapt ?ggsv?-functions to ambient code style in LAPACKE/include/lapack.h

Follow-up to lapack#434 & lapack#409: add missing 'const' in signatures

Based on how the surrounding functions in lapack.h are handling the
parameters, particularly the ?ggsv?3-variants of the affected functions

Follow-up to lapack#434 & lapack#409: fix signature mismatches

Merge pull request #2778 from martin-frbg/lapackeig

Fix various wrong calls to SLASET/DLASET in the EIG part of the LAPACK testsuite

Add bfloat16 based dot and conversion with single/double

1. Added bfloat16 based dot as new API: shdot
2. Implemented generic kernel and cooperlake-specific (AVX512-BF16) kernel for shdot
3. Added 4 conversion APIs for bfloat16 data type <=> single/double: shstobf16 shdtobf16 sbf16tos dbf16tod
     shstobf16 -- convert single float array to bfloat16 array
     shdtobf16 -- convert double float array to bfloat16 array
     sbf16tos  -- convert bfloat16 array to single float array
     dbf16tod  -- convert bfloat16 array to double float array
4. Implemented generic kernels for all 4 conversion APIs, and cooperlake-specific kernel for shstobf16 and shdtobf16
5. Update level1 thread facilitate functions and macros to support multi-threading for these new APIs
6. Fix Cooperlake platform detection/specify issue when under dynamic-arch building
7. Change the typedef of bfloat16 from unsigned short to more strict uint16_t

Signed-off-by: Chen, Guobing <guobing.chen@intel.com>

Merge pull request #2817 from martin-frbg/lapack436

LAPACKE: fix declaration of work arrays in [cz]gesvdq

Rename KERNEL.SILICON to KERNEL.VORTEX

Rename SILICON to VORTEX and fix duplicate numbering

Rename SILICON to VORTEX

rename SILICON to VORTEX

align to 64, using SSE when input size is small

Fix data type of work array in zgesvdq prototype

Fix data type of rwork array

Create KERNEL.SILICON

Add AppleSIlicon cpu

Add Apple Silicon

Detect AppleSilicon cpu on OSX

Merge pull request #80 from xianyi/develop

rebase

Merge pull request #2815 from mhillenibm/clang_s390x

Fix build with clang on s390x

s390x: enable S/DGEMM block with explicit loop unrolling + interleaving with clang

The code for SGEMM 16x4 and DGEMM 8x4 blocks on z14 and z15 uses
explicit unrolling and interleaving to improve performance. The code
employs an empty inline asm statement with operands that constrain the
compiler's instruction scheduling and thereby enforce proper overlapping
of load and compute phases. Fix an ifdef to apply that for clang builds,
as well.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: allow clang to emit fused multiply-adds (replicates gcc's default behavior)

gcc's default setting for floating-point expression contraction is
"fast", which allows the compiler to emit fused multiply adds instead of
separate multiplies and adds (amongst others). Fused multiply-adds,
which assembly kernels typically apply, also bring a significant
performance advantage to the C implementation for matrix-matrix
multiplication on s390x. To enable that performance advantage for builds
with clang, add -ffp-contract=fast to the compiler options.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid variable-length arrays in struct for asm operands

... since it is not required and clang does not support that gcc
extension. Instead, use a variable-length array directly for these
operands.

Note that, while the actual inline assembly code does not directly use
these memory operands, they serve to inform the compiler that it cannot
reorder reads or writes to/from the input and output data across the
inline asm statements.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: avoid inline assembly for vector loads for clang

... since clang does not support the instruction format for inline
assembly and also it is not required for current versions of clang.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: replace nop with "nop 0" in inline assembly

... as a bandaid for building with clang until LLVM's internal assembler
supports nops without operand.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: use "lghi" for immediate values to fix build with clang

Some of the kernels written in assembly utilize a "load address"
instruction for loading an immediate value into a register. That is
both unnecessarily complex and LLVM's assembler does not understand that
specific syntax. Thus, replace with the appropriate "load immediate"
instruction, which is also clearer to read.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2813 from martin-frbg/issue2804-2

Fix for c_check misinterpreting arm64 in uname -m output as armv7

Fix c_check misinterpreting arm64 in uname output to mean armv7

additionla fix for upcoming OSX on ARM64 related to #2804, as suggested by fxcoudert in #2805

Merge pull request #2811 from martin-frbg/issue2806

Make NO_AVX512 option override the AVX512 compile test in CMAKE builds as well

Merge pull request #2797 from martin-frbg/relafixes1

ReLAPACK fixes

Merge pull request #79 from xianyi/develop

rebase

Fix misnaming of LAPACK_?ggsvp function prototypes as LAPACKE_ (#2808)

* Fix misnaming of LAPACK_?ggsvp and ?ggsvd function prototypes as LAPACKE_

* Drop the LAPACKE matrix_layout parameter from the argument lists, change ints to pointers and add missing work arguments.

Merge pull request #2807 from martin-frbg/issue2804

Work around ARMV8 build-time cpu detection problems on non-Linux systems

Report cpu as ARMV8 instead of just giving up on non-Linux hosts

Handle Apple labeling armv8 as arm64 rather than aarch64

define __AVX2__ to ensure the haswell code compiled with avx2

Implementaion of dasum, sasum with AVX2 & AVX512 intrinsic

Merge pull request #2799 from RajalakshmiSR/p10_ger

POWER10: Avoid setting accumulators to zero in gemm kernels

POWER10: Avoid setting accumulators to zero in gemm kernels

For the first iteration, it is better to use xvf*ger instead of xvf*gerpp
builtins which helps to avoid setting accumulators to zero. This helps
to reduce few instructions.

Merge pull request #2798 from kadler/aix-cpuid

Fix compile error on AIX cpuid detection

Fix compile error on AIX cpuid detection

In 589c74a the cpuid detection was changed to use systemcfg, but a copy
and paste error was introduced during some refactoring that caused
POWER7 detection to reference CPUTYPE_POWER7 (which doesn't exist)
instead of CPUTYPE_POWER6.

Add early returns and fix sign errors in workspace calculations

Add early returns

Add early returns

Add early returns

Make ILAENV and xGETRF2 functions available

Merge pull request #2775 from Guobing-Chen/Fix_OMP_threads_specify

Fix OMP num specify issue

Merge pull request #2792 from pkubaj/patch-1

Add aliases for armv6, armv7

Add aliases for armv6, armv7

FreeBSD uses those names for 32-bit ARM variants.

Fix OMP num specify issue

In current code, no matter what number of threads specified, all
available CPU count is used when invoking OMP, which leads to very bad
performance if the workload is small while all available CPUs are big.
Lots of time are wasted on inter-thread sync. Fix this issue by really
using the number specified by the variable 'num' from calling API.

Signed-off-by: Chen, Guobing <guobing.chen@intel.com>

Merge pull request #2791 from martin-frbg/issue2787

Fix crashes in parallelized x86_64 ZDOT particularly on Windows

Fix mssing dummy parameter (imag part of alpha) of zdot_thread_function

Merge pull request #2790 from martin-frbg/issue2789

Add OpenMP dependency to pkgconfig information if needed

Add OpenMP dependency to pkgconfig file if needed

Add OpenMP dependency to pkgconfig file if needed

Merge pull request #78 from xianyi/develop

rebase

Merge pull request #2780 from Guobing-Chen/CPL_build_support

Enable COOPERLAKE build target

Update system.cmake

Update system.cmake

fallback from cooperlake to skylake if gcc<10

Typo fix

-march=cooperlake requires gcc10

-march=cooperlake requires gcc10

Fix typo

-march=cooperlake only available in gcc >= 10

make march=cooperlake option conditional on gcc >= 10.1