Merge pull request #2626 from docularxu/working-gcc-version-detections

make GCC version detection OS-independent

make GCC version detection OS-independent

Previous design put GCC version detection inside of OSNAME 'WINNT'.
However, such detections are required for 'Linux' and possibly other
OS'es as well. For example, there is usage of the GCC versions
in Makefile.arm64. When compiling on Linux machine, in the previous
design, Markfile.arm64 will not know the correct GCC version.

The fix is to move GCC version detection into common part, not
wrapped by anything.

Signed-off-by: Guodong Xu <guodong.xu@linaro.com>

Merge pull request #2618 from craft-zhang/cortex-A53

Improve performance of SGEMM and STRMM on Arm Cortex-A53

update CONTRIBUTORS.md, adding myself

split cortex-a53 param to match 8x8 kernel

update sgemm and strmm kernel selecting strategy

use general register to speedup

align general register using to strmm_kernel_8x8

sgemm kernel use sgemm_kernel_8x8_cortexa53

Signed-off-by: zhangdanfeng <zhangdanfeng@cloudwalk.cn>

optimized for cortex-a53

Signed-off-by: zhangdanfeng <zhangdanfeng@cloudwalk.cn>

Merge pull request #2623 from mhillenibm/zarch_dgemm_z14

s390x: Use new sgemm kernel also for DGEMM and DTRMM on Z14 (+ small cleanup)

s390x: Use new sgemm kernel also for DGEMM and DTRMM on Z14

Apply our new GEMM kernel implementation, written in C with vector intrinsics,
also for DGEMM and DTRMM on Z14 and newer (i.e., architectures with FP32 SIMD
instructions). As a result, we gain around 10% in performance on z15, in
addition to improving maintainability.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/GEMM: replace 0-init with peeled first iteration

... since it gains another ~2% of SGEMM and DGEMM performance on z15;
also, the code just called for that cleanup.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2622 from martin-frbg/issue2619

Improve declaration of LAPACKE_get_nancheck

Improve declaration of LAPACKE_get_nancheck

Merge pull request #2617 from martin-frbg/issue2616

Add workaround for unhandled  gmake jobserver flags in c_check/f_check

Ignore spurious all-numeric library names derived from mishandled jobserver flags

Ignore spurious all-numeric library names derived from mishandled jobserver flags

Merge pull request #58 from xianyi/develop

rebase

Merge pull request #2615 from mhillenibm/z14_alignment_hints

s390x: improvise vector alignment hints for older compilers

s390x: improvise vector alignment hints for older compilers

Introduce inline assembly so that we can employ vector loads with
alignment hints on older compilers (pre gcc-9), since these are still
used in distributions such as RHEL 8 and Ubuntu 18.04 LTS.

Informing the hardware about alignment can speed up vector loads. For
that purpose, we can encode hints about 8-byte or 16-byte alignment of
the memory operand into the opcodes. gcc-9 and newer automatically emit
such hints, where applicable. Add a bit of inline assembly that achieves
the same for older compilers. Since an older binutils may not know about
the additional operand for the hints, we explicitly encode the opcode in
hex.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2614 from mhillenibm/gemm_vec_z14

s390x: Improve performance of SGEMM and STRMM on z14 and newer

Update CONTRIBUTORS.md

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x/Z14: Change register blocking for SGEMM to 16x4

Change register blocking for SGEMM (and STRMM) on z14 from 8x4 to 16x4
by adjusting SGEMM_DEFAULT_UNROLL_M and choosing the appropriate copy
implementations. Actually make KERNEL.Z14 more flexible, so that the
change in param.h suffices. As a result, performance for SGEMM improves
by around 30% on z15.

On z14, FP SIMD instructions can operate on float-sized scalars in
vector registers, while z13 could do that for double-sized scalars only.
Thus, we can double the amount of elements of C that are held in
registers in an SGEMM kernel.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: Use new sgemm kernel also for strmm on Z14 and newer

Employ the newly added GEMM kernel also for STRMM on Z14. The
implementation in C with vector intrinsics exploits FP32 SIMD operations
and thereby gains performance over the existing assembly code. Extend
the implementation for handling triangular matrix multiplication,
accordingly. As added benefit, the more flexible C code enables us to
adjust register blocking in the subsequent commit.

Tested via make -C test / ctest / utest and by a couple of additional
unit tests that exercise blocking.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: Add vectorized sgemm kernel for Z14 and newer

Add a new GEMM kernel implementation to exploit the FP32 SIMD
operations introduced with z14 and employ it for SGEMM on z14 and newer
architectures.

The SIMD extensions introduced with z13 support operations on
double-sized scalars in vector registers. Thus, the existing SGEMM code
would extend floats to doubles before operating on them. z14 extended
SIMD support to operations on 32-bit floats. By employing these
instructions, we can operate on twice the number of scalars per
instruction (four floats in each vector registers) and avoid the
conversion operations.

The code is written in C with explicit vectorization. In experiments,
this kernel improves performance on z14 and z15 by around 2x over the
current implementation in assembly. The flexibilty of the C code paves
the way for adjustments in subsequent commits.

Tested via make -C test / ctest / utest and by a couple of additional
unit tests that exercise blocking (e.g., partial register blocks with
fewer than UNROLL_M rows and/or fewer than UNROLL_N columns).

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Update CONTRIBUTORS.md, adding myself

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: choose SIMD kernels at run-time based on OS and compiler support

Extend and simplify the run-time detection for dynamic architecture support for z
to check HW_CAP and only use SIMD features if advertised by the OS.
While at it, also honor the env variable LD_HWCAP_MASK and do not use
the CPU features masked there.

Note that we can only use the SIMD features on z13 or newer (i.e.,
Vector Facility or Vector-Enhancements Facilities) when the operating
system supports properly context-switching the vector registers. The OS
advertises that support as a bit in the HW_CAP value in the auxiliary
vector. While all recent Linux kernels have that support, we should
maintain compatibility with older versions that may still be in use.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: only build kernels supported by gcc with dynamic arch support

When building with dynamic arch support, only build kernels for
architectures that are supported by the gcc we are building with.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

s390x: gate dynamic arch detection on gcc version and add generic

When building OpenBLAS with DYNAMIC_ARCH=1 on s390x (aka zarch), make
sure to include support for systems without the facilities introduced
with z13 (i.e., zarch_generic). Adjust runtime detection to fallback to
that generic code when running on a unknown platform other than Z13
through Z15.

When detecting a Z13 or newer system, add a check for gcc support for
the architecture-specific features before selecting the respective
kernel. Fallback to Z13 or generic code, in case.

Signed-off-by: Marius Hillenbrand <mhillen@linux.ibm.com>

Merge pull request #2612 from RajalakshmiSR/testshgemm

Improve shgemm test

Improve shgemm test

This patch adds another check to test shgemm results.

Merge pull request #2611 from RajalakshmiSR/bench_half

Include shgemm in benchtest

Include shgemm in benchtest

This patch is to enable benchtest for half precision gemm
when BUILD_HALF is set during make.

Merge pull request #2610 from martin-frbg/issue2552-3

Temporary workaround for excessive LAPACK test failures with COMPLEX on Skylake-X

Work around excessive LAPACK test failures on Skylake-X

Something in the plain C parts of x86_64 cscal.c and zscal.c appears to be miscompiled by both gfortran9 and ifort when compiling for skylakex-avx512, even when the optimized Haswell microkernel is not in use.

Merge pull request #2609 from martin-frbg/issue2552-2

Correct ifort options

Correct ifort options

to same as suggested by reference-lapack

Merge pull request #2608 from martin-frbg/issue2604

Handle trailing whitespace and empty variables in KERNEL files

Handle trailing spaces and empty condition variables

Merge pull request #57 from xianyi/develop

rebase

Merge pull request #2605 from RajalakshmiSR/cmake-power

Fix cmake compilation issue - POWER9

Fix cmake compilation issue - POWER9

This patch removes extra space in the sgemmotcopy filename
thereby allowing it to create entry in kernel/Makefile
created by cmake.

Merge pull request #2603 from martin-frbg/issue2552

Add FFLAGS_DRV entry to the generated make.inc to fix lapack-test failure with Intel compilers

Add FFLAGS_DRV to the generated make.inc to fix lapack-test on x86_64 with icc/ifort

fixes #2552

Merge pull request #56 from xianyi/develop

rebase

Merge pull request #2602 from ashwinyes/thunderx2_develop

DAXPY Optimizations for ThunderX2

ARM64: Improve DAXPY for ThunderX2

Improve performance of DAXPY for ThunderX2
when the vector fits in L1 Cache.

Merge pull request #2601 from martin-frbg/issue818

Undefine NAME/CNAME etc  in Makefile.system before defining them

Undefine ASMNAME/NAME/CNAME before defining them

to avoid redefinition warning when environment variables like CFLAGS are being used (fixes #818)

Merge pull request #55 from xianyi/develop

rebase

Merge pull request #2597 from martin-frbg/appleclang

Use Clang 9.0.0 miscompilation fix for corresponding AppleClang version as well

Duplicate earlier Clang 9.0.0 workaround for corresponding Apple Clang version

As discussed on the original PR #2329, the "Apple Clang 11.0.3" that appears to be based the same LLVM release produces the same miscompilation of this file.

Merge pull request #53 from xianyi/develop

rebase

Merge pull request #2591 from RajalakshmiSR/testhalf

Add test for shgemm

Make building the bfloat16 functions conditional on option BUILD_HALF (#2590)

* make building the bfloat16 BLAS functions conditional on BUILD_HALF

* pass the BUILD_HALF option to gensymbol

* Pass BUILD_HALF as a compiler define for dynamic_arch builds

Merge pull request #2586 from martin-frbg/miscfixes

Trivial fix for compiler warnings

Add test for shgemm

This patch has Makefile changes to add test for shgemm which
compares sgemm and shgemm result.

Merge pull request #52 from xianyi/develop

rebase

Merge pull request #2585 from martin-frbg/mips64fix

Increase default BUFFER_SIZE on MIPS64

Fix compiler warnings

Increase BUFFER_SIZE on mips64 to match SGEMM parameters

Merge pull request #51 from xianyi/develop

rebase

Merge pull request #2584 from martin-frbg/issue2583

[WIP] Have CMAKE parse conditional lines in KERNEL files

Silence a debug message

Have CMAKE parse conditional lines in KERNEL files

Supports ifeq and ifneq, but requires both to have an else branch

Merge pull request #2582 from martin-frbg/mips32fix

Increase BUFFER_SIZE on MIPS32 to accomodate SGEMM requirements

Increase default BUFFER_SIZE to accomodate SGEMM parameters

in response to compile-time warning from #2551

Merge pull request #50 from xianyi/develop

rebase

Merge pull request #2581 from martin-frbg/raji

Fix travis configuration and update CONTRIBUTORS.md

Drop the set -e from travis scripts

Update CONTRIBUTORS.md

Merge pull request #2580 from martin-frbg/issue2538-3

Increase POWER8 ZGEMM_R and use same R values for POWER9

Increase POWER8 ZGEMM_R and use same R values for POWER9

fixes lapack-test zger failures seen in #2299 after application of my PR #2551

Merge pull request #2578 from martin-frbg/issue2576

Quote getarch include paths in prebuild.cmake

Quote include paths for getarch to protect any embedded spaces

Merge pull request #49 from xianyi/develop

rebase

xcode 11.4.1 for homebrew ?

Switch homebrew build env to new xcode 11.4

default 11.3.1 in the github image is causing brew to fail with "outdated xcode" message

Merge pull request #2571 from martin-frbg/issue2299

Work around IDAMAX/IZAMAX bugs on POWER8BE with ELFv2 FreeBSD

Merge pull request #2573 from martin-frbg/issue2572

Enable cblas interfaces to GEMM3M in CMAKE builds

Limit this fix to ELFv2 builds

Export ELF_VERSION for use in powerpc kernel configurations

Avoid duplicate printout of byte order and report ELF_VERSION

enable cblas interfaces to GEMM3M in CMAKE builds

Merge pull request #2569 from martin-frbg/issue2472-2

Fix linker option passing for MSVS and ReLAPACK

Work around POWER8BE bugs on FreeBSD (ELFv2)

for #2299

Use CMAKE_SHARED_LINKER_FLAGS to pass MSVC linker option

target_link_libraries does not work here according to issue 2472

Merge pull request #48 from xianyi/develop

rebase

Merge pull request #2565 from martin-frbg/mips24k

Support MIPS32 24K family as P5600

Merge pull request #2559 from RajalakshmiSR/shgemm

Add half precision gemm for bfloat16 in OpenBLAS

Merge pull request #2568 from martin-frbg/azure-win

Add a Windows/CL build job to the Azure CI

Add a Windows/CL build to the Azure Ci configuration

Merge pull request #2567 from xianyi/revert-2566-azurewin

Revert "Add Windows build job on Azure CI"

Revert "Add Windows build job on Azure CI (#2566)"

This reverts commit e1e543b145ce6bef55e7a8ee4e3efff3e3d31cb2.

Add Windows build job on Azure CI (#2566)

* Add Windows-CL build job on Azure

Delete KERNEL.1004K

Delete KERNEL.24K

Rename KERNEL files to include MIPS prefix

Update getarch.c