From 2451e4c597885aaa76a1a70f98056ecca7d23cf8 Mon Sep 17 00:00:00 2001 From: Craig Topper Date: Sun, 29 Mar 2020 00:27:33 -0700 Subject: [PATCH] [X86] Add sse4.2 command lines to min/max reduction tests. SSE4.2 has the pcmpgtq instruction which we will use in vXi64 reductions when its available. --- llvm/test/CodeGen/X86/vector-reduce-smax.ll | 432 +++++++++++++++----------- llvm/test/CodeGen/X86/vector-reduce-smin.ll | 434 +++++++++++++++----------- llvm/test/CodeGen/X86/vector-reduce-umax.ll | 464 +++++++++++++++++----------- llvm/test/CodeGen/X86/vector-reduce-umin.ll | 422 ++++++++++++++++--------- 4 files changed, 1068 insertions(+), 684 deletions(-) diff --git a/llvm/test/CodeGen/X86/vector-reduce-smax.ll b/llvm/test/CodeGen/X86/vector-reduce-smax.ll index 1160fbb..c0705ab 100644 --- a/llvm/test/CodeGen/X86/vector-reduce-smax.ll +++ b/llvm/test/CodeGen/X86/vector-reduce-smax.ll @@ -1,6 +1,7 @@ ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2 -; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE42 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW @@ -50,6 +51,15 @@ define i64 @test_v2i64(<2 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v2i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1] +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX-LABEL: test_v2i64: ; AVX: # %bb.0: ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] @@ -143,6 +153,18 @@ define i64 @test_v4i64(<4 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v4i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm2 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1] +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v4i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1 @@ -309,6 +331,25 @@ define i64 @test_v8i64(<8 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v8i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm4 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm3 +; SSE42-NEXT: movdqa %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm2 +; SSE42-NEXT: movapd %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm3 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1] +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v8i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2 @@ -589,6 +630,37 @@ define i64 @test_v16i64(<16 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v16i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm8 +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm6, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm6 +; SSE42-NEXT: movdqa %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm8, %xmm4 +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm7, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm7 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm5, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm5 +; SSE42-NEXT: movapd %xmm5, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm7, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm5, %xmm7 +; SSE42-NEXT: movapd %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm6, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm6 +; SSE42-NEXT: movapd %xmm6, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm7, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm6, %xmm7 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1] +; SSE42-NEXT: movdqa %xmm7, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm7, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v16i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm11 @@ -679,12 +751,12 @@ define i32 @test_v2i32(<2 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i32: ; AVX: # %bb.0: @@ -721,14 +793,14 @@ define i32 @test_v4i32(<4 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pmaxsd %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pmaxsd %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i32: ; AVX: # %bb.0: @@ -774,15 +846,15 @@ define i32 @test_v8i32(<8 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsd %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pmaxsd %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsd %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pmaxsd %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v8i32: ; AVX1: # %bb.0: @@ -856,17 +928,17 @@ define i32 @test_v16i32(<16 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsd %xmm3, %xmm1 -; SSE41-NEXT: pmaxsd %xmm2, %xmm1 -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] -; SSE41-NEXT: pmaxsd %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsd %xmm3, %xmm1 +; SSE4-NEXT: pmaxsd %xmm2, %xmm1 +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] +; SSE4-NEXT: pmaxsd %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i32: ; AVX1: # %bb.0: @@ -966,21 +1038,21 @@ define i32 @test_v32i32(<32 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsd %xmm6, %xmm2 -; SSE41-NEXT: pmaxsd %xmm7, %xmm3 -; SSE41-NEXT: pmaxsd %xmm5, %xmm3 -; SSE41-NEXT: pmaxsd %xmm1, %xmm3 -; SSE41-NEXT: pmaxsd %xmm4, %xmm2 -; SSE41-NEXT: pmaxsd %xmm3, %xmm2 -; SSE41-NEXT: pmaxsd %xmm0, %xmm2 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] -; SSE41-NEXT: pmaxsd %xmm2, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsd %xmm6, %xmm2 +; SSE4-NEXT: pmaxsd %xmm7, %xmm3 +; SSE4-NEXT: pmaxsd %xmm5, %xmm3 +; SSE4-NEXT: pmaxsd %xmm1, %xmm3 +; SSE4-NEXT: pmaxsd %xmm4, %xmm2 +; SSE4-NEXT: pmaxsd %xmm3, %xmm2 +; SSE4-NEXT: pmaxsd %xmm0, %xmm2 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] +; SSE4-NEXT: pmaxsd %xmm2, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i32: ; AVX1: # %bb.0: @@ -1118,14 +1190,14 @@ define i16 @test_v8i16(<8 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32767, %eax # imm = 0x7FFF +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i16: ; AVX: # %bb.0: @@ -1163,15 +1235,15 @@ define i16 @test_v16i16(<16 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsw %xmm1, %xmm0 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsw %xmm1, %xmm0 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32767, %eax # imm = 0x7FFF +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i16: ; AVX1: # %bb.0: @@ -1229,17 +1301,17 @@ define i16 @test_v32i16(<32 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsw %xmm3, %xmm1 -; SSE41-NEXT: pmaxsw %xmm2, %xmm1 -; SSE41-NEXT: pmaxsw %xmm0, %xmm1 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsw %xmm3, %xmm1 +; SSE4-NEXT: pmaxsw %xmm2, %xmm1 +; SSE4-NEXT: pmaxsw %xmm0, %xmm1 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32767, %eax # imm = 0x7FFF +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i16: ; AVX1: # %bb.0: @@ -1307,21 +1379,21 @@ define i16 @test_v64i16(<64 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsw %xmm7, %xmm3 -; SSE41-NEXT: pmaxsw %xmm5, %xmm3 -; SSE41-NEXT: pmaxsw %xmm1, %xmm3 -; SSE41-NEXT: pmaxsw %xmm6, %xmm2 -; SSE41-NEXT: pmaxsw %xmm4, %xmm2 -; SSE41-NEXT: pmaxsw %xmm3, %xmm2 -; SSE41-NEXT: pmaxsw %xmm0, %xmm2 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm2 -; SSE41-NEXT: phminposuw %xmm2, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsw %xmm7, %xmm3 +; SSE4-NEXT: pmaxsw %xmm5, %xmm3 +; SSE4-NEXT: pmaxsw %xmm1, %xmm3 +; SSE4-NEXT: pmaxsw %xmm6, %xmm2 +; SSE4-NEXT: pmaxsw %xmm4, %xmm2 +; SSE4-NEXT: pmaxsw %xmm3, %xmm2 +; SSE4-NEXT: pmaxsw %xmm0, %xmm2 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm2 +; SSE4-NEXT: phminposuw %xmm2, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32767, %eax # imm = 0x7FFF +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i16: ; AVX1: # %bb.0: @@ -1395,14 +1467,14 @@ define i8 @test_v2i8(<2 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i8: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pmaxsb %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i8: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pmaxsb %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i8: ; AVX: # %bb.0: @@ -1444,17 +1516,17 @@ define i8 @test_v4i8(<4 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i8: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrld $16, %xmm1 -; SSE41-NEXT: pmaxsb %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pmaxsb %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i8: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrld $16, %xmm1 +; SSE4-NEXT: pmaxsb %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pmaxsb %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i8: ; AVX: # %bb.0: @@ -1506,19 +1578,19 @@ define i8 @test_v8i8(<8 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxsb %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrld $16, %xmm0 -; SSE41-NEXT: pmaxsb %xmm1, %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pmaxsb %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxsb %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrld $16, %xmm0 +; SSE4-NEXT: pmaxsb %xmm1, %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pmaxsb %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i8: ; AVX: # %bb.0: @@ -1580,17 +1652,17 @@ define i8 @test_v16i8(<16 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $127, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $127, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v16i8: ; AVX: # %bb.0: @@ -1655,18 +1727,18 @@ define i8 @test_v32i8(<32 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsb %xmm1, %xmm0 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $127, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsb %xmm1, %xmm0 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $127, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i8: ; AVX1: # %bb.0: @@ -1761,20 +1833,20 @@ define i8 @test_v64i8(<64 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsb %xmm3, %xmm1 -; SSE41-NEXT: pmaxsb %xmm2, %xmm1 -; SSE41-NEXT: pmaxsb %xmm0, %xmm1 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $127, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsb %xmm3, %xmm1 +; SSE4-NEXT: pmaxsb %xmm2, %xmm1 +; SSE4-NEXT: pmaxsb %xmm0, %xmm1 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $127, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i8: ; AVX1: # %bb.0: @@ -1895,24 +1967,24 @@ define i8 @test_v128i8(<128 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v128i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxsb %xmm7, %xmm3 -; SSE41-NEXT: pmaxsb %xmm5, %xmm3 -; SSE41-NEXT: pmaxsb %xmm1, %xmm3 -; SSE41-NEXT: pmaxsb %xmm6, %xmm2 -; SSE41-NEXT: pmaxsb %xmm4, %xmm2 -; SSE41-NEXT: pmaxsb %xmm3, %xmm2 -; SSE41-NEXT: pmaxsb %xmm0, %xmm2 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm2 -; SSE41-NEXT: movdqa %xmm2, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm2, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $127, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v128i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxsb %xmm7, %xmm3 +; SSE4-NEXT: pmaxsb %xmm5, %xmm3 +; SSE4-NEXT: pmaxsb %xmm1, %xmm3 +; SSE4-NEXT: pmaxsb %xmm6, %xmm2 +; SSE4-NEXT: pmaxsb %xmm4, %xmm2 +; SSE4-NEXT: pmaxsb %xmm3, %xmm2 +; SSE4-NEXT: pmaxsb %xmm0, %xmm2 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm2 +; SSE4-NEXT: movdqa %xmm2, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm2, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $127, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v128i8: ; AVX1: # %bb.0: diff --git a/llvm/test/CodeGen/X86/vector-reduce-smin.ll b/llvm/test/CodeGen/X86/vector-reduce-smin.ll index edd6b7f..47a6ac4 100644 --- a/llvm/test/CodeGen/X86/vector-reduce-smin.ll +++ b/llvm/test/CodeGen/X86/vector-reduce-smin.ll @@ -1,6 +1,7 @@ ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2 -; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE42 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW @@ -49,6 +50,16 @@ define i64 @test_v2i64(<2 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v2i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1] +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX-LABEL: test_v2i64: ; AVX: # %bb.0: ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] @@ -141,6 +152,19 @@ define i64 @test_v4i64(<4 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v4i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm2 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1] +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v4i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1 @@ -307,6 +331,25 @@ define i64 @test_v8i64(<8 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v8i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm4 +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm2 +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm3 +; SSE42-NEXT: movapd %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm3 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1] +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v8i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2 @@ -587,6 +630,37 @@ define i64 @test_v16i64(<16 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v16i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm8 +; SSE42-NEXT: movdqa %xmm5, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm5 +; SSE42-NEXT: movdqa %xmm7, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm7 +; SSE42-NEXT: movdqa %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm8, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm8, %xmm4 +; SSE42-NEXT: movdqa %xmm6, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm6 +; SSE42-NEXT: movapd %xmm6, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm6 +; SSE42-NEXT: movapd %xmm7, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm5, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm5, %xmm7 +; SSE42-NEXT: movapd %xmm7, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm6, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm6, %xmm7 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1] +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm7, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm7, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v16i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm11 @@ -677,12 +751,12 @@ define i32 @test_v2i32(<2 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i32: ; AVX: # %bb.0: @@ -719,14 +793,14 @@ define i32 @test_v4i32(<4 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pminsd %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pminsd %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i32: ; AVX: # %bb.0: @@ -772,15 +846,15 @@ define i32 @test_v8i32(<8 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsd %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pminsd %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsd %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pminsd %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v8i32: ; AVX1: # %bb.0: @@ -854,17 +928,17 @@ define i32 @test_v16i32(<16 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsd %xmm3, %xmm1 -; SSE41-NEXT: pminsd %xmm2, %xmm1 -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] -; SSE41-NEXT: pminsd %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsd %xmm3, %xmm1 +; SSE4-NEXT: pminsd %xmm2, %xmm1 +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] +; SSE4-NEXT: pminsd %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i32: ; AVX1: # %bb.0: @@ -964,21 +1038,21 @@ define i32 @test_v32i32(<32 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsd %xmm6, %xmm2 -; SSE41-NEXT: pminsd %xmm7, %xmm3 -; SSE41-NEXT: pminsd %xmm5, %xmm3 -; SSE41-NEXT: pminsd %xmm1, %xmm3 -; SSE41-NEXT: pminsd %xmm4, %xmm2 -; SSE41-NEXT: pminsd %xmm3, %xmm2 -; SSE41-NEXT: pminsd %xmm0, %xmm2 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] -; SSE41-NEXT: pminsd %xmm2, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminsd %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsd %xmm6, %xmm2 +; SSE4-NEXT: pminsd %xmm7, %xmm3 +; SSE4-NEXT: pminsd %xmm5, %xmm3 +; SSE4-NEXT: pminsd %xmm1, %xmm3 +; SSE4-NEXT: pminsd %xmm4, %xmm2 +; SSE4-NEXT: pminsd %xmm3, %xmm2 +; SSE4-NEXT: pminsd %xmm0, %xmm2 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] +; SSE4-NEXT: pminsd %xmm2, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminsd %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i32: ; AVX1: # %bb.0: @@ -1116,14 +1190,14 @@ define i16 @test_v8i16(<8 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32768, %eax # imm = 0x8000 -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32768, %eax # imm = 0x8000 +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i16: ; AVX: # %bb.0: @@ -1161,15 +1235,15 @@ define i16 @test_v16i16(<16 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsw %xmm1, %xmm0 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32768, %eax # imm = 0x8000 -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsw %xmm1, %xmm0 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32768, %eax # imm = 0x8000 +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i16: ; AVX1: # %bb.0: @@ -1227,17 +1301,17 @@ define i16 @test_v32i16(<32 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsw %xmm3, %xmm1 -; SSE41-NEXT: pminsw %xmm2, %xmm1 -; SSE41-NEXT: pminsw %xmm0, %xmm1 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32768, %eax # imm = 0x8000 -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsw %xmm3, %xmm1 +; SSE4-NEXT: pminsw %xmm2, %xmm1 +; SSE4-NEXT: pminsw %xmm0, %xmm1 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32768, %eax # imm = 0x8000 +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i16: ; AVX1: # %bb.0: @@ -1305,21 +1379,21 @@ define i16 @test_v64i16(<64 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsw %xmm7, %xmm3 -; SSE41-NEXT: pminsw %xmm5, %xmm3 -; SSE41-NEXT: pminsw %xmm1, %xmm3 -; SSE41-NEXT: pminsw %xmm6, %xmm2 -; SSE41-NEXT: pminsw %xmm4, %xmm2 -; SSE41-NEXT: pminsw %xmm3, %xmm2 -; SSE41-NEXT: pminsw %xmm0, %xmm2 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm2 -; SSE41-NEXT: phminposuw %xmm2, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorl $32768, %eax # imm = 0x8000 -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsw %xmm7, %xmm3 +; SSE4-NEXT: pminsw %xmm5, %xmm3 +; SSE4-NEXT: pminsw %xmm1, %xmm3 +; SSE4-NEXT: pminsw %xmm6, %xmm2 +; SSE4-NEXT: pminsw %xmm4, %xmm2 +; SSE4-NEXT: pminsw %xmm3, %xmm2 +; SSE4-NEXT: pminsw %xmm0, %xmm2 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm2 +; SSE4-NEXT: phminposuw %xmm2, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorl $32768, %eax # imm = 0x8000 +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i16: ; AVX1: # %bb.0: @@ -1393,14 +1467,14 @@ define i8 @test_v2i8(<2 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i8: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminsb %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i8: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminsb %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i8: ; AVX: # %bb.0: @@ -1442,17 +1516,17 @@ define i8 @test_v4i8(<4 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i8: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrld $16, %xmm1 -; SSE41-NEXT: pminsb %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminsb %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i8: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrld $16, %xmm1 +; SSE4-NEXT: pminsb %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminsb %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i8: ; AVX: # %bb.0: @@ -1504,19 +1578,19 @@ define i8 @test_v8i8(<8 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminsb %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrld $16, %xmm0 -; SSE41-NEXT: pminsb %xmm1, %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminsb %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminsb %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrld $16, %xmm0 +; SSE4-NEXT: pminsb %xmm1, %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminsb %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i8: ; AVX: # %bb.0: @@ -1578,17 +1652,17 @@ define i8 @test_v16i8(<16 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $-128, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $-128, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v16i8: ; AVX: # %bb.0: @@ -1653,18 +1727,18 @@ define i8 @test_v32i8(<32 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsb %xmm1, %xmm0 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $-128, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsb %xmm1, %xmm0 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $-128, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i8: ; AVX1: # %bb.0: @@ -1759,20 +1833,20 @@ define i8 @test_v64i8(<64 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsb %xmm3, %xmm1 -; SSE41-NEXT: pminsb %xmm2, %xmm1 -; SSE41-NEXT: pminsb %xmm0, %xmm1 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $-128, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsb %xmm3, %xmm1 +; SSE4-NEXT: pminsb %xmm2, %xmm1 +; SSE4-NEXT: pminsb %xmm0, %xmm1 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $-128, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i8: ; AVX1: # %bb.0: @@ -1893,24 +1967,24 @@ define i8 @test_v128i8(<128 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v128i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminsb %xmm7, %xmm3 -; SSE41-NEXT: pminsb %xmm5, %xmm3 -; SSE41-NEXT: pminsb %xmm1, %xmm3 -; SSE41-NEXT: pminsb %xmm6, %xmm2 -; SSE41-NEXT: pminsb %xmm4, %xmm2 -; SSE41-NEXT: pminsb %xmm3, %xmm2 -; SSE41-NEXT: pminsb %xmm0, %xmm2 -; SSE41-NEXT: pxor {{.*}}(%rip), %xmm2 -; SSE41-NEXT: movdqa %xmm2, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm2, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: xorb $-128, %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v128i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminsb %xmm7, %xmm3 +; SSE4-NEXT: pminsb %xmm5, %xmm3 +; SSE4-NEXT: pminsb %xmm1, %xmm3 +; SSE4-NEXT: pminsb %xmm6, %xmm2 +; SSE4-NEXT: pminsb %xmm4, %xmm2 +; SSE4-NEXT: pminsb %xmm3, %xmm2 +; SSE4-NEXT: pminsb %xmm0, %xmm2 +; SSE4-NEXT: pxor {{.*}}(%rip), %xmm2 +; SSE4-NEXT: movdqa %xmm2, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm2, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: xorb $-128, %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v128i8: ; AVX1: # %bb.0: diff --git a/llvm/test/CodeGen/X86/vector-reduce-umax.ll b/llvm/test/CodeGen/X86/vector-reduce-umax.ll index 59bcf2d..75e8133 100644 --- a/llvm/test/CodeGen/X86/vector-reduce-umax.ll +++ b/llvm/test/CodeGen/X86/vector-reduce-umax.ll @@ -1,6 +1,7 @@ ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2 -; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE42 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW @@ -50,6 +51,18 @@ define i64 @test_v2i64(<2 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v2i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1] +; SSE42-NEXT: movdqa {{.*#+}} xmm3 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: pxor %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm2, %xmm3 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX-LABEL: test_v2i64: ; AVX: # %bb.0: ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] @@ -146,6 +159,24 @@ define i64 @test_v4i64(<4 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v4i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm2 +; SSE42-NEXT: movdqa {{.*#+}} xmm3 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm1, %xmm4 +; SSE42-NEXT: pxor %xmm3, %xmm4 +; SSE42-NEXT: pxor %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1] +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pxor %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm2, %xmm3 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v4i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1 @@ -322,6 +353,36 @@ define i64 @test_v8i64(<8 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v8i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm4 +; SSE42-NEXT: movdqa {{.*#+}} xmm5 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm2, %xmm6 +; SSE42-NEXT: pxor %xmm5, %xmm6 +; SSE42-NEXT: pxor %xmm5, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm6, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm2 +; SSE42-NEXT: movdqa %xmm3, %xmm4 +; SSE42-NEXT: pxor %xmm5, %xmm4 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pxor %xmm5, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm3 +; SSE42-NEXT: movapd %xmm3, %xmm1 +; SSE42-NEXT: xorpd %xmm5, %xmm1 +; SSE42-NEXT: movapd %xmm2, %xmm0 +; SSE42-NEXT: xorpd %xmm5, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm3 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1] +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm5, %xmm0 +; SSE42-NEXT: pxor %xmm1, %xmm5 +; SSE42-NEXT: pcmpgtq %xmm5, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v8i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vmovdqa {{.*#+}} xmm2 = [9223372036854775808,9223372036854775808] @@ -618,6 +679,61 @@ define i64 @test_v16i64(<16 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v16i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm8 +; SSE42-NEXT: movdqa {{.*#+}} xmm9 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm5, %xmm10 +; SSE42-NEXT: pxor %xmm9, %xmm10 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pxor %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm10, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm5 +; SSE42-NEXT: movdqa %xmm7, %xmm1 +; SSE42-NEXT: pxor %xmm9, %xmm1 +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm7 +; SSE42-NEXT: movdqa %xmm4, %xmm1 +; SSE42-NEXT: pxor %xmm9, %xmm1 +; SSE42-NEXT: movdqa %xmm8, %xmm0 +; SSE42-NEXT: pxor %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm8, %xmm4 +; SSE42-NEXT: movdqa %xmm6, %xmm1 +; SSE42-NEXT: pxor %xmm9, %xmm1 +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pxor %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm6 +; SSE42-NEXT: movapd %xmm6, %xmm1 +; SSE42-NEXT: xorpd %xmm9, %xmm1 +; SSE42-NEXT: movapd %xmm4, %xmm0 +; SSE42-NEXT: xorpd %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm6 +; SSE42-NEXT: movapd %xmm7, %xmm1 +; SSE42-NEXT: xorpd %xmm9, %xmm1 +; SSE42-NEXT: movapd %xmm5, %xmm0 +; SSE42-NEXT: xorpd %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm5, %xmm7 +; SSE42-NEXT: movapd %xmm7, %xmm1 +; SSE42-NEXT: xorpd %xmm9, %xmm1 +; SSE42-NEXT: movapd %xmm6, %xmm0 +; SSE42-NEXT: xorpd %xmm9, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm6, %xmm7 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1] +; SSE42-NEXT: movdqa %xmm7, %xmm0 +; SSE42-NEXT: pxor %xmm9, %xmm0 +; SSE42-NEXT: pxor %xmm1, %xmm9 +; SSE42-NEXT: pcmpgtq %xmm9, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm7, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v16i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm8 @@ -739,12 +855,12 @@ define i32 @test_v2i32(<2 x i32> %a0) { ; SSE2-NEXT: movd %xmm3, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i32: ; AVX: # %bb.0: @@ -787,14 +903,14 @@ define i32 @test_v4i32(<4 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pmaxud %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pmaxud %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i32: ; AVX: # %bb.0: @@ -849,15 +965,15 @@ define i32 @test_v8i32(<8 x i32> %a0) { ; SSE2-NEXT: movd %xmm3, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxud %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pmaxud %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxud %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pmaxud %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v8i32: ; AVX1: # %bb.0: @@ -946,17 +1062,17 @@ define i32 @test_v16i32(<16 x i32> %a0) { ; SSE2-NEXT: movd %xmm1, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxud %xmm3, %xmm1 -; SSE41-NEXT: pmaxud %xmm2, %xmm1 -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] -; SSE41-NEXT: pmaxud %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxud %xmm3, %xmm1 +; SSE4-NEXT: pmaxud %xmm2, %xmm1 +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] +; SSE4-NEXT: pmaxud %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i32: ; AVX1: # %bb.0: @@ -1083,21 +1199,21 @@ define i32 @test_v32i32(<32 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxud %xmm6, %xmm2 -; SSE41-NEXT: pmaxud %xmm7, %xmm3 -; SSE41-NEXT: pmaxud %xmm5, %xmm3 -; SSE41-NEXT: pmaxud %xmm1, %xmm3 -; SSE41-NEXT: pmaxud %xmm4, %xmm2 -; SSE41-NEXT: pmaxud %xmm3, %xmm2 -; SSE41-NEXT: pmaxud %xmm0, %xmm2 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] -; SSE41-NEXT: pmaxud %xmm2, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxud %xmm6, %xmm2 +; SSE4-NEXT: pmaxud %xmm7, %xmm3 +; SSE4-NEXT: pmaxud %xmm5, %xmm3 +; SSE4-NEXT: pmaxud %xmm1, %xmm3 +; SSE4-NEXT: pmaxud %xmm4, %xmm2 +; SSE4-NEXT: pmaxud %xmm3, %xmm2 +; SSE4-NEXT: pmaxud %xmm0, %xmm2 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] +; SSE4-NEXT: pmaxud %xmm2, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i32: ; AVX1: # %bb.0: @@ -1171,14 +1287,14 @@ define i16 @test_v2i16(<2 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i16: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrld $16, %xmm1 -; SSE41-NEXT: pmaxuw %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i16: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrld $16, %xmm1 +; SSE4-NEXT: pmaxuw %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i16: ; AVX: # %bb.0: @@ -1215,16 +1331,16 @@ define i16 @test_v4i16(<4 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pmaxuw %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrld $16, %xmm0 -; SSE41-NEXT: pmaxuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pmaxuw %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrld $16, %xmm0 +; SSE4-NEXT: pmaxuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i16: ; AVX: # %bb.0: @@ -1267,15 +1383,15 @@ define i16 @test_v8i16(<8 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pcmpeqd %xmm1, %xmm1 -; SSE41-NEXT: pxor %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notl %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pcmpeqd %xmm1, %xmm1 +; SSE4-NEXT: pxor %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notl %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i16: ; AVX: # %bb.0: @@ -1329,16 +1445,16 @@ define i16 @test_v16i16(<16 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxuw %xmm1, %xmm0 -; SSE41-NEXT: pcmpeqd %xmm1, %xmm1 -; SSE41-NEXT: pxor %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notl %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxuw %xmm1, %xmm0 +; SSE4-NEXT: pcmpeqd %xmm1, %xmm1 +; SSE4-NEXT: pxor %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notl %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i16: ; AVX1: # %bb.0: @@ -1416,18 +1532,18 @@ define i16 @test_v32i16(<32 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxuw %xmm3, %xmm1 -; SSE41-NEXT: pmaxuw %xmm2, %xmm1 -; SSE41-NEXT: pmaxuw %xmm0, %xmm1 -; SSE41-NEXT: pcmpeqd %xmm0, %xmm0 -; SSE41-NEXT: pxor %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notl %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxuw %xmm3, %xmm1 +; SSE4-NEXT: pmaxuw %xmm2, %xmm1 +; SSE4-NEXT: pmaxuw %xmm0, %xmm1 +; SSE4-NEXT: pcmpeqd %xmm0, %xmm0 +; SSE4-NEXT: pxor %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notl %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i16: ; AVX1: # %bb.0: @@ -1521,22 +1637,22 @@ define i16 @test_v64i16(<64 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxuw %xmm7, %xmm3 -; SSE41-NEXT: pmaxuw %xmm5, %xmm3 -; SSE41-NEXT: pmaxuw %xmm1, %xmm3 -; SSE41-NEXT: pmaxuw %xmm6, %xmm2 -; SSE41-NEXT: pmaxuw %xmm4, %xmm2 -; SSE41-NEXT: pmaxuw %xmm3, %xmm2 -; SSE41-NEXT: pmaxuw %xmm0, %xmm2 -; SSE41-NEXT: pcmpeqd %xmm0, %xmm0 -; SSE41-NEXT: pxor %xmm2, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notl %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxuw %xmm7, %xmm3 +; SSE4-NEXT: pmaxuw %xmm5, %xmm3 +; SSE4-NEXT: pmaxuw %xmm1, %xmm3 +; SSE4-NEXT: pmaxuw %xmm6, %xmm2 +; SSE4-NEXT: pmaxuw %xmm4, %xmm2 +; SSE4-NEXT: pmaxuw %xmm3, %xmm2 +; SSE4-NEXT: pmaxuw %xmm0, %xmm2 +; SSE4-NEXT: pcmpeqd %xmm0, %xmm0 +; SSE4-NEXT: pxor %xmm2, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notl %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i16: ; AVX1: # %bb.0: @@ -1737,18 +1853,18 @@ define i8 @test_v16i8(<16 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pcmpeqd %xmm1, %xmm1 -; SSE41-NEXT: pxor %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notb %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pcmpeqd %xmm1, %xmm1 +; SSE4-NEXT: pxor %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notb %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v16i8: ; AVX: # %bb.0: @@ -1807,19 +1923,19 @@ define i8 @test_v32i8(<32 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxub %xmm1, %xmm0 -; SSE41-NEXT: pcmpeqd %xmm1, %xmm1 -; SSE41-NEXT: pxor %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notb %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxub %xmm1, %xmm0 +; SSE4-NEXT: pcmpeqd %xmm1, %xmm1 +; SSE4-NEXT: pxor %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notb %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i8: ; AVX1: # %bb.0: @@ -1902,21 +2018,21 @@ define i8 @test_v64i8(<64 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxub %xmm3, %xmm1 -; SSE41-NEXT: pmaxub %xmm2, %xmm1 -; SSE41-NEXT: pmaxub %xmm0, %xmm1 -; SSE41-NEXT: pcmpeqd %xmm0, %xmm0 -; SSE41-NEXT: pxor %xmm1, %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notb %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxub %xmm3, %xmm1 +; SSE4-NEXT: pmaxub %xmm2, %xmm1 +; SSE4-NEXT: pmaxub %xmm0, %xmm1 +; SSE4-NEXT: pcmpeqd %xmm0, %xmm0 +; SSE4-NEXT: pxor %xmm1, %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notb %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i8: ; AVX1: # %bb.0: @@ -2011,25 +2127,25 @@ define i8 @test_v128i8(<128 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v128i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pmaxub %xmm7, %xmm3 -; SSE41-NEXT: pmaxub %xmm5, %xmm3 -; SSE41-NEXT: pmaxub %xmm1, %xmm3 -; SSE41-NEXT: pmaxub %xmm6, %xmm2 -; SSE41-NEXT: pmaxub %xmm4, %xmm2 -; SSE41-NEXT: pmaxub %xmm3, %xmm2 -; SSE41-NEXT: pmaxub %xmm0, %xmm2 -; SSE41-NEXT: pcmpeqd %xmm0, %xmm0 -; SSE41-NEXT: pxor %xmm2, %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: notb %al -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v128i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pmaxub %xmm7, %xmm3 +; SSE4-NEXT: pmaxub %xmm5, %xmm3 +; SSE4-NEXT: pmaxub %xmm1, %xmm3 +; SSE4-NEXT: pmaxub %xmm6, %xmm2 +; SSE4-NEXT: pmaxub %xmm4, %xmm2 +; SSE4-NEXT: pmaxub %xmm3, %xmm2 +; SSE4-NEXT: pmaxub %xmm0, %xmm2 +; SSE4-NEXT: pcmpeqd %xmm0, %xmm0 +; SSE4-NEXT: pxor %xmm2, %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: notb %al +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v128i8: ; AVX1: # %bb.0: diff --git a/llvm/test/CodeGen/X86/vector-reduce-umin.ll b/llvm/test/CodeGen/X86/vector-reduce-umin.ll index 25e3938..8f6a726 100644 --- a/llvm/test/CodeGen/X86/vector-reduce-umin.ll +++ b/llvm/test/CodeGen/X86/vector-reduce-umin.ll @@ -1,6 +1,7 @@ ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2 -; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE41 +; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE4 --check-prefix=SSE42 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW @@ -49,6 +50,19 @@ define i64 @test_v2i64(<2 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v2i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1] +; SSE42-NEXT: movdqa {{.*#+}} xmm0 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm1, %xmm3 +; SSE42-NEXT: pxor %xmm0, %xmm3 +; SSE42-NEXT: pxor %xmm2, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX-LABEL: test_v2i64: ; AVX: # %bb.0: ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] @@ -144,6 +158,26 @@ define i64 @test_v4i64(<4 x i64> %a0) { ; SSE41-NEXT: movq %xmm2, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v4i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm2 +; SSE42-NEXT: movdqa {{.*#+}} xmm3 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm0, %xmm4 +; SSE42-NEXT: pxor %xmm3, %xmm4 +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pxor %xmm3, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm1 +; SSE42-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1] +; SSE42-NEXT: movdqa %xmm1, %xmm0 +; SSE42-NEXT: pxor %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm2, %xmm3 +; SSE42-NEXT: pcmpgtq %xmm0, %xmm3 +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm2 +; SSE42-NEXT: movq %xmm2, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v4i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vmovdqa {{.*#+}} xmm1 = [9223372036854775808,9223372036854775808] @@ -320,6 +354,38 @@ define i64 @test_v8i64(<8 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v8i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm5 +; SSE42-NEXT: movdqa {{.*#+}} xmm4 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm1, %xmm6 +; SSE42-NEXT: pxor %xmm4, %xmm6 +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm6, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm3 +; SSE42-NEXT: movdqa %xmm5, %xmm1 +; SSE42-NEXT: pxor %xmm4, %xmm1 +; SSE42-NEXT: movdqa %xmm2, %xmm0 +; SSE42-NEXT: pxor %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm5, %xmm2 +; SSE42-NEXT: movapd %xmm2, %xmm1 +; SSE42-NEXT: xorpd %xmm4, %xmm1 +; SSE42-NEXT: movapd %xmm3, %xmm0 +; SSE42-NEXT: xorpd %xmm4, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm3 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1] +; SSE42-NEXT: movdqa %xmm3, %xmm0 +; SSE42-NEXT: pxor %xmm4, %xmm0 +; SSE42-NEXT: pxor %xmm1, %xmm4 +; SSE42-NEXT: pcmpgtq %xmm0, %xmm4 +; SSE42-NEXT: movdqa %xmm4, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v8i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm2 @@ -616,6 +682,62 @@ define i64 @test_v16i64(<16 x i64> %a0) { ; SSE41-NEXT: movq %xmm1, %rax ; SSE41-NEXT: retq ; +; SSE42-LABEL: test_v16i64: +; SSE42: # %bb.0: +; SSE42-NEXT: movdqa %xmm0, %xmm9 +; SSE42-NEXT: movdqa {{.*#+}} xmm8 = [9223372036854775808,9223372036854775808] +; SSE42-NEXT: movdqa %xmm2, %xmm10 +; SSE42-NEXT: pxor %xmm8, %xmm10 +; SSE42-NEXT: movdqa %xmm6, %xmm0 +; SSE42-NEXT: pxor %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm10, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm2, %xmm6 +; SSE42-NEXT: movdqa %xmm9, %xmm2 +; SSE42-NEXT: pxor %xmm8, %xmm2 +; SSE42-NEXT: movdqa %xmm4, %xmm0 +; SSE42-NEXT: pxor %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm9, %xmm4 +; SSE42-NEXT: movdqa %xmm3, %xmm2 +; SSE42-NEXT: pxor %xmm8, %xmm2 +; SSE42-NEXT: movdqa %xmm7, %xmm0 +; SSE42-NEXT: pxor %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm3, %xmm7 +; SSE42-NEXT: movdqa %xmm1, %xmm2 +; SSE42-NEXT: pxor %xmm8, %xmm2 +; SSE42-NEXT: movdqa %xmm5, %xmm0 +; SSE42-NEXT: pxor %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm2, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm1, %xmm5 +; SSE42-NEXT: movapd %xmm5, %xmm1 +; SSE42-NEXT: xorpd %xmm8, %xmm1 +; SSE42-NEXT: movapd %xmm7, %xmm0 +; SSE42-NEXT: xorpd %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm5, %xmm7 +; SSE42-NEXT: movapd %xmm4, %xmm1 +; SSE42-NEXT: xorpd %xmm8, %xmm1 +; SSE42-NEXT: movapd %xmm6, %xmm0 +; SSE42-NEXT: xorpd %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm4, %xmm6 +; SSE42-NEXT: movapd %xmm6, %xmm1 +; SSE42-NEXT: xorpd %xmm8, %xmm1 +; SSE42-NEXT: movapd %xmm7, %xmm0 +; SSE42-NEXT: xorpd %xmm8, %xmm0 +; SSE42-NEXT: pcmpgtq %xmm1, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm6, %xmm7 +; SSE42-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1] +; SSE42-NEXT: movdqa %xmm7, %xmm0 +; SSE42-NEXT: pxor %xmm8, %xmm0 +; SSE42-NEXT: pxor %xmm1, %xmm8 +; SSE42-NEXT: pcmpgtq %xmm0, %xmm8 +; SSE42-NEXT: movdqa %xmm8, %xmm0 +; SSE42-NEXT: blendvpd %xmm0, %xmm7, %xmm1 +; SSE42-NEXT: movq %xmm1, %rax +; SSE42-NEXT: retq +; ; AVX1-LABEL: test_v16i64: ; AVX1: # %bb.0: ; AVX1-NEXT: vmovdqa {{.*#+}} xmm4 = [9223372036854775808,9223372036854775808] @@ -737,12 +859,12 @@ define i32 @test_v2i32(<2 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i32: ; AVX: # %bb.0: @@ -785,14 +907,14 @@ define i32 @test_v4i32(<4 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pminud %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pminud %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i32: ; AVX: # %bb.0: @@ -847,15 +969,15 @@ define i32 @test_v8i32(<8 x i32> %a0) { ; SSE2-NEXT: movd %xmm2, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminud %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] -; SSE41-NEXT: pminud %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminud %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1] +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3] +; SSE4-NEXT: pminud %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v8i32: ; AVX1: # %bb.0: @@ -944,17 +1066,17 @@ define i32 @test_v16i32(<16 x i32> %a0) { ; SSE2-NEXT: movd %xmm4, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminud %xmm3, %xmm1 -; SSE41-NEXT: pminud %xmm2, %xmm1 -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] -; SSE41-NEXT: pminud %xmm1, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminud %xmm3, %xmm1 +; SSE4-NEXT: pminud %xmm2, %xmm1 +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1] +; SSE4-NEXT: pminud %xmm1, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i32: ; AVX1: # %bb.0: @@ -1081,21 +1203,21 @@ define i32 @test_v32i32(<32 x i32> %a0) { ; SSE2-NEXT: movd %xmm8, %eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i32: -; SSE41: # %bb.0: -; SSE41-NEXT: pminud %xmm6, %xmm2 -; SSE41-NEXT: pminud %xmm7, %xmm3 -; SSE41-NEXT: pminud %xmm5, %xmm3 -; SSE41-NEXT: pminud %xmm1, %xmm3 -; SSE41-NEXT: pminud %xmm4, %xmm2 -; SSE41-NEXT: pminud %xmm3, %xmm2 -; SSE41-NEXT: pminud %xmm0, %xmm2 -; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] -; SSE41-NEXT: pminud %xmm2, %xmm0 -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminud %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i32: +; SSE4: # %bb.0: +; SSE4-NEXT: pminud %xmm6, %xmm2 +; SSE4-NEXT: pminud %xmm7, %xmm3 +; SSE4-NEXT: pminud %xmm5, %xmm3 +; SSE4-NEXT: pminud %xmm1, %xmm3 +; SSE4-NEXT: pminud %xmm4, %xmm2 +; SSE4-NEXT: pminud %xmm3, %xmm2 +; SSE4-NEXT: pminud %xmm0, %xmm2 +; SSE4-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1] +; SSE4-NEXT: pminud %xmm2, %xmm0 +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminud %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i32: ; AVX1: # %bb.0: @@ -1169,14 +1291,14 @@ define i16 @test_v2i16(<2 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v2i16: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrld $16, %xmm1 -; SSE41-NEXT: pminuw %xmm0, %xmm1 -; SSE41-NEXT: movd %xmm1, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v2i16: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrld $16, %xmm1 +; SSE4-NEXT: pminuw %xmm0, %xmm1 +; SSE4-NEXT: movd %xmm1, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v2i16: ; AVX: # %bb.0: @@ -1213,16 +1335,16 @@ define i16 @test_v4i16(<4 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v4i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] -; SSE41-NEXT: pminuw %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrld $16, %xmm0 -; SSE41-NEXT: pminuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v4i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3] +; SSE4-NEXT: pminuw %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrld $16, %xmm0 +; SSE4-NEXT: pminuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v4i16: ; AVX: # %bb.0: @@ -1265,12 +1387,12 @@ define i16 @test_v8i16(<8 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v8i16: -; SSE41: # %bb.0: -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v8i16: +; SSE4: # %bb.0: +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v8i16: ; AVX: # %bb.0: @@ -1308,13 +1430,13 @@ define i16 @test_v16i16(<16 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminuw %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminuw %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v16i16: ; AVX1: # %bb.0: @@ -1372,15 +1494,15 @@ define i16 @test_v32i16(<32 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminuw %xmm3, %xmm1 -; SSE41-NEXT: pminuw %xmm2, %xmm1 -; SSE41-NEXT: pminuw %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminuw %xmm3, %xmm1 +; SSE4-NEXT: pminuw %xmm2, %xmm1 +; SSE4-NEXT: pminuw %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i16: ; AVX1: # %bb.0: @@ -1452,19 +1574,19 @@ define i16 @test_v64i16(<64 x i16> %a0) { ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i16: -; SSE41: # %bb.0: -; SSE41-NEXT: pminuw %xmm7, %xmm3 -; SSE41-NEXT: pminuw %xmm5, %xmm3 -; SSE41-NEXT: pminuw %xmm1, %xmm3 -; SSE41-NEXT: pminuw %xmm6, %xmm2 -; SSE41-NEXT: pminuw %xmm4, %xmm2 -; SSE41-NEXT: pminuw %xmm3, %xmm2 -; SSE41-NEXT: pminuw %xmm0, %xmm2 -; SSE41-NEXT: phminposuw %xmm2, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $ax killed $ax killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i16: +; SSE4: # %bb.0: +; SSE4-NEXT: pminuw %xmm7, %xmm3 +; SSE4-NEXT: pminuw %xmm5, %xmm3 +; SSE4-NEXT: pminuw %xmm1, %xmm3 +; SSE4-NEXT: pminuw %xmm6, %xmm2 +; SSE4-NEXT: pminuw %xmm4, %xmm2 +; SSE4-NEXT: pminuw %xmm3, %xmm2 +; SSE4-NEXT: pminuw %xmm0, %xmm2 +; SSE4-NEXT: phminposuw %xmm2, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $ax killed $ax killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i16: ; AVX1: # %bb.0: @@ -1642,15 +1764,15 @@ define i8 @test_v16i8(<16 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v16i8: -; SSE41: # %bb.0: -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v16i8: +; SSE4: # %bb.0: +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX-LABEL: test_v16i8: ; AVX: # %bb.0: @@ -1691,16 +1813,16 @@ define i8 @test_v32i8(<32 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v32i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: movdqa %xmm0, %xmm1 -; SSE41-NEXT: psrlw $8, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: phminposuw %xmm1, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v32i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: movdqa %xmm0, %xmm1 +; SSE4-NEXT: psrlw $8, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: phminposuw %xmm1, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v32i8: ; AVX1: # %bb.0: @@ -1761,18 +1883,18 @@ define i8 @test_v64i8(<64 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v64i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminub %xmm3, %xmm1 -; SSE41-NEXT: pminub %xmm2, %xmm1 -; SSE41-NEXT: pminub %xmm0, %xmm1 -; SSE41-NEXT: movdqa %xmm1, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm1, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v64i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminub %xmm3, %xmm1 +; SSE4-NEXT: pminub %xmm2, %xmm1 +; SSE4-NEXT: pminub %xmm0, %xmm1 +; SSE4-NEXT: movdqa %xmm1, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm1, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v64i8: ; AVX1: # %bb.0: @@ -1843,22 +1965,22 @@ define i8 @test_v128i8(<128 x i8> %a0) { ; SSE2-NEXT: # kill: def $al killed $al killed $eax ; SSE2-NEXT: retq ; -; SSE41-LABEL: test_v128i8: -; SSE41: # %bb.0: -; SSE41-NEXT: pminub %xmm7, %xmm3 -; SSE41-NEXT: pminub %xmm5, %xmm3 -; SSE41-NEXT: pminub %xmm1, %xmm3 -; SSE41-NEXT: pminub %xmm6, %xmm2 -; SSE41-NEXT: pminub %xmm4, %xmm2 -; SSE41-NEXT: pminub %xmm3, %xmm2 -; SSE41-NEXT: pminub %xmm0, %xmm2 -; SSE41-NEXT: movdqa %xmm2, %xmm0 -; SSE41-NEXT: psrlw $8, %xmm0 -; SSE41-NEXT: pminub %xmm2, %xmm0 -; SSE41-NEXT: phminposuw %xmm0, %xmm0 -; SSE41-NEXT: movd %xmm0, %eax -; SSE41-NEXT: # kill: def $al killed $al killed $eax -; SSE41-NEXT: retq +; SSE4-LABEL: test_v128i8: +; SSE4: # %bb.0: +; SSE4-NEXT: pminub %xmm7, %xmm3 +; SSE4-NEXT: pminub %xmm5, %xmm3 +; SSE4-NEXT: pminub %xmm1, %xmm3 +; SSE4-NEXT: pminub %xmm6, %xmm2 +; SSE4-NEXT: pminub %xmm4, %xmm2 +; SSE4-NEXT: pminub %xmm3, %xmm2 +; SSE4-NEXT: pminub %xmm0, %xmm2 +; SSE4-NEXT: movdqa %xmm2, %xmm0 +; SSE4-NEXT: psrlw $8, %xmm0 +; SSE4-NEXT: pminub %xmm2, %xmm0 +; SSE4-NEXT: phminposuw %xmm0, %xmm0 +; SSE4-NEXT: movd %xmm0, %eax +; SSE4-NEXT: # kill: def $al killed $al killed $eax +; SSE4-NEXT: retq ; ; AVX1-LABEL: test_v128i8: ; AVX1: # %bb.0: -- 2.7.4