Stricter codomain for atan tests
authorGraeme Leese <gleese@broadcom.com>
Thu, 16 Jan 2020 14:23:22 +0000 (14:23 +0000)
committerAlexander Galazin <Alexander.Galazin@arm.com>
Mon, 24 Feb 2020 10:00:29 +0000 (05:00 -0500)
commit1d0d66b4073ab2848c4692cac3c52e79375ed6c2
tree88db179b0aba563c6754e81d54faf779c1873bbb
parent8e912bc830c0ad3b349d3fa0b734b7c8c420376d
Stricter codomain for atan tests

If the codomain is going to be enforced strictly then we should update
the precision tests to check it. The atan precision test looks to have
had an issue applying the codomain incorrectly which meant that large
values of the arguments were not tested at all.

Components: Vulkan
VK-GL-CTS issue: 479
Affects: dEQP-VK.glsl.builtin.precision*atan.*

Change-Id: I842adb035cb59fe8ff1423f11acdad0a90ee1549
external/vulkancts/modules/vulkan/shaderexecutor/vktShaderBuiltinPrecisionTests.cpp