Use float16 precision for testing mediump
authorGraeme Leese <gleese@broadcom.com>
Fri, 14 Jun 2019 17:01:34 +0000 (18:01 +0100)
committerAlexander Galazin <Alexander.Galazin@arm.com>
Wed, 10 Jun 2020 07:48:01 +0000 (03:48 -0400)
commit2da04a989bc6f26e70ee3cd30a18476c8dbf77b6
tree4992ff3544c300d318c10c7eff82f1b7fdd826f7
parent49f8cfce4c4b6a4bd70e7bc0f1bdc9272f9219f8
Use float16 precision for testing mediump

The precision requirements for mediump are not in the spec, they're just
for the conformance test, so it makes sense to use the simplest thing.
Allow the same error margins for mediump's 16-bit as for true 16-bit
floats. This slightly increases the precision requirements on mediump
exp but loosens them for atan.

Note, however, that the requirements for fp16 are still stricter than
for mediump because of the FloatFormat involved. fp16 requires support
for a wider exponent range than mediump.

Components: Vulkan
Affects: dEQP-VK.glsl.builtin.precision.exp*.mediump.*
         dEQP-VK.glsl.builtin.precision.atan*.mediump.*

Change-Id: I600a53984ba6a4f624bbb1525636f392d74ae96f
(cherry picked from commit b7dea11e6a395552a1423009c33d5518d9a0b2ec)
external/vulkancts/modules/vulkan/shaderexecutor/vktShaderBuiltinPrecisionTests.cpp