HLSL: Recursive composite flattening
authorsteve-lunarg <steve_gh@khasekhemwy.net>
Tue, 29 Nov 2016 00:09:54 +0000 (17:09 -0700)
committersteve-lunarg <steve_gh@khasekhemwy.net>
Wed, 7 Dec 2016 21:40:01 +0000 (14:40 -0700)
commita2b01a0da83ffe92b27df67b3148f2fe60d62b85
treecca37d64dc7a1bd119f28ce0d266e66319b75e7b
parentb56f4ac72c57f5c50f14ddb0bf1f78eaaef21c2b
HLSL: Recursive composite flattening

This PR implements recursive type flattening.  For example, an array of structs of other structs
can be flattened to individual member variables at the shader interface.

This is sufficient for many purposes, e.g, uniforms containing opaque types, but is not sufficient
for geometry shader arrayed inputs.  That will be handled separately with structure splitting,
 which is not implemented by this PR.  In the meantime, that case is detected and triggers an error.

The recursive flattening extends the following three aspects of single-level flattening:

- Flattening of structures to individual members with names such as "foo[0].samp[1]";

- Turning constant references to the nested composite type into a reference to a particular
  flattened member.

- Shadow copies between arrays of flattened members and the nested composite type.

Previous single-level flattening only flattened at the shader interface, and that is unchanged by this PR.
Internally, shadow copies are, such as if the type is passed to a function.

Also, the reasons for flattening are unchanged.  Uniforms containing opaque types, and interface struct
types are flattened.  (The latter will change with structure splitting).

One existing test changes: hlsl.structin.vert, which did in fact contain a nested composite type to be
flattened.

Two new tests are added: hlsl.structarray.flatten.frag, and hlsl.structarray.flatten.geom (currently
issues an error until type splitting is online).

The process of arriving at the individual member from chained postfix expressions is more complex than
it was with one level.  See large-ish comment above HlslParseContext::flatten() for details.
Test/baseResults/hlsl.structarray.flatten.frag.out [new file with mode: 0644]
Test/baseResults/hlsl.structarray.flatten.geom.out [new file with mode: 0644]
Test/baseResults/hlsl.structin.vert.out
Test/hlsl.structarray.flatten.frag [new file with mode: 0644]
Test/hlsl.structarray.flatten.geom [new file with mode: 0644]
Test/hlsl.structin.vert
gtests/Hlsl.FromFile.cpp
hlsl/hlslGrammar.cpp
hlsl/hlslParseHelper.cpp
hlsl/hlslParseHelper.h