Merge pull request #518 from steve-lunarg/flatten-fix

Fix defects in uniform array flattening

Fix defects in uniform array flattening

Fix for two defects as follows:

- The IO mapping traverser was not setting inVisit, and would skip some AST nodes.
  Depending on the order of nodes, this could have prevented the binding from
  showing up in the generated SPIR-V.

- If a uniform array was flattened, each of the flattened scalars from the array
  is still a (now-scalar) uniform.  It was being converted to a temporary.

Merge pull request #516 from amdrexu/feature3

SPV: Implement the extension SPV_KHR_shader_ballot

HLSL: Merge pull request #515 from steve-lunarg/flatten-uniform-array

HLSL: Flatten uniform arrays

Flatten uniform arrays

This checkin adds a --flatten-uniform-arrays option which can break
uniform arrays of samplers, textures, or UBOs up into individual
scalars named (e.g) myarray[0], myarray[1], etc.  These appear as
individual linkage objects.

Code notes:

- shouldFlatten internally calls shouldFlattenIO, and shouldFlattenUniform,
  but is the only flattening query directly called.

- flattenVariable will handle structs or arrays (but not yet arrayed structs;
  this is tested an an error is generated).

- There's some error checking around unhandled situations.  E.g, flattening
  uniform arrays with initializer lists is not implemented.

- This piggybacks on as much of the existing mechanism for struct flattening
  as it can.  E.g, it uses the same flattenMap, and the same
  flattenAccess() method.

- handleAssign() has been generalized to cope with either structs or arrays.

- Extended test infrastructure to test flattening ability.

SPV: Implement the extension SPV_KHR_shader_ballot

HLSL: Fix result type of passing a flattened-aggregate to a function.

Merge pull request #514 from steve-lunarg/binding-map-3

HLSL: Add location offsets per resource type

HLSL: Add location offsets per resource type

This PR adds the ability to offset sampler, texture, and UBO bindings
from provided base bindings, and to auto-number bindings that are not
provided with explicit register numbers. The mechanism works as
follows:

- Offsets may be given on the command line for all stages, or
  individually for one or more single stages, in which case the
  offset will be auto-selected according to the stage being
  compiled. There is also an API to set them. The new command line
  options are --shift-sampler-binding, --shift-texture-binding, and
  --shift-UBO-binding.

- Uniforms which are not given explicit bindings in the source code
  are auto-numbered if and only if they are in live code as
  determined by the algorithm used to build the reflection
  database, and the --auto-map-bindings option is given. This auto-numbering
  avoids using any binding slots which were explicitly provided in
  the code, whether or not that explicit use was live. E.g, "uniform
  Texture1D foo : register(t3);" with --shift-texture-binding 10 will
  reserve binding 13, whether or not foo is used in live code.

- Shorter synonyms for the command line options are available.  See
  the --help output.

The testing infrastructure is slightly extended to allow use of the
binding offset API, and two new tests spv.register.(no)autoassign.frag are
added for comparing the resulting SPIR-V.

HLSL: Move to correct parsing of annotations, improving all annotations and recent string grammar.

HLSL: Turn on reflection, with basic test file, to catch regressions.

This is not a claim that reflection is working right, only a way to
see it is occurring and catch any regression.

HLSL: Remove extraneous built-in member decorations for IO structs used in non-IO situations.

HLSL: Add string basic type and recognize string declaration grammar.

This includes the "< decl ; decl ; >" syntax which has its own namespace.
This functionality is not implemented, just silently accepted.

Track separate entry-point names and mangled names...

... and use each in the correct way at consumption sites.
This completes issue #513.

Merge pull request #512 from steve-lunarg/liveness-traverser

Refactor TLiveTraverser from the former reflection traverser, for fut…

Refactor TLiveTraverser from the former reflection traverser, for future use in binding mapping.

This PR factors out the code that knows how to walk just the live parts of the AST.
The traverser in reflect.cpp is renamed to TReflectionTraverser, and inherits from
TLiveTraverser, which will also be used by a future binding offset PR.

The code is now smart about the entry point name (no longer hardcoded to "main").

There is an option to traverse all code (live+dead), because a consumer of the
class may wish to use it for both purposes without wanting a whole separate
class hierarchy.

Non-functional: Sweep through the stack for consistent with "main" and entry point.

Partially addresses issue #513.

HLSL: Change the final syntax-error printf to go to the infoLog.

Fixes issue #510.

HLSL: Fix assert: ensure flattened shadow is EvqTemporary.

HLSL: Intercept flatten aggregates passed to a function input, and copy member-by-member.

HLSL: Non-functional; make flatten semantics be about aggregates, not just structures.

HLSL: Fix bug in previous checkin when non-flattened objects are not simple l-values.

HLSL: Handle flatten for reads from flatten structs and parameter passing.

HLSL: Improve setting and testing of interpolation qualifiers.

Notably, use of 'linear' on a non-input could mark it as an input.

HLSL: Flatten whole-struct assigns and returns when targeting flattened I/O structs.

HLSL: Flatten all input/output structs, regardless of stage.

This is needed because an output structure can contain embedded built-ins
(like SV_Position) which should not get locations assigned.

HLSL: Flatten a return struct from an entry point and assign locations after flattening.

Locations now get assigned in order, but skipping built-ins, which can be
done post flattening.

HLSL: return correct error when HLSL parsing fails.

At least partially addresses issue #510.

Merge pull request #508 from amdrexu/bugfix

SPV: Support simultaneous l-value swizzle and dynamic component selection.

SPV: Support simultaneous l-value swizzle and dynamic component selection.

HLSL: Register all entry-point in/out as part of the interface.

This makes the interface be invariant, whether or not individual
variables are used.

SPV: Fix issue #506: generalize struct deep copy to include arrays.

HLSL: Flatten vertex input and fragment output structures.

Vulkan can't handle structures into the vertex stage or out
of the fragment stage.

Merge pull request #505 from steve-lunarg/rowmajor-fix-2a

HLSL: alias HLSL matrix-row-column onto AST matrix-column-row

WIP: HLSL: Treat HLSL rows as GLSL columns.

WIP: HLSL: EOpGenMul arg reversal

HLSL: Report an error if SPIR-V for Vulkan wasn't selected.

Merge branch 'amdrexu-bugfix2'

Merge branch 'bugfix2' of https://github.com/amdrexu/glslang into amdrexu-bugfix2

Merge pull request #503 from amdrexu/feature3

SPV: Use OpBitcast to implement 4 pack/unpack built-in functions.

SPV: Use OpBitcast to implement 4 pack/unpack built-in functions.

Preprocessor: UINT_MAX is translated to constant incorrectly.

HLSL: Support register(..., spaceN) for setting the descriptor set.

This was suggested in issue #454.

HLSL: Accept layout(...) also as a post-decl.  Issue #454.

HLSL Non-Functional: Move to more robust capturing of postDecls into a qualifier.

This will prevent a possible future defect of thinking the type can be changed,
where there is a code path today that would drop that change.

HLSL: Track binding numbers to struct instances; fixes issue #496.

Merge pull request #498 from amdrexu/bugfix

Parser: Add 64-bit type conversion for specialization constant.

Parser: Add 64-bit type conversion for specialization constant.

HLSL: Handle swizzles on vectors of size 1. Addresses issue #453.

HLSL: Fix issue #442, smear and truncate shape conversions for == and !=.

HLSL: Handle "fake" entry points, by undoing their built-in variable declarations.

HLSL: Handle greater/less depth modes. Fixes issue #489.

HLSL: Error if funcion with return type doesn't return a value.

HLSL: Correct line numbers for function definitions.

SPV: Flatten structs for copy when they are GLSL type aliases.

Addresses issue #304 and issue #307 by replacing unmatched type OpStores with
per-member copies. Covers assignment statements and most argument passing, but
does not yet cover r-value-based argument passing.

Merge pull request #495 from steve-lunarg/remapper-tests-2

Remapper: move remapper tests into the glslangtests executable.

Remapper: move remapper tests into the glslangtests executable.

SPV: Tighten up number of struct-types declared based on decoration.

Takes some pressure off of issue #304.
Structures don't inherit locations and then explicitly decorate
members with them, so removed this reason to have another instance
of a structure type.

Front-ends: Remove now defunct afterEOF and related, use scanner's instead.

Code using atEndOfFile was dead, instead do something useful with
the scanners atEndOfInput().  This allows a better error message
for early termination of cascading errors.

HLSL: Start location numbering with the entry-point return value.

Also, increment location numbers by the size of the objects.

HLSL: Remove recent change to put locations on SV_TARGET*.

This put locations on members of structures, which is not allowed
in either AST or SPIR-V.

This was caught by asserts in the debug build.

HLSL: Create test results for the previous commits.

Merge branch 'dankbaker-HLSL_Semantic_Mapping'

Merge branch 'HLSL_Semantic_Mapping' of https://github.com/dankbaker/glslang into dankbaker-HLSL_Semantic_Mapping

Merge pull request #490 from KhronosGroup/hlsl-output-return

HLSL: Emulate write-to-output on return-from-entry-point, for return …

HLSL: Setting SV_DEPTHGREATEREQUAL and SV_DEPTHLESSEQUAL to EbvFragDepth for now

Merge branch 'hlsl-output-return' of github.com:KhronosGroup/glslang into hlsl-output-return

HLSL: Emulate write-to-output on return-from-entry-point, for return value.

This fixes issue #487 and #480.
It also correctly handles output parameters from the entry point.

HLSL: Emulate write-to-output on return-from-entry-point, for return value.

This fixes issue #487 and #480.
It also correctly handles output parameters from the entry point.

Non-functional: Add some missing const, related to signature selection.

Merge pull request #488 from antiagainst/c4996-warning

Disable C4996 (secure CRT) recommendation on Windows for strtok().

Disable C4996 (secure CRT) recommendation on Windows for strtok().

strtok_s() is suggested by MSVC, but it has different signature
than the C11 standard one. So we just turn off the recommendation
here.

Merge pull request #473 from steve-lunarg/remapper-tests

SPV Remapper: add remapper test framework

HLSL: Include shape-changing conversions in overloaded signature selection.

This also enables vecN -> vec1 shape conversions for all places doing shape
conversions.

For signature selection, makes shape changes worse than any other comparison
when deciding what conversions are better than others.

HLSL: Format updates and some minor adjustments to SV_ handling

HLSL: Allow arbitrary baseType -> baseType conversion of calling arguments.

This also puts a stake in the ground as to which is better when selection
from multiple signatures.

WIP: SPV Remapper: add remapper test framework

First stab at system value interpretation

Merge pull request #483 from steve-lunarg/precise-fix-2

HLSL: add precise keyword

HLSL: add precise keyword

HLSL: Switch to generic selector, but using GLSL #version 400 rules.

Next step is to modify for HLSL rules.

Merge branch 'overloaded-400' of github.com:KhronosGroup/glslang

Front-end: Warn for likely missed change in default precisions.

This is part of the change to have desktop shaders respect precision
qualifiers on Vulkan, but since the defaults are all highp, and that's
different from ES fragment shaders, detect likely cases and warn about
them (but being careful to not be too noisy if it's unlikely to be a
problem).

Vulkan: Have desktop shaders respect precision qualifiers.

Sets highp defaults for the appropriate types, for all stages,
and turns on precision qualifiers for non-ES shaders.  Required
fixing some qualifier orders for desktop built-in declarations
for pre-420 shaders.

Front-End: Non-ES trigger for processing precision qualifiers.

Initially non-functional: Have an independent test for whether to obey
precision qualifiers other than whether the profile is es.

Non-functional: Fix commit 98f164ec488f85af5a44b701477a34e810f2deb1.

Fix previous commit to not use tabs and otherwise match local coding
conventions better.

Merge pull request #461 from dankbaker/Error_Message_Fixes_for_HLSL

HLSL: Better error message for when HLSL translation fails

Merge pull request #476 from steve-lunarg/string-literals

HLSL: Support string literals, e.g, for annotations

Merge pull request #477 from amdrexu/bugfix

SPV: Some group invocation operations should be applied to scalars.

SPV: Some group invocation operations should be applied to scalars.

HLSL: Add EHTokStringConstant, so that string attributes may be parsed

Front-end: Add a function selector under implicit type conversion.

Use the new function selector for #version 400 and above,
parameterized for the GLSL #version 400 selection rules.

This can be used for both GLSL and HLSL, and other languages
as well.

HLSL and standalone, modifying Standalone to send filename as string source, and HLSL backend will use this to print a better error mesage when things fail

Front-end/Non-functional: Add some const/auto, useful for upcoming changes.

HLSL: Partially address issue #463: accept GLSL layout(...).

This includes all "per variable" layout qualifiers, but the
key ones mattering and tested for now are:
  set=
  binding=
  constant_id=
  push_constant

Merge pull request #471 from steve-lunarg/remapper-literal64-b

SPIRV remapper: allow 64 bit literals in OperandVariableLiteralI…

WIP: SPIRV remapper: allow 64 bit literals in OperandVariableLiteralId class iteration

Merge pull request #467 from dankbaker/HLSL_Changing_defualt_language

HLSL: changing SPIRV defualt language for HLSL to unknown

Updating tests, sadly every single HLSL test needs updating becuase of the language identifier

HLSL: Changing SPIRV source language to unkown

Merge pull request #466 from baldurk/minor-msvc-warning-fix

fix x64 warning about conversion size_t -> int