layers: Wire up validation of compute pipelines

Signed-off-by: Chris Forbes <chrisforbes@google.com>

tests: Update doc for dynamic state tests

winrt: Add more error logic to Powershell script

Add more error detection logic to the install config Powershell
script to help track down recent failures.

layers: Fix safe struct codegen of static arrays

VC++ doesn't support this particular corner of C++11.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Handle static arrays in codegen

Update safe_struct codegen to handle the case of a static array
in a struct. This removes exceptions for VkDebugMarkerMarkerInfoEXT
and VkPipelineColorBlendStateCreateInfo so they can be treated
as all other structs.

layers: Fix ImageSampler immut sampler check

Was missing IsImmutableSampler() override function for the
ImageSamplerDescriptor class.

layers: Use correct log_msg calls in swapchain

Swapchain layer was making a couple of calls directly to
debug_report_log_msg instead of going through log_msg.

Change-Id: I206210bb0d109778c90283144075a77fc459210b

build: Fix Windows compilation warnings

Use false/true instead of 0/1 in recently-added std::bind calls.

layers: lvlgh 548, remove obsolete RPATH

Change-Id: Iaba3990d2f417375cfa84a295d7184cedb491da6

Merge pull request #583 from lentinem/mlentine-clearpriorfences

Clear priorFences on reset and remove waited on fences from other lists.

Clear priorFences on reset.

threading: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

threading: handle device commands in GetInstanceProcAddr

Call layer_intercept_proc in GetInstanceProcAddr.

threading: no interface functions in layer functions

Move handling of interface functions in threading::GetInstanceProcAddr to
v0's vkGetInstanceProcAddr.

threading: assert valid instance/device in vkGet*ProcAddr

device is always valid in vkGetDeviceProcAddr.  instance is valid if pName
is not intercepted in layer_intercept_instance_proc.

threading: improve EnumerateDeviceExtensionProperties

Call down the next layer unless pLayerName is threading.

threading: add threading::layerProps

Replace globalLayerProps and deviceLayerProps with layerProps.  There is
no plan to define more than one layer in the same namespace.

threading: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

threading: put layer functions into a namespace

Put all layer fucntions/data into threading namespace.  I had to add some
wrappers to make everything work.

This also removes vkEnumerateInstance*Properties from procmap.  procmap is
used in vkGetDeviceProcAddr and it should not contain
vkEnumerateInstance*Properties in the first place.

threading: decorate Vulkan commands with VKAPI_ATTR

threading: move vkEnumerate*Properties around

Move them toward the end of the file.

unique_objects: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

object_tracker: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

vk-layer-generate.py: handle device commands in GetInstanceProcAddr

Per commit 5bf16c33b9c1f38fc467d94716f276620a265327, extension check is
bypassed in GetInstanceProcAddr for VK_KHR_swapchain functions.

vk-layer-generate.py: assert valid instance/device in vkGet*ProcAddr

"device" should be always valid in vkGetDeviceProcAddr.  "instance" should
be valid in vkGetInstanceProcAddr when the command is not intercepted by
intercept_core_instance_command.

vk-layer-generate.py: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

vk-layer-generate.py: no interface functions in layer functions

Move handling of interface functions out of layers' GetInstanceProcAddr to
v0's vkGetInstanceProcAddr.

vk-layer-generate.py: put layer functions into a namespace

Move everything into namespace object_tracker and unique_objects
respectively.  I had to add some wrappers to make everything work.

vk-layer-generate.py: simplify vkEnumerate*Properties generation

Add _gen_layer_interface_v0_functions to generate all of them in one
place.  Get rid of deviceLayerProps as it is always the same as
globalLayerProps.

vk-layer-generate.py: add intercept_<ext>_command

Add intercept_<ext>_command to return intercepted extension commands.
Invoke them from vkGet*ProcAddr.

vk-layer-generate.py: add intercept_core_*_command

Replace layer_intercept_instance_proc with
intercept_core_instance_command, which returns all intercepted core
instance commands.

Replace layer_intercept_device_proc with intercept_core_device_command,
which returns all intercepted core device commands.

The only user visible difference should be that vkGetDeviceProcAddr now
returns NULL for instance commands.

layers: Display accessMask in HEX

Mark fence in use after the check.

vulkaninfo: Display apiVersion and driverVersion in a more readable format.
Display appropriate VkPhysicalDeviceLimits items in decimal or hex.
Display Memory Property flags by their enum names, instead of integers.
Add some missing properties and enums.

layers: Fix query tracking across multiple command buffers on the same queue

layers: Fix event tracking to differentiate reading and writing

layers: Move and rename validate_descriptor_availability_in_pool

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add getPipelineLayout helper, use it

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Use pipeline layout -> ds layout direct map

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Use getDescriptorSetLayout helper in more places

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Remove more AllocateDescriptorSets noise

Can argue about whether this stuff at INFO level is worthwhile...
Replace the comments with a clearer set of comments.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Further rework to AllocateDescriptorSets

- operator new does not return null, it throws.
- do lookups once, at the start

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Get rid of pre-call updates in AllocateDescriptorSets

Moving all the updates later requires that we totalize the required
descriptors by type first, rather than testing each binding's
requirement as we go.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

parameter_validation: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

parameter_validation: handle device commands in GetInstanceProcAddr

Call intercept_core_device_command in GetInstanceProcAddr.

parameter_validation: no interface functions in layer functions

Move handling of interface functions in
parameter_validation::GetInstanceProcAddr to v0's vkGetInstanceProcAddr.

parameter_validation: refactor GetInstanceProcAddr

Split command intercepting out to intercept_core_instance_command.  Assert
that instance is valid if intercept_core_instance_command returns nullptr.

parameter_validation: add intercept_core_device_command

It returns the function pointers for all intercepted core device commands.
Call intercept_core_device_command from GetDeviceProcAddr.  Assert that
device is valid in GetDeviceProcAddr.

parameter_validation: improve EnumerateDeviceExtensionProperties

Call down the next layer unless pLayerName is parameter_validation.

parameter_validation: add parameter_validation::global_layer

Replace pc_global_layers with global_layer.  There is no plan to define
more than one layer in the same namespace.

parameter_validation: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

parameter_validation: put layer functions into a namespace

Put all layer fucntions/data into parameter_validation namespace.  I had
to add some wrappers to make everything work.

parameter_validation: move vkEnumerate*Properties around

Move them toward the end of the file.

winrtinstaller:  remove dependency on msvcrt redistributables

Loader and demos now use static version of msvcrt.
Runtime Installer no longer installs msvcrt.

layers: GH7, Replace bad var names in obj_tracker

C++ reserves variable names that start with an underscore followed
by a capital letter. This patch series replaces or removes these
invalid variable names from the LVL codespace.

Change-Id: I71368cf30e267841cedcc3861afa3444689d71da

layers: GH7, Fix bad var names in layer utils

Change-Id: Iec47953ba0611de5c62f4fa876eb02fefca32427

demos: GH7, Fix invalid variable names

Change-Id: Iabb217f70d0068284c682d9da6b4c2834902256e

headers: GH7, Fix bad variable names in vk_icd.h

Change-Id: Ic78792a71ebedbdb5bae68c47856db1c89a714af

layers: GH7, Fix bad var names in core_validation

Change-Id: I4fd1b8bb1cb83af633e04fc561771b6d76732588

layers: GH7, Fix bad var names in device_limits

Change-Id: I6dec3fd87f62ac171886562206f3fc528f24bc29

layers: GH7, Replace bad variables in image layer

Change-Id: I6c90dafe83bf4e9674b4e32ed867d77b5820006d

layers: GH7, Fix bad var names in threading layer

Change-Id: Iabfd7900a934162a425008593ecc0f0b4d56476e

layers: GH7, Fix bad var names in swapchain layer

Change-Id: I46331c530654334abacbfb3ffd3656809f6b7d5d

tests: GH535 Add tests for clear image errors

Add test that clears a depth/stencil image with CmdClearColorImage()
and one that clears color image with CmdClearDepthStencilImage()

layers: Replace is_depth() in image layer with util function

vk_layer_utils has function vk_format_is_depth_or_stencil() that is
exactly the same as local is_depth() function so kill local function
and use utility function.

layers: GH535 Add checks for Clear image errors

This adds two new checks to make sure that CmdClearColorImage is
not called with depth/stencil format image and that
CmdClearDepthStencilImage is not called with color format image.

Also add getImageState() helper function to image layer to
simplify/unify code for lookup of IMAGE_STATE from imageMap.

doc: Add "Pending" string back in for shader checker

"Pending" is used as a trigger keyword for document validator to know
when one section is ending and a new section is starting so adding it
back in to get doc validation passing.

docs: update v0 languages for device layer deprecation

Clarify that a layer's

  vkEnumerateInstanceLayerProperties
  vkEnumerateInstanceExtensionProperties
   - should enumerate the layer itself

  vkEnumerateDeviceLayerProperties
   - is deprecated

  vkEnumerateDeviceExtensionProperties
   - must handle all layers by chaining

  vkCreateInstance
   - `pNext` handling is covered by the spec

  vkCreateDevice
   - allow validation layers to validate layer and extension names

Clarify that the layer library's

  vkEnumerateInstanceLayerProperties
  vkEnumerateInstanceExtensionProperties
   - are not used by the desktop loader
   - can be aliases to the layer's versions when the layer library
     contains only one layer

  vkEnumerateDeviceLayerProperties
  vkEnumerateDeviceExtensionProperties
   - are not used by the desktop loader

  vkGetInstanceProcAddr
   - mention that the special cases for vkCreateDevice and device commands
     are for compatibility

layers: Updated validation layer details doc

Some rewording, pulled out pending work sections and pointed readers
to Github for open/pending issues or feature requests.

Change-Id: I1ad55777a064e7f26a3f5cce48fb63d9e12d4b32

layers: DescriptorSet class clean-up

Minor formatting improvements, removed some useless "const" decls
and unused vars and updated a few error codes to be more appropriate.

layers: Verify that src of copy update is updated

Before verifying source update comments make sure that the source
descriptors have been updated. This guards against some obscure
corner cases where a bad source descriptor could slip through the
content verification.

layers: Refactor DescriptorSet update interface

Mainly refactor and moving code in order to provide an interface to
DescriptorSet class that matches top-level vkUpdateDescriptorSets()
function.

Split the validation of an update as a separate task from performing
the update. This allows validation prior to calling down the chain
and then only update the state if validation is clean.

Hoisted all of the update validation into the DescriptorSet class
which prevents having to copy all of the maps into the individual
Descriptor classes. This simplifies both their creation and updating
their contents.

Updated the top-level core_validation UpdateDescriptorSets() code
to match Vulkan Validation Layer Authoring Guidelines. As this is
an initial POC for the architecture, I kept the Pre* & Post* functions
in the core_validation.cpp file, but they should eventually be spun
out.

layers: Migrate types from core_validation.h

This change just moves a few types from core_validation.h to
core_validation_types.h. This is preparation for migrating DescriptorSet
class to store GLOBAL_CB_NODE ptrs directly.

layers: Simplify command buffer pool cleanup

We don't need to carefully pick through the pool's buffers, removing
them. We're about to throw away the whole container.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: More slight tidying

Signed-off-by: Chris Forbes <chrisforbes@google.com>

use getFramebuffer more

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: simplify TransitionSubpassLayouts

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add getFramebuffer() helper

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Simplify CmdEndRenderPass

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add getRenderPass helper

Various similar functions exist, but this one was missing. Returns the
RENDER_PASS_NODE ptr if it exists, or nullptr otherwise.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Unify cb lookup in CmdBeginRenderPass

We already have a GLOBAL_CB_NODE ptr here, and we know it's not null.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Remove lastBound state reset in destructor

No need to reset this state right before GLOBAL_CB_NODE is destroyed.

layers: Improve DescriptorSet cleanup

Create private helper function InvalidateBoundCmdBuffers() within the
DescriptorSet class to unify invalidate cases due to set being updated
or freed.

Add a destructor for DescriptorSet to make sure that no bound cmd buffers
hang on to deleted set references.

layers: Reduce DescriptorSet map look-ups

Migrate some data structures to refer to DescriptorSet class
instead of raw VkDescriptorSet. This saves map look-ups.

layers: Refactor DescriptorSet Update code

This migrates code for DescriptorSet in_use and flagging bound
command buffers as invalid from core_validation.cpp into DescriptorSet
class.

layers: Fix intercepts of parameter_validation

Make parameter_validation register vkFreeDescriptorSets() and
vkUpdateDescriptorSets() functions as intercepted.

layers: Migrate types from core_validation.h

This change just moves a few types from core_validation.h to
core_validation_types.h. This is preparation for migrating DescriptorSet
class to store GLOBAL_CB_NODE ptrs directly.

layers: Const correctness for debug_report_data param

debug_report_data pointer passed to various log functions can be const.

doc: update layer and loader doc for device lyaer deprecation

Change-Id: I53ff750a25fd5ea390c22f5ded2247dfbedce2aa

Remove Xlib dependency when XCB is used

Change-Id: I3626f299aae8acc2640e3f233a46d84cc819fd63

layers: Update cmds allowed in 2nd CB subpass

If subpassContents are of type VK_SUBPASS_CONTENTS_SECONDARY_COMMAND_BUFFERS
then CmdNextSubpass and CmdEndRenderPass are accepatable cmds to be added to
the secondary cmd buffer.

Spec language is from section 7.4 Render Pass Commands: If contents is
VK_SUBPASS_CONTENTS_SECONDARY_COMMAND_BUFFERS, the contents are recorded in
secondary command buffers that will be called from the primary command
buffer, and vkCmdExecuteCommands is the only valid command on the command
buffer until vkCmdNextSubpass or vkCmdEndRenderPass.

layers: GH544 Allow INVALID cmd buffers to be reset

BeginCommandBuffer performs an implicit reset of a command buffer.
This allows command buffers in the INVALID state to undergo this
implicit reset.

In order to make sure that an invalid command buffer in the INVALID
state has had EndCommandBuffer called, this commit adds a CMD_END
command that's inserted at the end of a command. If a command buffer
in the INVALID state has had EndCommandBuffer called and it is now
having BeginCommandBuffer called, it's ok to implicitly reset the
command buffer.
buffer's vector of commands.

layers: Update layer README.md for release

Updated language surrounding device/instance layer changes, fixed
up some markdown formatting issues.

Change-Id: I66353eeeef6789ab15c4e08c21f9da149f9ce09e

demos: GH#559 fix for new Android windows

On Android, treat a 1st-time new window differently from an nth-time
new window.

layers: Add correct IsStorage() to TexelDescriptor

Similar to Norbert's previous fix for ImageDescriptor, TexelDescriptor
was also missing correct IsStorage() override function and so would always
return false instead of actual storage_ value.

Change-Id: I9006cdb614c5b78db0a68b71dcc4300f4c5c0d7f

layers: Ignore 'noautovalidity' params w/codgen

Add special handling to the parameter_validation layer's code
generator for vk.xml parameters with the 'noautovalidty' attribute:
- Ignore vk.xml parameters with the 'noautovalidity' attribute
  when generating code for the parameter_validation layer.
- Implement custom validation routines for parameters with
  'noautovalidity' tags.

Issues-Addressed: GitHub 515
Change-Id: I1bd28cc79233fb8b040d6e107ed5e2176a84edb5

layers: Fix transposed messages

Fix parameter_validation::get_result_rescription utility
function, which had the messages for VK_ERROR_DEVICE_LOST
and VK_ERROR_INITIALIZATION_FAILED transposed.

Change-Id: I47126389cbfafce663ec474fa04b899e6f2f663c

loader: update linux so version

Change-Id: I84656754952e7488712ca5bcd4701e2e85d92cce

loader: Treat GLOBAL layers same as INSTANCE layers

Also change validation layers type to be GLOBAL so they work with old loaders
prior to device layer deprecation.

Change-Id: I32788cb7788c8ad840ced15236c5ed792edfbbff

layers: GH485, Remove redundant format props check

With new checks in place for CreateImage, old check in CreateRenderPass
is redundant and can be removed.

Change-Id: I53e5201f453041b3c8ba17edc193c1f3b142f4cb