doc: Add "Pending" string back in for shader checker

"Pending" is used as a trigger keyword for document validator to know
when one section is ending and a new section is starting so adding it
back in to get doc validation passing.

docs: update v0 languages for device layer deprecation

Clarify that a layer's

  vkEnumerateInstanceLayerProperties
  vkEnumerateInstanceExtensionProperties
   - should enumerate the layer itself

  vkEnumerateDeviceLayerProperties
   - is deprecated

  vkEnumerateDeviceExtensionProperties
   - must handle all layers by chaining

  vkCreateInstance
   - `pNext` handling is covered by the spec

  vkCreateDevice
   - allow validation layers to validate layer and extension names

Clarify that the layer library's

  vkEnumerateInstanceLayerProperties
  vkEnumerateInstanceExtensionProperties
   - are not used by the desktop loader
   - can be aliases to the layer's versions when the layer library
     contains only one layer

  vkEnumerateDeviceLayerProperties
  vkEnumerateDeviceExtensionProperties
   - are not used by the desktop loader

  vkGetInstanceProcAddr
   - mention that the special cases for vkCreateDevice and device commands
     are for compatibility

layers: Updated validation layer details doc

Some rewording, pulled out pending work sections and pointed readers
to Github for open/pending issues or feature requests.

Change-Id: I1ad55777a064e7f26a3f5cce48fb63d9e12d4b32

layers: DescriptorSet class clean-up

Minor formatting improvements, removed some useless "const" decls
and unused vars and updated a few error codes to be more appropriate.

layers: Verify that src of copy update is updated

Before verifying source update comments make sure that the source
descriptors have been updated. This guards against some obscure
corner cases where a bad source descriptor could slip through the
content verification.

layers: Refactor DescriptorSet update interface

Mainly refactor and moving code in order to provide an interface to
DescriptorSet class that matches top-level vkUpdateDescriptorSets()
function.

Split the validation of an update as a separate task from performing
the update. This allows validation prior to calling down the chain
and then only update the state if validation is clean.

Hoisted all of the update validation into the DescriptorSet class
which prevents having to copy all of the maps into the individual
Descriptor classes. This simplifies both their creation and updating
their contents.

Updated the top-level core_validation UpdateDescriptorSets() code
to match Vulkan Validation Layer Authoring Guidelines. As this is
an initial POC for the architecture, I kept the Pre* & Post* functions
in the core_validation.cpp file, but they should eventually be spun
out.

layers: Migrate types from core_validation.h

This change just moves a few types from core_validation.h to
core_validation_types.h. This is preparation for migrating DescriptorSet
class to store GLOBAL_CB_NODE ptrs directly.

layers: Simplify command buffer pool cleanup

We don't need to carefully pick through the pool's buffers, removing
them. We're about to throw away the whole container.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: More slight tidying

Signed-off-by: Chris Forbes <chrisforbes@google.com>

use getFramebuffer more

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: simplify TransitionSubpassLayouts

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add getFramebuffer() helper

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Simplify CmdEndRenderPass

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add getRenderPass helper

Various similar functions exist, but this one was missing. Returns the
RENDER_PASS_NODE ptr if it exists, or nullptr otherwise.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Unify cb lookup in CmdBeginRenderPass

We already have a GLOBAL_CB_NODE ptr here, and we know it's not null.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Remove lastBound state reset in destructor

No need to reset this state right before GLOBAL_CB_NODE is destroyed.

layers: Improve DescriptorSet cleanup

Create private helper function InvalidateBoundCmdBuffers() within the
DescriptorSet class to unify invalidate cases due to set being updated
or freed.

Add a destructor for DescriptorSet to make sure that no bound cmd buffers
hang on to deleted set references.

layers: Reduce DescriptorSet map look-ups

Migrate some data structures to refer to DescriptorSet class
instead of raw VkDescriptorSet. This saves map look-ups.

layers: Refactor DescriptorSet Update code

This migrates code for DescriptorSet in_use and flagging bound
command buffers as invalid from core_validation.cpp into DescriptorSet
class.

layers: Fix intercepts of parameter_validation

Make parameter_validation register vkFreeDescriptorSets() and
vkUpdateDescriptorSets() functions as intercepted.

layers: Migrate types from core_validation.h

This change just moves a few types from core_validation.h to
core_validation_types.h. This is preparation for migrating DescriptorSet
class to store GLOBAL_CB_NODE ptrs directly.

layers: Const correctness for debug_report_data param

debug_report_data pointer passed to various log functions can be const.

doc: update layer and loader doc for device lyaer deprecation

Change-Id: I53ff750a25fd5ea390c22f5ded2247dfbedce2aa

Remove Xlib dependency when XCB is used

Change-Id: I3626f299aae8acc2640e3f233a46d84cc819fd63

layers: Update cmds allowed in 2nd CB subpass

If subpassContents are of type VK_SUBPASS_CONTENTS_SECONDARY_COMMAND_BUFFERS
then CmdNextSubpass and CmdEndRenderPass are accepatable cmds to be added to
the secondary cmd buffer.

Spec language is from section 7.4 Render Pass Commands: If contents is
VK_SUBPASS_CONTENTS_SECONDARY_COMMAND_BUFFERS, the contents are recorded in
secondary command buffers that will be called from the primary command
buffer, and vkCmdExecuteCommands is the only valid command on the command
buffer until vkCmdNextSubpass or vkCmdEndRenderPass.

layers: GH544 Allow INVALID cmd buffers to be reset

BeginCommandBuffer performs an implicit reset of a command buffer.
This allows command buffers in the INVALID state to undergo this
implicit reset.

In order to make sure that an invalid command buffer in the INVALID
state has had EndCommandBuffer called, this commit adds a CMD_END
command that's inserted at the end of a command. If a command buffer
in the INVALID state has had EndCommandBuffer called and it is now
having BeginCommandBuffer called, it's ok to implicitly reset the
command buffer.
buffer's vector of commands.

layers: Update layer README.md for release

Updated language surrounding device/instance layer changes, fixed
up some markdown formatting issues.

Change-Id: I66353eeeef6789ab15c4e08c21f9da149f9ce09e

demos: GH#559 fix for new Android windows

On Android, treat a 1st-time new window differently from an nth-time
new window.

layers: Add correct IsStorage() to TexelDescriptor

Similar to Norbert's previous fix for ImageDescriptor, TexelDescriptor
was also missing correct IsStorage() override function and so would always
return false instead of actual storage_ value.

Change-Id: I9006cdb614c5b78db0a68b71dcc4300f4c5c0d7f

layers: Ignore 'noautovalidity' params w/codgen

Add special handling to the parameter_validation layer's code
generator for vk.xml parameters with the 'noautovalidty' attribute:
- Ignore vk.xml parameters with the 'noautovalidity' attribute
  when generating code for the parameter_validation layer.
- Implement custom validation routines for parameters with
  'noautovalidity' tags.

Issues-Addressed: GitHub 515
Change-Id: I1bd28cc79233fb8b040d6e107ed5e2176a84edb5

layers: Fix transposed messages

Fix parameter_validation::get_result_rescription utility
function, which had the messages for VK_ERROR_DEVICE_LOST
and VK_ERROR_INITIALIZATION_FAILED transposed.

Change-Id: I47126389cbfafce663ec474fa04b899e6f2f663c

loader: update linux so version

Change-Id: I84656754952e7488712ca5bcd4701e2e85d92cce

loader: Treat GLOBAL layers same as INSTANCE layers

Also change validation layers type to be GLOBAL so they work with old loaders
prior to device layer deprecation.

Change-Id: I32788cb7788c8ad840ced15236c5ed792edfbbff

layers: GH485, Remove redundant format props check

With new checks in place for CreateImage, old check in CreateRenderPass
is redundant and can be removed.

Change-Id: I53e5201f453041b3c8ba17edc193c1f3b142f4cb

layers: GH485, Strengthen image format validation

CreateImage was checking that format caps weren't null, but was not
validating against color or depth/stencil attachment types.

Change-Id: Ic8996829033f552f6ef7477bdefdaba702ae2403

demos: Make sure shaderClipDistance is available before requesting

Change-Id: Id0b58d54a553fce4914ddc1097f1e1c8ac3c337f

loader: reduce message level if GDPA of a layer is not found

Change-Id: Ic4dd99015f5f3a07a6657f196fde89181d66c0f6

update glslang and spirv-tools revisions

git: Ignore Qt generated files

Change-Id: I5970f83e8316e3f13e79e103cc17c96e31fef95e

misc: Update to version 1.0.13, header, xml, JSON files

Change-Id: Id70c1b709d35b2f508e0dde5f862102c87c80521

loader: deprecate device layers

Change-Id: I43c279e36368bf1ef9a2f446007e34366bfff777

windows: Fix android-generate.bat

Mirror changes made to android-generate.sh in cb9ce9e0

layers: Fix VkBool32 return in vk-layer-generate.py.

This regressed in f4542e618, but is only visible when defining
VK_USE_PLATFORM_WIN32_KHR, so might have been missed. Fixes a
warning in MS 2015, as well as an incorrect return value.

layers: Add output file option to vk-generate scripts.

With some build systems, it's not easy to pipe stdout into a file.
This solution allows the scripts to use the last argument as an
output file option. This is a problem in partiuclar for GN.

layers: Track dynamic descriptor offsets per set index

One big pool of dynamic offsets didn't work well:
- CmdBindDescriptorSets just appended, without regard for unaffected sets,
  whether offsets were already recorded for the affected sets, etc. A
  command buffer which bound descriptor sets many times would just
  accumulate junk.
- DescriptorSet::ValidateSetNode was always passed the base of the
  offset pool, when the set's first dynamic offset may have been some
  distance into the pool.

Instead, track a vector of dynamic offsets per set index, alongside
the tracking of the bound descriptor set, which makes both correct
tracking of updates, and correct validation at draw time easier.

Fixes lots of weird behavior with more complex binding sequences.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Narrow scopes of some locals for clarity

Signed-off-by: Chris Forbes <chrisforbes@google.com>

Fix allows to return actual storage_ and not default false value.

layers: Clean up old mem_tracker merge remnants

Clean up most of the remaining MTMERGESOURCE defines.
Many of these come straight out. A number of copy functions
were able to merge some code to provide a slight efficiency gain.

layers: Fix android build errors

tests: Update doc validation

Print a single warning line identifying the number of missing tests.

tests: Add InvalidMemoryMapping test

layers: Fixes to memory mapping checks

MapMemory w/ size 0 is now invalid in the spec so remove comment and
change callback to ERROR.
Update some error messages for clarity.
Only update the mapped memory range state if MapMemory succeeds.

tests: Update document validation related to tests

If a test is not done, standardize on "TODO" as the only allowed
text. Otherwise, the txt is considered to be a valid test and an
error will be flagged if the test cannot be found in
layer_validation_tests.cpp.

layers: Kill MISSING_MEM_BINDINGS error

The MEMTRACK_MISSING_MEM_BINDINGS enum was dead code. There's no way
that the check can be hit in current code so added an assert() for
future safety and killed the checks and their documentation.

tests: Add tests for INVALID_ALIASING cases

layers: Move `fb` from RENDER_PASS_NODE to GLOBAL_CB_NODE

This is part of a renderpass instance, not of the renderpass itself.
If stored where MT put it, things go horribly wrong when recording
command buffers in parallel.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Finish unhooking layer_data from SC pipeline validation

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Use pipeline layout ptr from pipeline node

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add PIPELINE_LAYOUT_NODE * to PIPELINE_NODE

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: No longer require layer_data for stage validation

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Pass in shaderModuleMap to SC

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: use RENDER_PASS_NODE* from pipeline in SC

Breaks one more dep from SC guts -> layer_data

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Add RENDER_PASS_NODE* to PIPELINE_NODE*

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: LX518, Fix ObjectTracker memory leaks

Several places in object_tracker were not properly deleting data
structures, which caused signicant memory leaks.

Change-Id: Ie64ab18efecc45838e103dd7a8cb5f75c92155c4

layers: PR512 Update some of the swapchain errors that are now tested.

layers: PR512 Fix swapchain's validateCreateSwapchainKHR()

It used to dereference pCreateInfo, even when it was NULL.

tests: GH431 PR 510 Apply suggested changes

- Convert error to warning for overlapping ranges
- Consider overlapping ranges in range checks
- User a reference to avoid a copy
- Many more additional tests

Change-Id: I18ad43b98684f16a978461a1a089ebff5437a563

layers: Remove unused var to fix android build

layers: Migrate INVALID_IMAGE_LAYOUT check to renderpass create time

Previously performing this check at CmdBeginRenderPass time, but we have
all of the data needed when renderpass is created so check there instead.

tests: GH431 Add layer checks and tests for push constant

Change-Id: I46eb5f9adbe702a278cded0f73dc18d1617489f0

Fix windows compilation issues

Change-Id: Ic9b9795e34d1e1e68bae9838b8538bb2e37d18b4

swapchain: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

swapchain: improve GetInstanceProcAddr

Handle device commands as well.  Move handling of interface functions to
v0's vkGetInstanceProcAddr.

swapchain: refactor GetInstanceProcAddr

Split command intercepting out to intercept_core_instance_command and
intercept_khr_surface_command.

swapchain: add intercept_khr_swapchain_command

It returns the function pointers for all intercepted VK_KHR_swapchain
commands.  Call intercept_khr_swapchain_command from GetDeviceProcAddr.

swapchain: add intercept_core_device_command

It returns the function pointers for all intercepted core device commands.
Call intercept_core_device_command from GetDeviceProcAddr.  Assert that
device is valid in GetDeviceProcAddr.

swapchain: improve EnumerateDeviceExtensionProperties

Call down the next layer unless pLayerName is swapchain.

swapchain: add swapchain::swapchain_layer

Replace swapchain_layers with swapchain_layer.  There is no plan to define
more than one layer in the same namespace.

swapchain: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

swapchain: put layer functions into a namespace

Put all layer fucntions/data into swapchain namespace.  I had to add some
wrappers to make everything work.

swapchain: move vkEnumerate*Properties around

Move them toward the end of the file.

layers: Determine whether command buffer can be ended with active render pass

tests: Enhance doc validator to recognize Wsi tests

Enable doc validator to recognize tests in VkWsiEnabledLayerTest group.

loader: update linux so version

Change-Id: I027e6f9e0010074c0a83748e3724c7ef1cabb4f9

layers: Additional vkCreateImageView validation

Add more vkCreateImageView parameter validation, based on the valid
usage section for VkImageViewCreateInfo in the Vulkan specification.

Issues-Addressed: LX #502
Change-Id: I7fd743312f43a8ff36f2db9f6b50569d630f9dca

layers: Additional vkCreateImage param validation

Add more vkCreateImage parameter validation, based on the valid usage
section for VkImageCreateInfo.

Issues-Addressed: GitHub #354
Change-Id: Ia978a64f6c03c3cf115a07e707099253104e04a1

layers: Adjust queue family index error messages

Adjust parameter_validation layer's validate_queue_family_indices
error messages:
- Split validate_queue_family_indices into separate functions for
  arrays of indices and single index values, allowing error messages
  to be formatted with and without array brackets when appropriate.
- Print the correct parameter name in error messages.

Change-Id: I9a77ccbd0ad14da4732362d2694ed205e13c3a40

build: Disable RTTI generation

Disablng RTTI can save a little space.  And it will help keep
some C++ features from being used that are not (well) supported
on some platforms.

Change-Id: I8050009a65de640c2e41cdefb1ead43c88bb710a

layers: Sync XML registry files from Vulkan-Docs

Sync the vk.xml and related Python scripts with the latest revisions from
Vulkan-Docs:
 - Update local copy of vk.xml from Vulkan-Docs
 - Merge minor changes to genvk.py and generator.py from Vulkan-Docs to
   local copies
 - Add debug marker function pointers to VkLayerDispatchTable
 - Update parameter_validation code generation to support use of types
   across API features; The core API feature needs to be aware of a
   structure defined by the AMD_rasterization_order feature for the
   purpose of pNext validation
 - Modify thread_check code generation to add TODO messages for debug
   marker support

Change-Id: I4d5b98683592f4ef404cb46e5b0f6ad519912382

layers: Remove unused var to fix android build

tests: Add required parameter/error code tests

Add tests for the parameter_validation REQUIRED_PARAMETER and
FAILURE_RETURN_CODE error codes to layer_validation_tests.

Change-Id: I324901e411eb92dbaf0c7d232ae1d8bf63d433b1

tests: Add unrecognized value tests

Add tests for unrecognized Vulkan enumeration, VkFlags, and VkBool32
values to layer_validation_tests.

Change-Id: I01d913c3903a7ca959c4bccb60a864a5f91c8809

tests: Add struct validation tests

Add Vulkan structure sType and pNext validation tests to
layer_validation_tests.

Change-Id: I774d316def6697f2f3ebf5f0c20270fb0ad2daae

layers: Migrate INVALID_IMAGE_LAYOUT check to renderpass create time

Previously performing this check at CmdBeginRenderPass time, but we have
all of the data needed when renderpass is created so check there instead.

layers: Remove MEMTRACK_INVALID_LAYOUT

Use DRAWSTATE_INVALID_IMAGE_LAYOUT instead as MEMTRACK version was only used
in a single case and the check is more in-line with DRAWSTATE behavior.

tests: Remove invalid error enum MEM_OBJ_CLEAR_EMPTY_BINDINGS

This error enum is no longer used and has been superceded by more specific errors.

tests: Remove invalid error enum MEMTRACK_MEMORY_BINDING_ERROR

This error enum is no longer used and has been superceded by more specific errors.

Merge pull request #523 from KhronosGroup/CoreValidationMessageCleanup

layers:LX#470 Address poor use of hex vs dec output & w/a convention

layers:LX#470 Fix poor use of hex vs dec output

1) Introduce convention of explicitly placing "0x" before hex
    format requests for clarity (don't use "%#")
2) All lower case in hex output (except w/stringstream which refuses
    to do anything but uppercase, possibly only on windows).
3) Decorated pointers are printed for all Vulkan structure types.
3) Some intelligence in generators based on Vulkan variable name:
     if the Vulkan variable name contains ("flag", "bit", "offset",
     "handle", "buffer", "object", "mask") it will be output in
     hexadecimal format

4) Remove "using namespace std;" from global scope of vk_struct_string_helper_cpp.h

Change-Id: Idbae73bfdaa3bc059543d43b209373cd0bcbc099

layers:pass RENDER_PASS_NODE* around more

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Hold active RENDER_PASS_NODE rather than VkRenderPass in CB node

Allows eliminating the bulk of the renderPassMap lookups

Signed-off-by: Chris Forbes <chrisforbes@google.com>