layers: Fix object_tracker handling of pool-related validation failures

Return codes weren't plumbed through, failures caused layer crashes.

Change-Id: If258d449a420d33b6c72dc5c289d77c7215f2c2f

tests: Round out object-tracker layer validation tests

Change-Id: I6aad451a44cf2053b078eca98adca6b72acbd0a0

layers: Correct and/or remove obsolete object_tracker error enums

Change-Id: I6f759890749fb17226e00d28ab8391dc7cc0e80c

layers: ObjectTracker dead code elimination

Change-Id: I3244f8da58a7f150ebfa772a7c131422f75d0d8b

layers: Remove 'using namespace std' in object_tracker

Change-Id: Ic1ab57e5b4192ed98df8c7e6fc8c225aff631fd8

doc: allow layers to ignore pAllocator

layers: GH494 Add constructors for IMAGE and BUFFER nodes

Add proper constructors for IMAGE_NODE and BUFFER_NODE classes and
correctly initialize all of their data members.

Change-Id: I6c9d4a3ba6f3ef8e569de55793de9d6f7fd406b1

layers: Fix param check debug report level

Change VkFlags and enumeration debug report levels from WARNING to
ERROR.

Change-Id: I06bf454c77dee2cd46db29cd1ffcb67febfba666

layers: Add missing vkCmdSetStencil param checks

Add missing parameter validation for vkCmdSetStencil* functions.

Change-Id: Ib2d2527341815412bc441427ba1dbf6d3826f3c6

layers: Fix core_validation issues GH103 and GH240

Perform pipeline sample and attachment count validation at draw
time instead of vkCmdNextSubpass() time.  Also validate that
an active renderpass exists.

Change-Id: I912947287eef29d532519220750c3a93a3554565

layers: Further descriptorSet cleanup fixes

Clear the pools list of sets when pool is reset.
Also make sure to remove sets from pool as they are freed.
Added a related fix to testing to correctly free descriptorSets
in DescriptorSetCompatibility test.

layers: Correctly invalidate cmd buffers when descriptor pool cleared/freed

When a DescriptorSet pool is Destroyed or Reset we destroy all underlying
descriptorSets, but we weren't invalidating cmd buffers bound to those sets
in these cases. This adds a common function, freeDescriptorSet(), to make
sure anytime a descriptor set is destroyed, any bound cmd buffers get
invalidated and the set is removed from setMap and then destroyed.

layers: Fix descriptorSet cleanup bugs

When we deleted DescriptorSet* objects we weren't removing them
from the setMap.

layers: Migrate VerifyUpdateConsistency to DescriptorSetLayout class

This was in the DescriptorSet class, but really belonged in the Layer.
There was also a bug where it did not correctly handle the case of an
initial offset that oversteps the size of the first binding being updated.
That is legal according to the spec so added code to handle that case by
walking the bindings until we get to the actual binding on which the first
update will occur.

layers: Store layout bindings_ by value instead of ptr

Kill the ptr to safe_VkDescriptorSetLayoutBinding in DescriptorSetLayout
class. This saves us the "new" and the need for a custom destructor.
Couldn't do this initially but I've since added copy constructors
to all of the safe_* struct types.

layers: Kill unused shadowUpdateNode()

No longer needed with migration to DescriptorSet class.

layers: Fix stale comments in core_validation

layers: Remove unused IsUpdated(uint32_t) from DescriptorSet class

All of the functionality that I thought I would need this for is contained
in the ValidateDrawState() function.

layers: Removed unused full_update_ from DescriptorSet class

I originally added this thinking it would be useful but currently
unused and not correctly tracked so just killing it.

layers: Remove use of map at() function from descriptor_set class

layers: Clean up access to descriptors_ vector

Migrate a number of unneccessary .at() calls to just use [] operator.
Also replace push_back() calls at descriptor creation time with emplace_back().

layers: Kill SET_NODE construct and just use DescriptorSet class

Migrated setMap to just use DescriptorSet class natively. SET_NODE was
just wrapping that class but that's not necessary so killing extra indirection.

layers: Rearchitect Descriptor Set validation code

This change pulls all of the DescriptorSet code out of core_validation.cpp and into
its own files/classes in descriptor_set.h/cpp.

See header file for complete class documentation.

These changes pass tri/cube/smoketest --validate.
All related layer validation tests are also updated and passing.
Finally, I ran it through mustpass CTS and did not hit any issues related to these changes.

These changes not only update the descriptor interface but fix some known lingering
bugs with how descriptor updates occurred. This includes now correctly handling
updates that cross binding boundaries and updates that write a subset of a binding.

Going forward this is a general outline for how we would like to evolve core_validation.
That is, we'd like to move the functionality of the checks into reasonable classes and
just have core_validation call into those classes to do the majority of the work.

layers: Clear cmdbufs and prior fences after processed in decrement.

docs: Add contrib info and link

docs: Elevate contrib info, add link

layers: #471 swapchin layer to use find() for map lookups

This fixes a long-standing (day-1) defect in the swapchain layer (perhaps
cloned from another layer at the time?).  Several unordered maps are used to
keep track of things.  The layer was using the [] operator for both adding a
new entry to a map, and for looking up entries that should already be in a map.
This latter usage is where the bug is.  If a handle is passed in that hasn't
been seen before, the use of the [] operator will add a new entry to the
map--one that hasn't been initialized.  The new EnableWsiBeforeUse test caused
a crash in the swapchain layer when it used VK_NULL_HANDLE.

The new code uses the find() element-lookup function of the unordere map class,
and compares this to end().  If the found value is equal to end() (i.e. it
currently isn't in the map), NULL is used for the pointer (the desired behavior
in the swapchain layer).

Two new macros were used in order to keep the code minimal and consistent in
its use of find()/end().

layers: Fix "count" tests in swapchain layer.

The swapchain layer was attempting to test if the application gave a value for
a *Count variable (e.g. pSurfaceFormatCount for the
vkGetPhysicalDeviceSurfaceFormatsKHR() function) that was larger than what that
function returned previously (i.e. when the non-count variable was NULL).
However, the test was made after calling down the call-chain, which may modify
the value given by the application.  This test is now made before calling down
the chain.

In addition, a new test is made that tries to ensure that the application did
call the function with the non-Count variable equal to NULL **before** calling
the function with a non-NULL non-Count variable.

loader: added Windows resource file for vulkan-1.dll

Properties->Details on vulkan-1.dll will display valid
version and build information

Address:
  https://github.com/KhronosGroup/Vulkan-LoaderAndValidationLayers/issues/473

layers: Skip actual call on validation error in vkCmdBlitImage

Change-Id: Ia59e796dd6b7dd6acebb1e3e6b7dbbcbb4b23fed

Add an output directory option to genvk.py.

Currently for the threading utils and parameter checker generator,
the script is hard-coded to write to the current directory. Add
an option to add a custom output directory.

Change-Id: Id1b72a934ead74d2f6c01ad4e581af83067d3f49

layers: #486 Add some missing spaces where needed ...

Original commit message:

Add some missing spaces where needed, hidden by string concatenation

loader: Fix issue when ICD DestroyDebugReportCallbackEXT not found.

Change-Id: Ic1d0f67ec2f8ca438c4bd546e6beb4d565daf89a

layers: #484 Remove stray newline in swapchain validation message.

CMakeLists.txt and doc changes for
1) Ninja build and QTCreator IDE support
2) Out of tree builds that aren't based on using update_external_sources and build_windows_target scripts
3) Allowing the developer to use non-default locations for glslang and SPIRV-Tools binaries and sources
4) Fix linux build when developer chooses not to rename SPIRV-Tools to spirv-tools

Change-Id: Ib6118c47dc780e6721ec0538aae1a6ee444eed78

android: Move external deps into project dir

Mirroring commit d288cb9a, stop using directories outside
of our project location to host external files. Small
changes to update_external_sources_android.sh/bat to find
glslang, spirv-tool, shaderc in "external" instead of ".."

docs: Update CONTRIBUTING to reflect CLA status

Also add info about need for layer work.

layers: Kill unused var that was breaking android build

layers: Consider missing color attachments in validation

Previously we'd assumed these were dense. It is however valid to provide
VK_ATTACHMENT_UNUSED for a color attachment reference.

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Avoid dereferencing outside array for missing color attachment

Signed-off-by: Chris Forbes <chrisforbes@google.com>

device_limits: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

device_limits: improve GetInstanceProcAddr

Handle device commands as well.  Move handling of interface functions to
v0's vkGetInstanceProcAddr.

device_limits: fix a typo in intercept_core_instance_command

s/vkEnumerateInstanceDeviceProperties/vkEnumerateDeviceExtensionProperties/.

device_limits: refactor GetInstanceProcAddr

Split command intercepting out to intercept_core_instance_command.

device_limits: intercept CmdSetScissor and CmdSetViepwort

They are defined but unused.

device_limits: add intercept_core_device_command

It returns the function pointers for all intercepted core device commands.
Call intercept_core_device_command from GetDeviceProcAddr.  Assert that
device is valid in GetDeviceProcAddr.

device_limits: improve EnumerateDeviceExtensionProperties

Call down the next layer unless pLayerName is device_limits.

device_limits: add device_limits::global_layer

Replace dl_global_layers with global_layer.  There is no plan to define
more than one layer in the same namespace.

device_limits: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

device_limits: put layer functions into a namespace

Put all layer fucntions/data into device_limits namespace.  I had to add
some wrappers to make everything work.

device_limits: move vkEnumerate*Properties around

Move them toward the end of the file.

image: avoid invalid GIPA call in vkCreateDevice

Save VkInstance in layer_data so that we query vkCreateDevice with a valid
instance.

image: improve GetInstanceProcAddr

Handle device commands as well.  Move handling of interface functions to
v0's vkGetInstanceProcAddr.

image: refactor GetInstanceProcAddr

Split command intercepting out to intercept_core_instance_command.

image: add intercept_core_device_command

It returns the function pointers for all intercepted core device commands.
Call intercept_core_device_command from GetDeviceProcAddr.  Assert that
device is valid in GetDeviceProcAddr.

image: improve EnumerateDeviceExtensionProperties

Call down the next layer unless pLayerName is image.

image: add image::global_layer

Replace pc_global_layers with global_layer.  There is no plan to define
more than one layer in the same namespace.

image: drop vk prefix for layer functions

Drop VK_LAYER_EXPORT as well.

image: put layer functions into a namespace

Put all layer fucntions/data into image namespace.  I had to add some
wrappers to make everything work.

image: move vkEnumerate*Properties around

Move them toward the end of the file.

layers: Fix memory aliasing false positives in core_validation

Change-Id: I889a00132af4c6f8db944ed21f03290ee8f14063

tests: Update doc to capture test for pipeline layout compatibility

DescriptorSetCompatibility test hits all of the PIPELINE_LAYOUTS_INCOMPATIBLE
validation errors so just needed to update documentation.

tests: Update test names in layer documentation

A number of test names in vk_validation_layer_details.md were incorrect
so updated names as appropriate and removed other names for tests that
were not in layer_validation_tests.cpp.

tests: Update document validator to check for valid tests

This adds a set of checks to the document validator that will iterate through
all of the checks documented in vk_validation_layer_details.md and compare the
names of the test(s) for each check against the names of the actual tests in
layer_validation_tests.cpp.

Currently, all checks not ending in "_NONE" that don't have a valid test
recorded in the table will report a warning with a final count of the warnings
given. There are initially 131 such warnings, but I suspect at least a handful
of them are implemented but just need to be correctly documented.

Once all the test holes are filled in we can promote the warnings to errors
to make sure that any new checks are both documented and have a valid test
implemented.

Rough support of wild-carded testnames such as "CreatePipeline*NotConsumed" is
included.

tests: Add InvalidBarriers layer validation test

Change-Id: I77f771943aac77d9bafc9d33336adfb009d1b616

project: Fix tabs, whitespace and line endings

Change-Id: I9cca32a98a1b984b44eca42e4805461c220ae04f

tests: GH426 Cleanup of dynamic state binding validation tests

All dynamic state binding cases had tests, but were not correctly documented.
This changes merges them all into a single test, DynamicStatesNotBound, to speed
test time and documentation was updated to record that test for the 9 related tests.

layers: GH465 Add validation for now bound VkPipeline

At the time of a Draw or Dispatch, a pipeline must be bound to the
command buffer. This adds a check to verify that.
Added tests for both draw and compute cases to verify the check.

external: GH#246, Move glslang and spirv-tools inside of dir tree

Have update_external_sources create a sub-directory "external" to
fetch these components into. This way the update_external_sources
does not potentially overwrite files outside the directory tree.

Change-Id: Ia03d1fb9e4dad9d9db26a46e596fb1bf24fcb033

demos: Add location to smoketest varyings

Change-Id: I6fb9d1d0ffd8b51988bc0768afedc0e9fb510cc5

header: Move to  header version 1.0.12
Adds an AMD rasterization order extension

Change-Id: I62d17b0437e190da4d44f65a59b8cc246f05b567

layers: Add extension-enabled check to vkDestroySurfaceKHR().

Because the WSI functions are statically exported (i.e. no need to call gpa()
functions), the swapchain layer is supposed to issue an error if any WSI
function is called without its corresponding extension being enabled.  For
example, the VK_KHR_swapchain extension must be enabled before the
vkCreateSwapchainKHR() function is called.

winrtinstaller: added patch file to be used when building nsis

layers: Make unique object IDs unique cross-device and cross-instance

Change-Id: Ic45e21bd3137dc0474c59f0f4cf9331f070dac20

Remove fences once they have been waited on.

layers: Add fence in use for bind sparse info.

layers: GH463 Fix layout compatibility check

After lh and rh layout descriptorCounts were verified to be the same, the
next check was testing the descriptor count for each binding in the lh binding
against the entire descriptor count for the rh layout. The check should be made
just against the descriptor count for the specific binding we're checking in
the rh layout.

layers: GH439 Fix locking in Destroy* funcs

Change-Id: Icd9c2b63f8e59b39ad0349bc5a4456cbd88a5803

demos: Change tri to not require shaderClipDistance

Change-Id: Iaa1afa361d29022388005c173054f714c64fb7d7

layers: Fix access violation

Move the get_dispatch_key(instance/device) call before calling the
driver's vkDestroyDevice/vkDestroyInstance functions in
unique_objects.  This addresses an access violation error reported
by Application Verifier on Windows due to the previously destroyed
instance/device handle being dereferenced.

Change-Id: I151d42fb8a897d9d3b3c988813108b0b6b5b6b0d

windowsRuntimeInstaller: improve documentation on how to build RT installer

layers: Clarify error message for pipelineLayout incompatible

layers: Add 0 check for VkFlags array elements

- Add parameter validation for the case where the elements in an
  array of VkFlags values must not be 0
- Replace the template parameter in the VkFlags validation functions
  with the VkFlags base type.

Change-Id: Ie85d4d048b21e73409ff817425a1db64570e1b2f

layers: Add VkFlags parameter validation

Add parameter validation for VkFlags derived types to the
parameter_validation layer's code generation scripts.  The following
validation checks are performed:
 - If a VkFlags parameter is not marked as optional in the XML, a message
   is generated when the parameter is 0.
 - If a VkFlags parameter is not 0, a message is generated if it combines
   bits that are not defined by its associated flag bits enumeration.
 - If a VkFlags parameter does not have an associated flag bits
   enumeration it is treated as a reserved value that must be 0.

Change-Id: I6daed360cde46e2a27c84deda1e0798621f92d50

layers: Merge enum array NULL/value checks

- Merge the NULL checks and enumeration value checks performed for arrays
  of enumeration values into a single function call.  This is consistent
  with the validation for arrays of other types.
- Reduce duplicate array checking code.

Change-Id: I8c4e05542bb2f52f5623fe6c7ed3629b9b2680e0

loader: Add compile-time option for layer search paths.

This enables programatically specifying search directories for the
layer JSON files. This makes deploying and running compiled layers
in local and automated testing with multiple configurations a much
simpler process.

Change-Id: I0904ef230d020004d8d71cbe265e83cdb6120db8

Revert "loader: Remove the default directory paths for ICDs and layers"

This reverts commit b1e6b564616c40062b81d0b8b90e8689dd9aea11.

Change-Id: I9e6bfad81369912c85c3122d6d36093c3c148454

demos+tests: Add HOST_COHERENT to HOST_VISIBLE memory requests

Where the memory is going to be mapped

Change-Id: I66c4f5950fa77fe8b785b12233adbc4e9db797ce

demos: replace raw value with Vulkan constant in demos

Change-Id: I517467bc1afae07fdf6346596908ddb15757dc5d

docs: #444 Fix clang-format instructions

demos: Fix-ups so that cube/tri build and run on both linux & android

android: Start using vulkan_wrapper in cube and tri

android: Move vulkan_wrapper to common (from Cody)

Fix cube for android.

Make tri work on android.

docs: Add info for layer tests to CONTRIBUTING

loader: don't remove loader structs from CreateInfo for ICD

pNext/sType extension structs  that are unknown to a component must
be ignored by those components (layers, loader, ICDs).  Loader was
stripping off the pNext structs it added to DeviceCreateInfo and
InstanceCreateInfo. Remove this stripping as the loader passes needed
info to layers and ICDs via this.

Change-Id: I49f169660474cffba276afac0c224e1b74eaa4bc

build: Fix Windows build issues

android: Fix layer build

Warning as error, struct field initialization not matching
order of declaration.

layers: Use tmp callback for msgs during vk{Create|Destroy}Instance().

This is implements some relatively-new functionality of the VK_EXT_debug_report
extension.  An application can pass VkDebugReportCallbackCreateInfoEXT structs
on the pNext chain given to vkCreateInstance(), in order to setup one or more
callbacks that can be used during vk{Create|Destroy}Instance().  These special,
"temporary callbacks" allow messages (e.g. errors) to be logged during the time
when the debug_report extension is normally not setup.

A set of utilities copy VkDebugReportCallbackCreateInfoEXT structs from the
pNext chain given to vkCreateInstance().  These utilities are used by the
validation layers that may have messages (e.g. errors) during
vk{Create|Destroy}Instance().