Merge pull request #201 from critsec/vkjson-build-fixes

vkjson: Fix include paths and clang errors

demos: Change MSVC proj files to remove PATH  and add VK_LAYER_PATH

The PATH is lower in search order so ICD that install loader in System32
which is now happening no longer find the local built vulkan-1.dll via the
PATH setting. Add the VK_LAYER_PATH  so the local built layers get found.

Change-Id: I56097199a108e30fdf4787e09e62c8ca1544de91

cmake: Add post build event for MSVC for vulkan dll copy

This allows the demos and tests directories to find the locally
built vulkan-1.dll instead of that installed in the system32 directory.

Change-Id: I3177f4ba00d81addbd4df12e1d4f943d95824ff4

demos: Fix 32-bit Windows compilation problem.

demos: add missing signal.h to tri.

Change-Id: If1e509850506495126e827b8605e00fc3ef8c7f9

demos: Implement --break for cube and tri.

This argument makes the program stop in the debugger on a
validation error.  Only makes sense to use it with --validate.

layers: DL - Get inheritedQueries support from physical device features

Change-Id: I6f9c045d6154d2c08aa2516caf8e250dcef22e84

loader: ghlvl#79, Fix to not report unsupported WSI surface extensions on Linux

Also fix issue where loader would advertise support for these extensions even if
the ICD or layers doesn't support it.  Now ICD must report surface extensions
for the loader to report them.  And on Linux if loader support for a given
surface extension (eg Mir) is compiled out then loader doesn't report it.

Change-Id: I51e302a32f5431f4893a3795ff31be60e9263f43

demos: Simplify vulkaninfo to not enable any extensions.

For the Linux WSI surface extensions  where BOTH ICD and loader support is
needed for an extension to be supported there was an issue.  If ICD supported
extensions was not equal to loader supported extensions vulkaninfo would error
exit.

Change-Id: Ib6e07d92491b04b1fb90cbf1c6793ae766944d50

layers: Use vector::resize instead of reserve to avoid portability issue.

Fixes layer crash on Windows with cube --validate.  On Windows,
std::vector won't bump up the size of a vector (up to the reserved
amount) on an out_of_range access, while linux will.

layers: Fix issue when sub-passes have diff attachment count.

In core_validation, if the attachment count between a primary
and secondary sub-pass was different, then it should treat
the shorter one as UNUSED.  So, if the longer one has the
attachment flags set to UNUSED, it shouldn't be an error.

Change-Id: I3647403551962ef522e7e2ba7ab10a5cb7466c52

loader: Fix bugs found in code review.

cube: Call vkCreateInstance so that it sets up a temporary callback.

loader: Setup temporary callback for vkDestroyInstance

layers: Replace ptr-to-ptr descriptor data struct with vector

We were using GENERIC_HEADER** ppDescriptors to track updates to slots.
This was pretty messy so make it a bit cleaner with a vector instead.

layers: Add check for renderArea being within framebuffer bounds.

layers: LX453 fix typo in output message.

Change-Id: I7ec8ba429a886bee14dd5a209fa6718941ec19d5

layers: Make layout checks warnings for pass begin.

layers: Update layout mismatch message to provide more detail.

demos: Unify cmd arg handling between cube and tri.

Add --c (frame count) handling to tri to improve testability and
to bring it up to par with cube.
Fix exit code return in both cube and tri for Windows.

Change-Id: I27516b9fc0d13f25f5511ab159a80159c2550237

loader: Fix some typos from the recent WSI checkins: broke wayland

Change-Id: Ie25aaf462498eae7fcc31784015e22376e31a70a

loader: Convert fprintf() calls to loader_log()

layers: WSI functions should not work unless enabled.

The WSI extension functions are special.  They are statically exported from the
loader.  This means that an application can directly link against them, and not
have to call a vkGet*ProcAddr function.  However, the application is still
reponsible for for enabling the appropriate WSI extension.

An application was observed that called the WSI functions without enabling the
appropriate extensions.  It worked.  When that application was run with the
validation layers, it crashed.  A change was made to the layer to make sure
that an error was always logged.  It was decided that the loader should change
so that the terminator functions not work (and print a brief message) if an
application calls the function without enabling its extension.  This is done in
the terminator so that the validation layer can be called, which should log a
good error message; and yet still done here in case the application is never
tried with validation turned on.

loader: ghlvl 116 Fix CreateDevice to use the proper ICDs PhysDev

This is needed for querying extensoins from the ICD.

Change-Id: I5655d33d15bf0ea6de506f81821a30dd81ca3d5a

layers: Migrate active_sets to active_slots

Previously for pipelines we were only tracking which sets were being used.
This change refined active_sets to active_slots. The slots include both the
set and the binding that are in use by the shader. This cleans up a couple
loops and prevents cases where we were checking inactive slots.

layers: Fix layout transitions for combined aspect masks.

android: Re-enable layer validation tests using shaderc and vulkan_wrapper

layers: Additional mutex fixes

Change-Id: I0b1678a97f962ec30903c9076f08668ec89fc981

layers: GH177 Fix deadlocks

Fix some early return cases where lock wasn't correctly released.

layers: fix bad api version

Change-Id: I664a773b7e8dfd7453754227f6a424311c4aa734

GH171: Use relative path for building Android bits

GH171: Fix compiler warning

GH171: Fix for NDK packaging

Script depends on current working directory to
be this same as where the script lives so make
sure that's the case.
Return 0 so NDK tools know things were successful.

layers: remove weird double assignment to pAttachments

layers: LX450, Tighten up queueFamilyIndex validation, fix crash

For CreateBuffer and CreateImage the QFIs should be ignored unless
sharingMode is set to CONCURRENT.  Also added QFI validation to
CreateCommandPool and added a special case for when an index is
incorrectly set to QUEUE_FAMILY_IGNORED.

Change-Id: I17639230ea7aa58ab89b9b0dc33e55927e9f1c84

layers: Merge renderpass maps in core_validation

Kill passMap, merge all renderpass data into RENDER_PASS_NODE and only use renderPassMap.

layers: Merge framebuffer maps in core_validation

Add attachments container to FRAMEBUFFER_NODE and only use frameBufferMap.

layers: LX448, Prevent descriptorSetCount overflow in core_validation

Tracking descriptor and descriptorSet counts was incorrect, sometimes causing
integer overflow and application crashes for large createInfo values.

Change-Id: I92196659d6a7476582aa069e42c9a0d7228ba087

layers: Fix AV in core_validaton

Caused crashes in DOTA2

Change-Id: I74d121641872597a63ea42e13ff860112fc7c314

layers: Fix up MTMERGE in CV layer to allow disabling mem_tracker validation

Need this for debugging, it now works again. Renamed .cpp defines to
MTMERGESOURCE to prevent header file conflicts.

Change-Id: Ie144be32dedf8e9b370437583af60413043865ef

layers: GH117: Change warning to an error.

layers: GH117: swapchain layer warns if app uses neither semaphore nor fence.

This addresses github issue #117.  Applications should call
vkAcquireNextImageKHR with either a valid semaphore and/or fence.  Issue a
warning if both are set to VK_NULL_HANDLE.

demos: cube exit status reflects validation status

Normal exit code is 0, but exit with code 1 if validation fails.

Change-Id: Ic8bb960b09e1b9f3274188eb4a30151ae6f3d0a0

winrtinstaller: sign Config powershell script

tests: Use header macro for API version rather than make_version

Change-Id: I454b5d2c4deea46712dff9d5c2af72af683f05a3

misc: Update to header version 1.0.6

Change-Id: Idf7a9d40278b796e16effa54e9b60668d275b8ec

Remove device from layer_data_map at destroy in parameter_validation

Change-Id: Ife2286cc807288c9900b084f5f7c5a09d830f87a

layers: Update event tracking to account for sequential cross command buffer and queue tracking.

layers: Merge of cmd buffer maps in core_validation

This is the first step in killing cbMap from mem_tracker and merging
all cmd buffer tracking into commandBufferMap.
This removes all cbMap references, merges some data between the two maps
as appropriate, and replicates some of the mem_tracker data into the
GLOBAL_CB_NODE struct.
There is still some work to be done here in order to remove some of
the replicated data and improve some algorithms that use the
commandBufferMap to avoid duplicate efforts.

build: Cleanup build_windows_targets.bat

- This batch file can be run in any of the three repos,
  Vulkan-LoaderAndValidationLayers, VulkanTools, and VulkanSamples,
  so remove comments suggesting otherwise.
- Replace spot-check for an artifact with checking errorlevel
  from msbuild to discover build failures.

layers: Fix message for array layers to say array layers.

layers: tidy up PIPELINE_NODE a bit

V2: Incorporate review feedback
V3: Squash warning from printf(size_t).

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Slightly simplify descriptor uses loop in SC

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: GH157 Update error messages to be consistent

Print dynamic offset in error messages as hex to be consistent.
Also fix typos of offet->offset

layers: Add lock around erase from frameBufferMap in core_validation

Change-Id: I042573b54876e63c19140948a26d388934e1a3c9

layers: Fix core_validation layer cube --validate failure

Change-Id: Ice327b98f0befa0a605155b5ebe3dfe359db6020

layers: GH156 (bug-155): Check for WSI enables

https://github.com/KhronosGroup/Vulkan-LoaderAndValidationLayers/issues/155

layers: Fix windows issue in smoketest --validate

Change-Id: I50a7d39fcd4b6a9c895cfafd2405058e411220f4

layers: Rename param_checker to parameter_validation

Also, param_check.h -> parameter_validation.h and .json files changed.

Change-Id: I9db10563bcc2640fe6b90588d3c80c4fe50a8a83

Remove faulty LineLength .clang-format directive.

The LineLength: 132 directive was making some clang-format
implementations stop working.  The correct directive is
ColumnLimit.

We also had agreed that the ColumnLimit would be 80 for
all code in this repo except for layers. So remove the
directive here to keep 80 as the default and to reflect
current formatting.

The layers folder has a .clang-format file that correctly
specifies ColumnLimit: 132.

Change-Id: Ic7c2a575e7d52141e3ecbc2e3644210cd85e5ac9

layers: Hold shader_module by unique_ptr, clean up properly

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: More housekeeping: slightly lighten descriptor set compatibility

layers: More housekeeping: use stringstreams for describe_type

layers: Determine required descriptor count when stripping array levels

layers: Add check for descriptor count

We're not really determining how many descriptors the binding needs yet,
so this only catches the descriptorCount==0 case.

layers: Just return the whole binding struct from has_descriptor_binding

We're about to want the descriptorCount too. This was getting absurd.

Allow REMAINING for subresources.

layers: Track lifetime when using cross-queue semaphores.

winrtinstaller: Set up proper Access Control for install/temp dirs and files

This change addresses:
   https://github.com/KhronosGroup/Vulkan-LoaderAndValidationLayers/issues/70

Also made a change to not require a reboot on uninstall if the install dir
is not empty.  This partially addresses:
   https://github.com/KhronosGroup/Vulkan-LoaderAndValidationLayers/issues/70
(A similar change needs to be made to the SDK installer.)

layers: Additional null checks for param_checker

- Add null checks to validation code that dereferences potentially
  null pointers.
- Add asserts to functions that expect certain pointers to never
  be null.

Change-Id: I041b641289c9681ff9177bcec998fc95f6416985

layers: Lock around changes to imageMap in image layer

Change-Id: I75382973eacf80e3ee84fb390c79bc7c19cc14d7

layers: Lock around destroyedFramebuffers inserts in core_validation

Change-Id: I32754ae405c01acbde8a82ebaef0938a5e314f73

layers: Fix 'Debug Report callbacks not removed' error messages

Change-Id: If214e07ab7fd8e50af0528c36595bf92716357f3

layers: Fix validation of vkCmdBindDescriptorSets() during renderpass

Spec allows vkCmdBindDescriptorSets() to be called inside or outside of a
renderpass so killing two core_validation checks that violate this behavior.

layers: Consolidate VkDeviceMemory maps into a single map

There were three separate maps in core_validation.cpp that used VkDeviceMemory for key.
This change consolidates those maps into a single map with DEVICE_MEM_INFO as the value.
To accomadate this I added data to DEVICE_MEM_INFO struct to track mapped image/buffer
ranges as well as image reference for memory with mapped image.

layers: Consolidate properties checks in core_validation

Remove global properties and only use properties from physDevProperties.properties.

layers: Remove global wsi_enabled in core_validation

core_validation layer only needs wsi_enabled bool from devExts struct.

layers: Lock around image and buffer range erases in core validation

Change-Id: Id975474ef331369e5dc57a24ea6051253fb657cf

layers: Consolidate swapchainMaps in core_validation

Remove old mem_tracker swapchainMap and consolidate all swapchain tracking
into the devExts struct swapchainMap.

android: Fix android build

layer_utils needs vk_loader_platform.h

layers: validate capabilities against device features

V2: squashed in feedback.
V3: More careful about VkBool32

Signed-off-by: Chris Forbes <chrisforbes@google.com>

layers: Fix layer debug action initialization

Fix for debug_action option retrieval.

Change-Id: Icd601b337b40830d2f2231cdb0ec22469b5e8ec5

layers: Update validation layer details doc for layer renaming

Delete mem_tracker
Delete draw_state
Add    core_validation

Change-Id: Idc84160b94febf5c4d81ea0c6f34b9f51592e472

layers: Move lock around add_object_create_info in core_validation

Change-Id: I9b183e1231fecc7dce8db9899ee115c5e7a2be3e

layers: Move layer debug action initialization into layer_utils

Also removed dead code from the layer generation script.

Change-Id: I64fdcaaf1aed8152de62079568c8e247333d8c61

winrtinstaller: Allow layers from SDK older than RT to be configured for use

Layers from SDK can be used by an RT if their major, minor, and patch numbers
are the same.

For example, if SDK 1.0.5.0 is already installed, and then RT 1.0.5.1 is
installed. During the RT installation, the layer registry entries will be set
to point to the layers in SDK 1.0.5.0.

layers: Update doc validation to use core_validation filenames

demos: Put smoketest exe in same dir as cube and tri

Change-Id: I35dec36d3e67912375180192e1ca8ed1fa2abe75

layers: Replace draw_state and mem_tracker with core validation

Change-Id: Ib8eb7491f6c60bc6d05da64a2311c8cfa5f88d60

cmake: Find spirv/glslang dependencies

Replace the hardcoded glslang and spirv-tools path with
CMake find macros to find the include, library, and programs.

Change-Id: Id498ad75d663f2795207b39b40a11ddfe2c03920

winrtinstaller: Install both x86 and x64 redist's if either is not installed

Fix for issue:
  https://github.com/KhronosGroup/Vulkan-LoaderAndValidationLayers/issues/109

layers: Add some defensive code to core_validation

Missed a NULL check and assert when I merged in the bindingToIndexMap fix for descriptor type/stageFlags.

cmake: Fix windows debug build for large object files

The core_validation layer is presently large.

Change-Id: Id1ab0dd0af0a3bc18078bdd50bf42add46d77339

layers: Fix crash in core_validation layer

CommandBuffers were getting added to commandPoolMap twice.

Change-Id: I115757751ef0aebb1f2599217b3117beca3cd0b7

layers: Add json files for core_validation layer

Change-Id: I69495151be84fa18feb5a55848eb536ac9e73100

layers: Fix core_validation compilation error

Change-Id: I1ed4fffbf607465239afbce4d7d28b11bceaa548

layers:  Merge mem_tracker and draw_state layers into core_validation layer

cube & tri --validate now use core_validation instead of MT & DS

Very little efficiency has been pulled out for this initial merge.
A few maps have been merged, but otherwise almost all of the mem_tracker
code is pulled intact and surrounded in "#if MTMERGE" blocks.

Change-Id: Icf060bfc0177fc8c9fa7d8d57f7ddc446357b665

layers: GH130 Fix to correctly get type/flags from set binding

We were using bindingToIndexMap to do look-ups into type and stage vectors which is incorrect.
bindingToIndexMap is to index into the original pBindings map that was passed in when the
layout was created. This fix does this to correctly pull type and stage of a binding in draw_state.

winrtinstaller: Verify vulkan-1-*dll has correct file name format

layers: PR118, Remove erroneous validation error from swapchain

Remove error when selecting VK_PRESENT_MODE_FIFO_KHR (required to be supported)
without enumerating the supported presentation modes first.

Change-Id: Iacc8fa55dec1b1f72011041813b423f95912a092