transport: check if layer was set to closed

There are several code paths and error conditions where
transport->layer is correctly set to TRANSPORT_LAYER_CLOSED but
the required code for checking that state was missing.

E.g. write errors in the rdg code resulted in marking the transport
layer as closed but the transport code would indefinitely continue
to read from the receiving socket.

Merge pull request #5795 from akallabeth/swscale_find_fix

Fixed SWScale cmake find script.

Fixed SWScale cmake find script.

* Wrong name for pkg-config (thanks @floppym for pointing that out)
* Formatting issues, there were spaces in path and variables that
  should not have been there.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Merge pull request #5790 from akallabeth/rdpei_no_thread

Removed touch input channel thread

Merge pull request #5793 from akallabeth/smartcard_cherry_pick

Tell the server that smartcard is redirected

Increased client build number

According to [MS-RDPESC] 1.7 Versioning and Capability Negotiation
the client build is used to determine feature / behaviour.
Announce something more modern than Windows XP SP3.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Tell the server that smartcard is redirected

There were server-side changes on Windows 2012 and newer regarding
smartcards, namely the Smart Card Service start and stop behavior:
https://docs.microsoft.com/en-us/previous-versions/windows/it-pro/windows-server-2012-r2-and-2012/hh849637(v%3Dws.11)#smart-card-service-start-and-stop-behavior

Some people see "No valid certificates were found on this smart card",
when the Smart Card Service is not running and has to use various
workarounds to start the service manually, e.g.:
http://blogs.danosaab.com/2016/12/using-smart-card-with-remote-desktop-connection-on-mac-osx/
http://www.edugeek.net/forums/windows-server-2012/161255-smart-card-service-issue-windows-server-2012r2-terminal-services-hyperv.html

I've been looking at RDP specifications and found that
REDIRECTED_SMARTCARD should be probably specified in TS_UD_CS_CLUSTER
block flags when the smartcard is redirected, but it is not currently:
https://docs.microsoft.com/en-us/openspecs/windows_protocols/ms-rdpbcgr/d68c629f-36a1-4a40-afd0-8b3e56d29aac

This might be the reason, why the Smart Card Service is not
autostarted for some people. Let's try to set this flag and see what
will happens...

https://github.com/FreeRDP/FreeRDP/issues/4743
Signed-off-by: Armin Novak <armin.novak@thincast.com>

Removed touch input channel thread

The touch input channel only sends small events (touch points et al)
and therefore does not require a heavy processing thread.

server: proxy: proxy keyboard leds and imei

Merge pull request #5768 from akallabeth/timezone_update

Timezone update

update: add proper stream checks

winpr: SetWaitableTimer should not free the handle if it fails

rdp.c : fix DATA_PDU_TYPE_STRINGS mismatch declaration when WITH_DEBUG_ALL=ON

Merge pull request #5778 from akallabeth/shadow_warnings

Added warning to win shadow server

fix typo of jpeg

rdpgfx: surface_to_scaled_window: fix pdu type

core: server: update: fix update_send_new_or_existing_notification_icons

core: server: add missing NULL check in FreeRDP_WTSVirtualChannelRead

rail: keep extendedSpiSupported flag synced

rail: stream size checks and rail_read_sysparam_order fixes

Stream size checks for rail_write_sysparam_order

Ensure the stream is large enough to hold the data
in rail_write_sysparam_order, rail_write_high_contrast and
rail_write_filterkeys.

proxy: Implement RAIL support in proxy

rail server: implement channel code for rail server

* Split common functionality from client code
* Clean up client code and use proper defines for constants
* Implements the channel code to read/write server side
  messages.

channels.c: Send the CHANNEL_OPTION_SHOW_PROTOCOL option only in client mode

According to MS-RDPBCGR section 2.2.1.3.4.1, this option should only be
sent as a client. If set by a server, mstsc will crash.

info.c: Set hidef Remote App flag on info packet read

update.c: Implement rail server altsec window orders

Added warning to win shadow server

Currently the windows shadow server does not support authentication.
Log that fact so everyone using it is notified on each login.

reply with empty irp package with error code, if irp device is unavailable

update timezones.

Update WindowsZones.c

New python script for zone generation

Replace the old C# script with a python script to generate
WindowsZones.c, update to new location of XML

Merge pull request #5766 from akallabeth/rdpsnd_no_thread

Rdpsnd no thread

Removed some unnecessary casts.

Removed rdpsnd client thread

The thread used to process audio data is not really required
and just produces overhead.

Merge pull request #5765 from akallabeth/add_missing_stream_write

Added missing Stream_Write_INT32

Added missing Stream_Write_INT32

Merge pull request #5739 from akallabeth/improve_function_hiding

Improve function hiding

Remove symbols exported by accident.

Merge pull request #5762 from akallabeth/rdp_file_smart_sizing

SmartSizingWidth and SmartSizingHeight in RDP file:

primitives: use host pointers for openCL

Using host pointers may skip the need for copying buffers.

SmartSizingWidth and SmartSizingHeight in RDP file:

Adding this option to use the DesktopHeight and DesktopWidth as
parameters for the SmartSizingWidth and SmartSizingHeight, as there
are no options for that in standard RDP files.

Equivalent of doing /smart-sizing:WxH

Merge pull request #5761 from akallabeth/rdp_file_add_option

Added RDP file option 'desktop size id:i:' support.

Added RDP file option 'desktop size id:i:' support.

Merge pull request #5748 from akallabeth/mac_sound_no_mic

Fix #5747: Only open output device in rdpsnd for mac.

Merge pull request #5753 from akallabeth/win_clipboard_ignore_open_fail

Fix #5749: Retry to open the clipboard.

Merge pull request #5756 from akallabeth/nocodec_length_check

Added data length check for RDP_CODEC_ID_NONE

Added data length check for RDP_CODEC_ID_NONE

Fix #5749: Retry to open the clipboard.

On windows the clipboard is shared and other applications
or windows might lock the clipboard.
For this reason, retry opening if it fails and ignore
failure to open during normal operation.

winpr: fix anonymous enum members and menbers without a size

Fix #5747: Only open output device in rdpsnd for mac.

Updated primitive function const correctness.

Added YUV444 kernel

Fixed intialization of opencl primitives and warnings.

opencl: inline the openCL program in the source code

Fixed init code.

Fixed primitives cleanup code.

Cleaned up primitives code.

primitives: add openCL support

This patch adds the basic infrastructure to have openCL acceleration.
For now only YUV2RGB is implemented but other operations could be
implemented.
The primitives have been massively reworked so that we have an autodetect
mode that will pick the best implementation automatically by performing a
benchmark.

Sponsored-by: Rangee Gmbh(http://www.rangee.com)

rails: shorten logs

Merge pull request #5743 from akallabeth/32bit_warn_fix

Fix #5741: Limit strnlen checks to INT_MAX to silence compile on 32bi…

Fixed GetEnvironmentStrings test

Some os return an invalid/wrong character count if a string with
unknown symbols is printed to stdout.
Instead use the sprintf family and print to a buffer / determine
the required buffer size.

Merge pull request #5738 from akallabeth/hide_unexported_functions

Do not export functions that are purely internal.

Fix #5741: Limit strnlen checks to INT_MAX to silence compile on 32bit builds.

Merge pull request #5736 from akallabeth/makecert_cleanups

Cleaned up code for makecert.

Do not export functions that are purely internal.

Fixed scanbuild warnings.

Merge pull request #5729 from akallabeth/drive_redirect_space_fix

Drive redirect space fix

Cleaned up code for makecert.

Fixed path NULL checks.

Merge pull request #5706 from akallabeth/tcp_keepalive

Configurable Tcp keepalive

Merge pull request #5724 from akallabeth/opaque

Opaqueified structs

Fixed #5727: drive_process_irp_create set path to NULL if not provided.

Fixed #5727: use getmntent to read /proc/mounts

Fixed #5727: Remove forbidden symbols from drive name

rdpNineGridCache now opaque

MPPC_CONTEXT now opaque

NCRUSH_CONTEXT now opaque

XCRUSH_CONTEXT now opaque

rdpOffscreenCache now opaque

rdpBrushCache now opaque

Merge pull request #5715 from akallabeth/table_gen

Fixed #5713: Use proper types to generate tables.c where possible.

Fixed #5713: Use proper types to generate tables.c where possible.

Use the correct type for function arguments of DVCPluginEntry type
and void* for type DeviceServiceEntry when generating tables.c

Merge pull request #5722 from akallabeth/primitives_const_source

Modified primitives function pointer to take const pointer to const data

Modified primitives function pointer to take const pointer to const data

fix [build]: don't export rdp2tcp as cmake target

rdp2tcp was wrongly exposed as cmake target. This could lead to errors
like the following when the FreeRDP2 cmake file was required:

CMake Error at ../lib/cmake/FreeRDP2/FreeRDPTargets.cmake:73 (message):

  The imported target "rdp2tcp-client" references the file
     ".../lib/freerdp2/librdp2tcp-client.a"
  but this file does not exist.  Possible reasons include:
* The file was deleted, renamed, or moved to another location.
* An install or uninstall procedure did not complete successfully.
* The installation package was faulty and contained
     ".../lib/cmake/FreeRDP2/FreeRDPTargets.cmake"
  but not all the files it references.

Merge pull request #5718 from akallabeth/remdesk_fix

Fixed cleanup of remdesk in CHANNEL_EVENT_WRITE_COMPLETE

Fixed cleanup of remdesk in CHANNEL_EVENT_WRITE_COMPLETE

cliprdr: common: fix validation of file contents request pdu

server: proxy: fix sync issue in gfx opening

Merge pull request #5711 from akallabeth/diff

Fixed broken strnlen checks

Fixed broken strnlen checks

Merge pull request #5709 from akallabeth/diff

Fixed broken length calculation in rdp_write_extended_info_packet

Fixed broken length calculation in rdp_write_extended_info_packet

Added configurable TcpKeepAliveDelay setting.

Implemented configurable tcp keepalive and timeout detection

Added additional tcp keep alive settings.

Added TcpKeepalive setting, use settings getter const arguments.

Merge pull request #5703 from akallabeth/reformat

Reformatted to new style

Added cast and checks for info packet.

Fixed NULL checks for strnlen calls, limit static channel name length.

As reported by @metametaclass in #5687 check the strings for NULL before
using strnlen. Also extend the same checks to static channel loading.