Merge pull request #5841 from akallabeth/vaapi_fixes

Vaapi fixes

Merge pull request #5836 from kubistika/proxy/fix_rail_and_update_issues

fixes: rail and update issues

Merge pull request #5783 from akallabeth/gfx_mask_arg

Added /gfx and /gfx-h264 option mask=<value>

Fixed #5839: Use correct pointer to cast.

Add CMake config option for VAAPI

core: rdp: reset rdp->nla in rdp_reset

client/X11: Avoid crash in XGetDeviceButtonMapping()

XOpenDevice() may fail and return NULL, so try to find the first
pointer device that can be opened, and ensure that ptr_dev argument
is not NULL before passing it to XGetDeviceButtonMapping().

Merge pull request #5750 from akallabeth/encomsp_auto

Encomsp automatic input control && cleanups

rdpsnd: server: fix leak in rdpsnd_server_context_free

server: update: made functions static

update: update_send_new_or_existing_window: fix signed/unsigned according to spec

server: update: call update_check_flush whenever using the reused update buffer

Merge pull request #5831 from akallabeth/drdynvc_error_tolerance

Ignore dynamic virtual channel errors

Merge pull request #5835 from akallabeth/planar_chroma_subsample

Implemented chroma subsampling for planar non RLE

server: proxy: fix race condition when between client thread and server update thread

Fixed remaining issues with chroma subsampling.

Fixed inverted color formats in YCoCgRToRGB_8u_AC4R

Fixed planar size checks.

Enabled YCoCg for planar.

Added planar RLE chroma subsampling.

Implemented chroma subsampling for planar non RLE

Planar frames that are not RLE encoded can now be decoded if
chroma subsampling is enabled. Partly fixes #5822

server: proxy: fix pf_modules_init

Merge pull request #5796 from akallabeth/rdp_10_7_large_pointers

Added RDP 10.7 large pointer support

server: proxy: do not compile modules by default

server: proxy: shutdown gracefully

server: proxy: rewrite modules API

* Add support for C++ plugins.
* Seperate between a "module" and a "plugin": a module is a shared
library that exposes a function called "proxy_module_entry_point". This
function gets a parameter to `proxyPluginsManager*`, which can be used to
register plugins.
* Refine the API of the modules infrastructure:
 * use proxyData* instead of rdpContext* when firing a hook or calling a filter.
 * use clearer names.
* Instead of having to specify a path for each module to be loaded in
the configuration, the proxy now loads modules from specificed
directory, using the CMAKE variable PROXY_PLUGINDIR.
* Add an option to specify required plugins: plugins that the proxy
wouldn't start without having them fully loaded.

winpr: collections: add ArrayList_ForEach

rail/server: rename rdpContext to rdpcontext

Fixes a compilation error when mixing c++ and c code.

Added /gfx and /gfx-h264 option mask=<value>

With this new option the gfx capability set can be masked to only
announce older versions of the protocol if required.
(Fixes #5771)

Merge pull request #5832 from akallabeth/libusb_doc_misleading

Libusb doc misleading

Added fallback for libusb < 1.0.19

we use stream_id functions which were introduced with 1.0.19

Fixed LIBUSB_HOTPLUG_NO_FLAGS definition

libusb documentation is a bit misleading, this flag was
introduced with 1.0.20

rdpgfx: client: fix leak when using rdpgfx_client_context_new API

server: fix leak in WTSCloseServer

make sure every pending message that wouldn't be handled because the
server is closing, will be free()ed as expected.

fix memory leaks in disp server and gfx.c

server: proxy: fix leak in pf_context_copy_settings

winpr: don't close file descriptor if we set it again to the same file

Merge pull request #5752 from akallabeth/manpage_no_err

Allow to generate docbook with 0 length.

Ignore dynamic virtual channel errors

If a dynamic virtual channel can not process a message, ignore it.

Merge pull request #5827 from akallabeth/nightly_fix

Extend LIBUSB_API_VERSION check

Extend LIBUSB_API_VERSION check

The define exists since 1.0.13, so to compensate for older also
check if the variable is defined.

Merge pull request #5824 from akallabeth/ntstatus_helper

Added NtStatus2Tag function to stringify NTSTATUS

Added NtStatus2Tag function to stringify NTSTATUS

For higher level applications it is easier to translate known
strings instead of error codes. this function allows
to retrieve known string identifiers that can be translated.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Merge pull request #5823 from akallabeth/set_transport_err

Set transport error on close

Setting optional last error on transport close

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Added macro freerdp_set_last_error_if_not

This macro replaces the multiple instances where the current
error state is checked before setting an optional error state.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Merge pull request #5821 from akallabeth/smartcard_log_err

Added debug log messages for SCARD_E_NO_SERVICE

Merge pull request #5819 from akallabeth/last_error_informative

make Last error more informative

Merge pull request #5818 from akallabeth/winmm_refactor

RDPSND device API refinements

Added debug log messages for SCARD_E_NO_SERVICE

Log where and what caused SCARD_E_NO_SERVICE return in smartcard
wrapper

Fixed waveOutClose, call waveOutReset first.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Added an error message in rdp_set_error_info

If the provided arguments are not properly set up write
an error message explaining what is wrong.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

proxy: Add received response in case of an error

CONNECT_TRANSPORT_FAILED in transport_check_fds

If TRANSPORT_LAYER_CLOSED was detected in transport_check_fds
check if there is already a connection error set, otherwise
set FREERDP_ERROR_CONNECT_TRANSPORT_FAILED to allow proper
reconnect or abort handling.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Added freerdp_set_last_error_ex function

This new function allows better logging of call locations
for errors. Additionally added freerdp_set_error_log macro
to record function, file and line the error was set.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Fallback definition for LIBUSB_HOTPLUG_NO_FLAGS

The flag was first introduced with libusb 1.0.16, so
define it if we are using an older version.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

RDPSND device API refinements

* Added default format callback for rdpsnd backend to allow
  different default input formats (different samplerates, ...)
* Made WINMM backend in flight packet limitation a compile time
  option
* Fixed missing buffer copy in winmm backend

Signed-off-by: Armin Novak <armin.novak@thincast.com>

channels: Fix memory leak and make log messages more precise

server: proxy: add a unique id to each session and improve logs

server: proxy: move peer initialization to seperate function

winpr: thread: fix wrong log level in ThreadCloseHandle

wf_rail.c: fix crash if CreateWindowEx failed (#5812)

* wf_rail.c: fix crash if CreateWindowEx failed

Co-authored-by: tensorflow123 <kunming.xie@hotmail.com>

Merge pull request #5802 from dragonuaix/master

Update comm_serial_sys.c

server: proxy: make fallback to tls configurable

Merge pull request #5813 from akallabeth/win_drive_name_fix

Fix #5805: windows hotplug drive detection.

Fixed duplicate definition in TestGetComputerName

Fixed freerdp_settings_new error cleanup.

Fix #5805: windows hotplug drive detection.

Merge pull request #5745 from akallabeth/urbdrc_rewrite

Urbdrc rewrite

Merge pull request #5811 from mfleisz/mac_rdpsnd_workaround

rdpsnd: Do not set output device on Catalina or later (#5747)

rdpsnd: Do not set output device on Catalina or later (#5747)

Merge pull request #5806 from mfleisz/fix_no_audio_device_handling

Fix audio channel init when no audio devices are present

Fix audio channel init when no audio devices are present

This PR fixes the handling of using rdpsnd or audin when the system has
no audio device available.
In case of a missing playback device the
Windows backend now correctly reports an error and the fake rdpsnd
backend is loaded.
If audin is enabled and no microphone is present the channel
initialization will report an error but it won't cut the connection (as
it did before).

Merge pull request #5803 from nfedera/nf_add_transport_layer_closed_check

transport: check if layer was set to closed

transport: check if layer was set to closed

There are several code paths and error conditions where
transport->layer is correctly set to TRANSPORT_LAYER_CLOSED but
the required code for checking that state was missing.

E.g. write errors in the rdg code resulted in marking the transport
layer as closed but the transport code would indefinitely continue
to read from the receiving socket.

Update comm_serial_sys.c

Merge pull request #5795 from akallabeth/swscale_find_fix

Fixed SWScale cmake find script.

Support for RDP protocol version 10.7

* Adds support for 10.7 protocol version
* Uses it as client default

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Added RDP 10.7 large pointer support

* Implements [MS-RDPBCGR] version 51 large pointer support.
* Logs unknown large pointer capability flags as warning.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Fixed SWScale cmake find script.

* Wrong name for pkg-config (thanks @floppym for pointing that out)
* Formatting issues, there were spaces in path and variables that
  should not have been there.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Merge pull request #5790 from akallabeth/rdpei_no_thread

Removed touch input channel thread

Merge pull request #5793 from akallabeth/smartcard_cherry_pick

Tell the server that smartcard is redirected

Increased client build number

According to [MS-RDPESC] 1.7 Versioning and Capability Negotiation
the client build is used to determine feature / behaviour.
Announce something more modern than Windows XP SP3.

Signed-off-by: Armin Novak <armin.novak@thincast.com>

Tell the server that smartcard is redirected

There were server-side changes on Windows 2012 and newer regarding
smartcards, namely the Smart Card Service start and stop behavior:
https://docs.microsoft.com/en-us/previous-versions/windows/it-pro/windows-server-2012-r2-and-2012/hh849637(v%3Dws.11)#smart-card-service-start-and-stop-behavior

Some people see "No valid certificates were found on this smart card",
when the Smart Card Service is not running and has to use various
workarounds to start the service manually, e.g.:
http://blogs.danosaab.com/2016/12/using-smart-card-with-remote-desktop-connection-on-mac-osx/
http://www.edugeek.net/forums/windows-server-2012/161255-smart-card-service-issue-windows-server-2012r2-terminal-services-hyperv.html

I've been looking at RDP specifications and found that
REDIRECTED_SMARTCARD should be probably specified in TS_UD_CS_CLUSTER
block flags when the smartcard is redirected, but it is not currently:
https://docs.microsoft.com/en-us/openspecs/windows_protocols/ms-rdpbcgr/d68c629f-36a1-4a40-afd0-8b3e56d29aac

This might be the reason, why the Smart Card Service is not
autostarted for some people. Let's try to set this flag and see what
will happens...

https://github.com/FreeRDP/FreeRDP/issues/4743
Signed-off-by: Armin Novak <armin.novak@thincast.com>

Removed touch input channel thread

The touch input channel only sends small events (touch points et al)
and therefore does not require a heavy processing thread.

Fixed stream handling and missing includes.

server: proxy: proxy keyboard leds and imei

Merge pull request #5768 from akallabeth/timezone_update

Timezone update

update: add proper stream checks

winpr: SetWaitableTimer should not free the handle if it fails

rdp.c : fix DATA_PDU_TYPE_STRINGS mismatch declaration when WITH_DEBUG_ALL=ON

Merge pull request #5778 from akallabeth/shadow_warnings

Added warning to win shadow server

fix typo of jpeg

rdpgfx: surface_to_scaled_window: fix pdu type

core: server: update: fix update_send_new_or_existing_notification_icons

core: server: add missing NULL check in FreeRDP_WTSVirtualChannelRead

rail: keep extendedSpiSupported flag synced

rail: stream size checks and rail_read_sysparam_order fixes

Stream size checks for rail_write_sysparam_order

Ensure the stream is large enough to hold the data
in rail_write_sysparam_order, rail_write_high_contrast and
rail_write_filterkeys.

proxy: Implement RAIL support in proxy