xfreerdp: fix RDP order color conversion

Note: /gdi:sw was working fine, this commit fixes /gdi:hw

* calculate color channel shifts based on X11 visual color masks
* fast path to skip conversion if visual color masks equal rdp color masks
* successfully tested 8/15/16/24/32 bpp rdp sessions on 16/24/32 bpp visuals

Merge pull request #2276 from bmiklautz/build_fixes

Build fixes

Merge pull request #2266 from Vinche59/smartcard

SmartCard

Determine OSX Version ... only on OSX

* Determine OS X Version at runtime

rdtk/shadow: install libraries versioned

build: cmake 3.1 compatibility

* fix problem with REMOVE_DUPLICATES on undefined lists
* since 3.1 file(GLOB FILEPATHS RELATIVE .. returns single / instead of // as
  previously - necessary adoptions for regex and matches done. Should
work with all cmake versions.

Tested with 3.1.0-rc3

Mac: set policy to silent cmake >= 3.0 warnings

Set the following policies to "OLD" if cmake version is greater than
2.8.12:

CMP0026 - Disallow use of the LOCATION target property
CMP0045 - Error on non-existent target in get_target_property

rdtk: build samples only if WITH_SAMPLE is enabled

build: improve X11 detection on OS X

/usr/X11R6 doesn't exist on OS X per default (anymore). Therefore add
PATHS to all X11 detection modules pointing to the Xquarz installation
directory in /opt/X11.
For FindX11 it was also necessary to ensure that the frameworks are
searched as last (after PATHS) otherwise it could happen that X11 headers
of a framework (e.g. Tk.framework) were used.

Merge pull request #2275 from awakecoding/master

TS Gateway Fixes

libfreerdp-core: fix random TS Gateway disconnects with async modes

Merge pull request #2273 from nfedera/fix-2014-12-12-01

Standard RDP Security Layer Levels/Method Overhaul

Standard RDP Security Layer Levels/Method Overhaul

[MS-RDPBCGR] Section 5.3 describes the encryption level and method values for
standard RDP security.

Looking at the current usage of these values in the FreeRDP code gives me
reason to believe that there is a certain lack of understanding of how these
values should be handled.

The encryption level is only configured on the server side in the "Encryption
Level" setting found in the Remote Desktop Session Host Configuration RDP-Tcp
properties dialog and this value is never transferred from the client to the
server over the wire.
The possible options are "None", "Low", "Client Compatible", "High" and
"FIPS Compliant". The client receices this value in the Server Security Data
block (TS_UD_SC_SEC1), probably only for informational purposes and maybe to
give the client the possibility to verify if the server's decision for the
encryption method confirms to the server's encryption level.
The possible encryption methods are "NONE", "40BIT", "56BIT", "128BIT" and
"FIPS" and the RDP client advertises the ones it supports to the server in the
Client Security Data block (TS_UD_CS_SEC).
The server's configured encryption level value restricts the possible final
encryption method.
Something that I was not able to find in the documentation is the priority
level of the individual encryption methods based on which the server makes its
final method decision if there are several options.
My analysis with Windows Servers reveiled that the order is 128, 56, 40, FIPS.
The server only chooses FIPS if the level is "FIPS Comliant" or if it is the
only method advertised by the client.

Bottom line:
* FreeRDP's client side does not need to set settings->EncryptionLevel
(which was done quite frequently).
* FreeRDP's server side does not have to set the supported encryption methods
list in settings->EncryptionMethods

Changes in this commit:

Removed unnecessary/confusing changes of EncryptionLevel/Methods settings

Refactor settings->DisableEncryption
* This value actually means "Advanced RDP Encryption (NLA/TLS) is NOT used"
* The old name caused lots of confusion among developers
* Renamed it to "UseRdpSecurityLayer" (the compare logic stays untouched)

Any client's setting of settings->EncryptionMethods were annihilated
* All clients "want" to set all supported methods
* Some clients forgot 56bit because 56bit was not supported at the time the
code was written
* settings->EncryptionMethods was overwritten anyways in nego_connect()
* Removed all client side settings of settings->EncryptionMethods
The default is "None" (0)
* Changed nego_connect() to advertise all supported methods if
settings->EncryptionMethods is 0 (None)
* Added a commandline option /encryption-methods:comma separated list of the
values "40", "56", "128", "FIPS". E.g. /encryption-methods:56,128
* Print warning if server chooses non-advertised method

Verify received level and method in client's gcc_read_server_security_data
* Only accept valid/known encryption methods
* Verify encryption level/method combinations according to MS-RDPBCGR 5.3.2

Server implementations can now set settings->EncryptionLevel
* The default for settings->EncryptionLevel is 0 (None)
* nego_send_negotiation_response() changes it to ClientCompatible in that case
* default to ClientCompatible if the server implementation set an invalid level

Fix server's gcc_write_server_security_data
* Verify server encryption level value set by server implementations
* Choose rdp encryption method based on level and supported client methods
* Moved FIPS to the lowest priority (only used if other methods are possible)

Updated sample server
* Support RDP Security (RdpKeyFile was not set)
* Added commented sample code for setting the security level

libfreerdp-core: fix leak and use after free in tsg ListDictionary usage

freerdp: patch leaks reported by valgrind when using TS Gateway

Merge pull request #2261 from akallabeth/more_memleak_fixes

More warning and memleak fixes

Merge pull request #2262 from bmiklautz/misc_fixes

Misc fixes

Merge pull request #2265 from TaGUNil/master

Fix segmentation fault in URBDRC

Merge pull request #2272 from akallabeth/ipv6_parser_fix

Fixed conversion of IPv6 to ServerHostname

Initializing ServerHostname string now with 0

Merge pull request #2268 from hardening/rdpei_cleanup_fix

Fix cleanup of RDPEI server-side channel

Fix cleanup of RDPEI server-side channel

* Correct detection of Mac OS X Yosemite Version

SmartCard
* Check for NULL parameters in PCSC_ConvertReaderNameToWinSCard (Issue #2184)
* Remove masking of dwEventState as it is not needed under Linux and MacOSX and it helps in ThinLinc environment
* Workaround for Mac OS X Yosemite (10.10) SCardStatus Bug (Issue #2184)
* Since Mac OS Tiger (10.5.6), Apple introduced new function for SCardControl calls named SCardControl132(), the old SCardControl doesn't work (cf. https://opensource.apple.com/source/SmartCardServices/SmartCardServices-55111/src/PCSC/winscard_clnt.c)

channels/urbdrc: fix segfault

Fix segmentation fault in urbdrc_main.c caused by missing memset.

nego: print message when bypassing gateway

When "detect" is used as gateway usage method (which is the default)
it is tried to by-pass gateway connection for local hosts.
The detection might take some time therefore print a message that people
are aware that a detection is tried.

Fixes #2171

xfreerdp: clean up AuthenticationOnly

* removed dead code path: user name is always set now
* update message if no password was set

xfreerdp: use login name if no user name was set

If no user name is set with /u:.. use the login name of the current user will be
used as user name.

Merge pull request #2259 from erbth/master

fixed shutdown of input thread in xfreerdp

Fixed missing declarations.

Fixed memory leak.

Fixed memory leak.

Fixed missing NULL pointer check.

Fixed uninitialized value.

Fixed uninitialized values in case of error return.

Fixed uninitialized value.

Fixed broken NULL pointer check.

fixed shutdown of input thread in xfreerdp

Merge pull request #2258 from nfedera/fix-2014-12-05-02

gdi: don't pollute invalid region with empty rects

Merge pull request #2257 from nfedera/fix-2014-12-05-01

cache: fixes for GlyphIndex, FastIndex & FastGlyph

gdi: don't pollute invalid region with empty rects

cache: fixes for GlyphIndex, FastIndex & FastGlyph

* update_process_glyph_fragments() ignored the text background rectangle

* moved the OpRight value fix-up to update_process_glyph_fragments() since
  it is required for all glyph primary drawing orders

Merge pull request #2256 from llyzs/llyzs

libfreerdp-core: enable ipv6 listener.

libfreerdp-core: enable ipv6 listener.

Merge pull request #2255 from awakecoding/master

Memory Leak/Corruption Fixes, PulseAudio Detection Fixes

cmake: fix PulseAudio.cmake version detection

Merge branch 'master' of github.com:FreeRDP/FreeRDP

libwinpr-clipboard: fix memory corruption and leaks

Merge pull request #2253 from nfedera/fix-2014-12-04-02

xfreerdp: smart sizing fix

xfreerdp: smart sizing fix

Standard format PictStandardRGB24 is not always available.
Use XRenderFindVisualFormat instead of XRenderFindStandardFormat

Merge branch 'master' of github.com:FreeRDP/FreeRDP

Merge pull request #2251 from nfedera/fix-2014-12-04-01

cliprdr: fix segfault caused by invalid seek value

cliprdr: fix segfault caused by invalid seek value

Merge branch 'master' of github.com:FreeRDP/FreeRDP

Merge pull request #2110 from akallabeth/winpr_backtrace_windows

Winpr backtrace windows

Using fixed size debug string buffers now.

Merge pull request #2248 from nfedera/fix-2014-12-03-02

xfreerdp: fix cliprdr SelectionNotify enless loop

xfreerdp: fix cliprdr SelectionNotify enless loop

xf_cliprdr_process_selection_notify calls xf_cliprdr_send_client_format_list
if the SelectionNotify event property was None.
xf_cliprdr_send_client_format_list called XConvertSelection even if there
was no clipboard owner. In that case the XServer generates a SelectionNotify
event to the requestor (us) with property None and so on ...

The most obvious fix is to ensure that XConvertSelection is not called if
the owner is None which is done in this commit.

freerdp: patch valgrind leaks, cleanup

xfreerdp: fix formating - indentation

Merge pull request #2247 from bmiklautz/fix/resizing_race

xfreerdp: fix a possible re-size race condition

xfreerdp: fix a possible re-size race condition

In case of server side initiated desktop resize it could happen that the
client was "scaling" even if smart-sizing was disabled. The reason for
this was that the "scaled" width and height was set when the X Configure
event arrived but not in xf_desktop_resize.

libfreerdp-core: fix crash on failed redirect

Merge branch 'master' of github.com:FreeRDP/FreeRDP

Conflicts:
winpr/libwinpr/thread/thread.c

Merge pull request #2246 from nfedera/fix-2014-12-03-01

xfreerdp: smart-sizing and software-gdi fixes

xfreerdp: smart-sizing and software-gdi fixes

* fixed crash on server-initiated desktop resize and fullscreen toggle with /gdi:sw
* implemented desktop resize for /gdi:sw
* check for availibility of XRender extension and show error messages if a setting would require it
* fixed compile error if xrender devel packages are missing
* fixed bug with server-initiated desktop resize in fullscreen mode

Merge pull request #2240 from nfedera/fix-2014-12-01-01

xfreerdp: pinch/pan fixes and smart-sizing

Merge pull request #2244 from MartinHaimberger/mh-improveHandleHandling

improve handle handling and fix memory leak

Merge pull request #2239 from bmiklautz/issue/2196

core client side: set flag to crypt license

fixed compiler warning

fixed win32 build

changed processhandle handling to new system

fixing memoryleak by introducing a nonehandle

In CreateProcess the non functional thread
handle was leaked.

Merge pull request #2241 from akallabeth/extern_c_fix

Extern c fix

Fixed missing extern C

Fixed missing extern C

xfreerdp: added smart sizing, mt gesture fixes

- removed setting ScalingFactor
- added settings SmartSizingWidth and SmartSizingHeight
- changed option /smart-sizing to optionally support <width>x<height>
- consolidated transformation of input event coordinates
- rdp8 gfx ignored scaling and panning offsets: fixed
- never resize window on panning/pinching
- simplified keyboard multitouch gesture debugging emulation
- disabled keyboard multitouch gesture emulation debug code via define

xfreerdp: remove duplicated drawing operations

Most of xfreerdp's hw gdi callbacks did the the same X11 drawing operation
twice: Initially on the primary pixmap to keep the back buffer up to date
and then directly on the window in order to see the result.
This sequence is followed by a call to gdi_InvalidateRegion() to mark the
rectangular area of the drawing operation.
Since in xfreerdp's current design (or better current evolved state) the
backbuffer pixmap is obligatory, all drawing operations directly targeting
the window are redundant because of the subsequent EndPaint (mapped to
xf_hw_end_paint) where the damaged region is copied from the backbuffer
to the drawable.

- removed X11 drawing operations which directly target the window drawable
- fixed some errors in the calculation of the required update regions

xfreerdp: several fixes for panned/pinched drawing

- use bilinear filter instead of nearest filter
- fixed invalid transformation matrix
- support non-proportional scaling
- fix calculation of transformed coordinates (rounding errors)

core client side: set flag to crypt license

Client side code always tells the server that it is capable of processing
encrypted licensing packages (SEC_LICENSE_ENCRYPT_SC) but didn't set
the recently added flag to indicate that.

Fixes #2196

Merge pull request #2236 from marioli/master

Rename tcp-functions as they are conflicting with qemu functions

Rename tcp-functions as they are conflicting with qemu functions

Merge branch 'master' of github.com:FreeRDP/FreeRDP

Merge pull request #2225 from akallabeth/openh264_fix

Openh264 v1.2 API

Merge pull request #2234 from bmiklautz/fix/tls

Transport and tsg fixes

cmake: fix FindPulse.cmake version detection

tsg: fix possible free of initialized memory

tsg: rpc_send_enqueue_pdu always free buffer

rpc_send_enqueue_pdu returns -1 on error but the type of error isn't
distinguishable. Therefore make sure that the buffer gets always freed.
The only exception to this is when the pdu was already queued. Then the
dequeuing function should take care of freeing the buffer when
processing the pdu.

tsg: unwind recursion in tsg_read

transport: handle all return values of tsg_read

tsg_read can also return 0 which means that no data (complete PDU) is
currently available. This case wasn't handled properly.

Fixes #2056

crypto: revert pull request #2130

The fix in #2130 eliminates the problem when connecting over a gateway
but introduces other problems server side and client side (client/server
can't detect anymore when a TCP connection was closed).

tsg: fix segfault

Revert false positive from commit 585d9101b752e4ec525339e5c5addfddb519760d
buffer shouldn't be freed since it is set and used in a stream.

Merge pull request #2232 from Tarnyko/master

wlfreerdp: add keyboard and mouse wheel support, fix bugs

wlfreerdp: add keyboard and mouse wheel support, fix bugs

This commit does the following:

* fix the keyboard logic (which now fully works), add support for vertical mouse wheel events ;
* make the rendering a lot more efficient, by using RDP damage information to refresh only the relevant part of the buffer ;
* fix two race conditions. wlfreerdp should not crash anymore now ;
* fix shm_open() and shm_unlink() calls ;
* improve the code style.

Signed-off-by: Manuel Bachmann <tarnyko@tarnyko.net>

cmake: fix PulseAudio version detection

Merge branch 'awakecoding' of github.com:vworkspace/FreeRDP

Added detection of the pulseaudio version number.

winpr: fix build warnings

Merge branch 'master' of github.com:awakecoding/FreeRDP