re-enable FORCE_INLINE

was disabled for tests

fix out-of-bound read within LZ4_decompress_fast()

and deprecate LZ4_decompress_fast(),
with deprecation warnings enabled by default.

Note that, as a consequence of the fix,
LZ4_decompress_fast is now __slower__ than LZ4_decompress_safe().
That's because, since it doesn't know the input buffer size,
it must progress more cautiously into the input buffer
to ensure to out-of-bound read.

fuzzer: added tests to detect LZ4_decompress_fast() out of bound read

Merge pull request #674 from nrgiii/dev

Fix

Merge branch 'fuzzerAix' into dev

Fix AIX errors/warnings

fixed version number for lz4hc

minor benchmark update

was using wrong memory timing

ensure consistent definition and usage of FREEMEM

as suggested by @sloutsky in #671

minor news update

for msys2

updated NEWS for v1.9.0

Merge pull request #669 from lz4/fixframe

Fix lz4frame inefficiency

simplified output_directive

fix comma for pedantic

Merge branch 'dev' into fixframe

added a fake initialization to please an analyzer

which is unable to understand that the variable is necessarily initialized
in spite of an assert just before.

fix fuzzer tests on dirty context

context is no longer dirty after a failed compressed block.
Actually, all indexes are fine.
It remains compatible with continued streaming, and reset*_fast().

unified limitedOutput_directive

between lz4.c and lz4hc.c .
was left in a strange state after the "amalgamation" patch.

Now only 3 directives remain,
same name across both implementations,
single definition place.

Might allow some light simplification due to reduced nb of states possible.

Merge branch 'dev' into fixframe

added more margin for canary in frametest

decompress*_fast() function do not generate deprecation warnings

they are classified as deprecated in the API documentation (lz4.h)
but do not yet trigger a warning,
to give time to existing applications to move away.

Also, the _fast() variants are still ~5% faster than the _safe() ones
after Dave's patch.

fixed lz4frame with linked blocks

when one block was not compressible,
it would tag the context as `dirty`,
resulting in compression automatically bailing out of all future blocks,
making the rest of the frame uncompressible.

frametest: removed uninitialized warning

was a false positive, but better remove it anyway

assert() the failed test

ensure canary remains within buffer limits

fixed frametest

One test could write a canary value out of bound
in exceptional conditions involving multiple flushes
triggered by -s3421 -t462948.

Merge branch 'dev' of github.com:Cyan4973/lz4 into dev

fixed incorrect assertion condition

output can use the full length of output buffer

Merge pull request #668 from lz4/visual

Fix some Visual conversion warnings

updated benchmark table

and even more visual conversion warnings

Merge pull request #667 from lz4/pipeMultiple

Fix combination -m -c

some more Visual conversion warning

fixed minor Visual conversion warnings

fix minor visual warning

yet some overly cautious overflow risk flag,
while it's actually impossible, due to previous test just one line above.
Changing the cast position, just to be please the thing.

fixed minor Visual warnings

since Visual 2017,
worries about potential overflow, which are actually impossible.
Replaced (c * a) by (c ? a : 0).
Will likely replaced a * by a cmov.
Probably harmless for performance.

added tests for -d -m -c

seems to work properly

fixed lz4 -m -c

can compress multiple files into stdout

Merge pull request #666 from lz4/blockIndep

added command -BI for "Independent Blocks"

added command -BI for "Independent Blocks"

This is the reverse of `-BD`, and the current default.

This command can be useful to reverse a previous `-BD` command.
It may in the future be more important
if `lz4` switches to generating dependent blocks by default.

updated man page

with --favor-decSpeed

updated doc to underline difference between block and frame

as this is a very frequent source of confusion for new users.

Merge pull request #665 from lz4/dict

Dictionary compression

Merge pull request #664 from lz4/maxdist

introduce LZ4_DISTANCE_MAX build macro

improved documentation for LZ4 dictionary compression

introduce LZ4_DISTANCE_MAX build macro

make it possible to generate LZ4-compressed block
with a controlled maximum offset (necessarily <= 65535).

This could be useful for compatibility with decoders
using a very limited memory budget (<64 KB).

Answer #154

updated block format with more details on MF_LIMIT

aka distance from end of block for the last match.

Merge pull request #663 from lz4/headerSize

made LZ4F_getHeaderSize() public

added versions in comments

made LZ4F_getHeaderSize() public

Merge pull request #659 from lz4/resetFast

LZ4_resetStream*_fast()

fixed loadDictHC

by making a full initialization
instead of a fast reset.

re-enable LZ4_resetStreamHC()

towards deprecation, but still available and fully supported

modified LZ4_initStreamHC() to look like LZ4_initStream()

it is now a pure initializer, for statically allocated states.
It can initialize any memory area, and because of this, requires size.

check some more initialization result

ensure it's not NULL.

removed LZ4_stream_t alignment test on Visual

it fails on x86 32-bit mode :
Visual reports an alignment of 8-bytes (even with alignof())
but actually only align LZ4_stream_t on 4 bytes.
The alignment check then fails, resulting in missed initialization.

checkFrame: removed %zu

not liked by mingw

fullbench: assert lz4_stream_t initialization

fixed cleaning tmp directory

slightly faster huge file test

level down 5->4
size down 6G->5G

added make list target to tests

LZ4_initStream() checks alignment restriction

updated associated documentation

added comment on initStream + _extState_

as suggested by @felixhandte

created LZ4_initStream()

- promoted LZ4_resetStream_fast() to stable
- moved LZ4_resetStream() into deprecate, but without triggering a compiler warning
- update all sources to no longer rely on LZ4_resetStream()

note : LZ4_initStream() proposal is slightly different :
it's able to initialize any buffer, provided that it's large enough.
To this end, it accepts a void*, and returns an LZ4_stream_t*.

fixed _GNU_SOURCE duplicate

fuzzer: fixed strict c99 with mmap+MAP_ANONYMOUS

fixed strict iso C90

created LZ4_initStreamHC()

- promoted LZ4_resetStreamHC_fast() to stable
- moved LZ4_resetStreamHC() to deprecated (but do not generate a warning yet)
- Updated doc, to highlight difference between init and reset
- switched all invocations of LZ4_resetStreamHC() onto LZ4_initStreamHC()
- misc: ensure `make all` also builds /tests

Merge pull request #658 from lz4/_fast

Deprecated LZ4_decompres_fast*() functions

make `_fast*()` decoder generate a deprecation warning

updated modification

moved LZ4_decompress_fast*() into deprecated section

Merge pull request #657 from lz4/destSize

moved _destSize() into "stable API" status

fixed an old bug in LZ4F_flush()

which remained undetected so far,
as it requires a fairly large number of conditions to be triggered,
starting with enabling Block checksum, which is disabled by default,
and which usage is known to be extremely rare.

fixed doc

and bumped version number fo v1.9.0

moved _destSize() into "stable API" status

as requested in #642

Merge pull request #656 from lz4/armtest

LZ4_FAST_DEC_LOOP macros

minor comments and reformatting

fixed minor conversion warnings

created LZ4_FAST_DEC_LOOP build macro

fixed a few minor conversion warnings

Merge pull request #652 from vtorri/dev

Allow installation of lz4 for Windows 10 with MSYS2

Allow installation of lz4 for Windows 10 with MSYS2

Merge pull request #645 from djwatson/optimize_decompress_generic

Optimize decompress generic

decompress_generic: Limit fastpath to x86

New fastpath currently shows a regression on qualcomm
arm chips.  Restrict it to x86 for now

decompress_generic: Add fastpath for small offsets

For small offsets of size 1, 2, 4 and 8, we can set a single uint64_t,
and then use it to do a memset() variation.  In particular, this makes
the somewhat-common RLE (offset 1) about 2-4x faster than the previous
implementation - we avoid not only the load blocked by store, but also
avoid the loads entirely.

decompress_generic: Unroll loops a bit more

Generally we want our wildcopy loops to look like the
memcpy loops from our libc, but without the final byte copy checks.
We can unroll a bit to make long copies even faster.

The only catch is that this affects the value of FASTLOOP_SAFE_DISTANCE.

decompress_generic: remove msan write

This store is also causing load-blocked-by-store issues, remove it.
The msan warning will have to be fixed another way if it is still an issue.

decompress_generic: re-add fastpath

This is the remaineder of the original 'shortcut'.  If true, we can avoid
the loop in LZ4_wildCopy, and directly copy instead.

decompress_generic: drop partial copy check in fast loop

We've already checked that we are more than FASTLOOP_SAFE_DISTANCE
away from the end, so this branch can never be true, we will have
already jumped to the second decode loop.

decompress_generic: Optimize literal copies

Use LZ4_wildCopy16 for variable-length literals.  For literal counts that
fit in the flag byte, copy directly.  We can also omit oend checks for
roughly the same reason as the previous shortcut:  We check once that both
match length and literal length fit in FASTLOOP_SAFE_DISTANCE, including
wildcopy distance.

decompress_generic: optimize match copy

Add an LZ4_wildCopy16, that will wildcopy, potentially smashing up
to 16 bytes, and use it for match copy.  On x64, this avoids many
blocked loads due to store forwarding, similar to issue #411.

decompress_generic: Add a loop fastpath

Copy the main loop, and change checks such that op is always less
than oend-SAFE_DISTANCE.  Currently these are added for the literal
copy length check, and for the match copy length check.

Otherwise the first loop is exactly the same as the second.  Follow on
diffs will optimize the first copy loop based on this new requirement.

I also tried instead making a separate inlineable function for the copy
loop (similar to existing partialDecode flags, etc), but I think the
changes might be significant enough to warrent doubling the code, instead
pulling out common functionality to separate functions.

This is the basic transformation that will allow several following optimisations.

decompress_generic: Refactor variable length fields

Make a helper function to read variable lengths for literals and
match length.

Merge pull request #648 from aregm/fix-VS2017-solution

Build fixed by removing unavailable project

Build fixed by removing unavailable project

Merge pull request #646 from jbms/fix-clang-optimize-attribute-ppc64le

Eliminate optimize attribute warning with clang on PPC64LE

Eliminate optimize attribute warning with clang on PPC64LE

Merge pull request #644 from lzutao/meson-msvc-export

meson: Add -DLZ4_DLL_EXPORT=1 to build dynamic lib on Windows

meson: Add -DLZ4_DLL_EXPORT=1 to build dynamic lib on Windows

Thanks @nacho for pointing it out.

Merge pull request #638 from lzutao/travis

Travis: Clean up .travis.yml

Merge pull request #639 from lzutao/meson

meson: Small improvements