Merge pull request #664 from lz4/maxdist

introduce LZ4_DISTANCE_MAX build macro

introduce LZ4_DISTANCE_MAX build macro

make it possible to generate LZ4-compressed block
with a controlled maximum offset (necessarily <= 65535).

This could be useful for compatibility with decoders
using a very limited memory budget (<64 KB).

Answer #154

updated block format with more details on MF_LIMIT

aka distance from end of block for the last match.

Merge pull request #663 from lz4/headerSize

made LZ4F_getHeaderSize() public

added versions in comments

made LZ4F_getHeaderSize() public

Merge pull request #659 from lz4/resetFast

LZ4_resetStream*_fast()

fixed loadDictHC

by making a full initialization
instead of a fast reset.

re-enable LZ4_resetStreamHC()

towards deprecation, but still available and fully supported

modified LZ4_initStreamHC() to look like LZ4_initStream()

it is now a pure initializer, for statically allocated states.
It can initialize any memory area, and because of this, requires size.

check some more initialization result

ensure it's not NULL.

removed LZ4_stream_t alignment test on Visual

it fails on x86 32-bit mode :
Visual reports an alignment of 8-bytes (even with alignof())
but actually only align LZ4_stream_t on 4 bytes.
The alignment check then fails, resulting in missed initialization.

checkFrame: removed %zu

not liked by mingw

fullbench: assert lz4_stream_t initialization

fixed cleaning tmp directory

slightly faster huge file test

level down 5->4
size down 6G->5G

added make list target to tests

LZ4_initStream() checks alignment restriction

updated associated documentation

added comment on initStream + _extState_

as suggested by @felixhandte

created LZ4_initStream()

- promoted LZ4_resetStream_fast() to stable
- moved LZ4_resetStream() into deprecate, but without triggering a compiler warning
- update all sources to no longer rely on LZ4_resetStream()

note : LZ4_initStream() proposal is slightly different :
it's able to initialize any buffer, provided that it's large enough.
To this end, it accepts a void*, and returns an LZ4_stream_t*.

fixed _GNU_SOURCE duplicate

fuzzer: fixed strict c99 with mmap+MAP_ANONYMOUS

fixed strict iso C90

created LZ4_initStreamHC()

- promoted LZ4_resetStreamHC_fast() to stable
- moved LZ4_resetStreamHC() to deprecated (but do not generate a warning yet)
- Updated doc, to highlight difference between init and reset
- switched all invocations of LZ4_resetStreamHC() onto LZ4_initStreamHC()
- misc: ensure `make all` also builds /tests

Merge pull request #658 from lz4/_fast

Deprecated LZ4_decompres_fast*() functions

make `_fast*()` decoder generate a deprecation warning

updated modification

moved LZ4_decompress_fast*() into deprecated section

Merge pull request #657 from lz4/destSize

moved _destSize() into "stable API" status

fixed an old bug in LZ4F_flush()

which remained undetected so far,
as it requires a fairly large number of conditions to be triggered,
starting with enabling Block checksum, which is disabled by default,
and which usage is known to be extremely rare.

fixed doc

and bumped version number fo v1.9.0

moved _destSize() into "stable API" status

as requested in #642

Merge pull request #656 from lz4/armtest

LZ4_FAST_DEC_LOOP macros

minor comments and reformatting

fixed minor conversion warnings

created LZ4_FAST_DEC_LOOP build macro

fixed a few minor conversion warnings

Merge pull request #652 from vtorri/dev

Allow installation of lz4 for Windows 10 with MSYS2

Allow installation of lz4 for Windows 10 with MSYS2

Merge pull request #645 from djwatson/optimize_decompress_generic

Optimize decompress generic

decompress_generic: Limit fastpath to x86

New fastpath currently shows a regression on qualcomm
arm chips.  Restrict it to x86 for now

decompress_generic: Add fastpath for small offsets

For small offsets of size 1, 2, 4 and 8, we can set a single uint64_t,
and then use it to do a memset() variation.  In particular, this makes
the somewhat-common RLE (offset 1) about 2-4x faster than the previous
implementation - we avoid not only the load blocked by store, but also
avoid the loads entirely.

decompress_generic: Unroll loops a bit more

Generally we want our wildcopy loops to look like the
memcpy loops from our libc, but without the final byte copy checks.
We can unroll a bit to make long copies even faster.

The only catch is that this affects the value of FASTLOOP_SAFE_DISTANCE.

decompress_generic: remove msan write

This store is also causing load-blocked-by-store issues, remove it.
The msan warning will have to be fixed another way if it is still an issue.

decompress_generic: re-add fastpath

This is the remaineder of the original 'shortcut'.  If true, we can avoid
the loop in LZ4_wildCopy, and directly copy instead.

decompress_generic: drop partial copy check in fast loop

We've already checked that we are more than FASTLOOP_SAFE_DISTANCE
away from the end, so this branch can never be true, we will have
already jumped to the second decode loop.

decompress_generic: Optimize literal copies

Use LZ4_wildCopy16 for variable-length literals.  For literal counts that
fit in the flag byte, copy directly.  We can also omit oend checks for
roughly the same reason as the previous shortcut:  We check once that both
match length and literal length fit in FASTLOOP_SAFE_DISTANCE, including
wildcopy distance.

decompress_generic: optimize match copy

Add an LZ4_wildCopy16, that will wildcopy, potentially smashing up
to 16 bytes, and use it for match copy.  On x64, this avoids many
blocked loads due to store forwarding, similar to issue #411.

decompress_generic: Add a loop fastpath

Copy the main loop, and change checks such that op is always less
than oend-SAFE_DISTANCE.  Currently these are added for the literal
copy length check, and for the match copy length check.

Otherwise the first loop is exactly the same as the second.  Follow on
diffs will optimize the first copy loop based on this new requirement.

I also tried instead making a separate inlineable function for the copy
loop (similar to existing partialDecode flags, etc), but I think the
changes might be significant enough to warrent doubling the code, instead
pulling out common functionality to separate functions.

This is the basic transformation that will allow several following optimisations.

decompress_generic: Refactor variable length fields

Make a helper function to read variable lengths for literals and
match length.

Merge pull request #648 from aregm/fix-VS2017-solution

Build fixed by removing unavailable project

Build fixed by removing unavailable project

Merge pull request #646 from jbms/fix-clang-optimize-attribute-ppc64le

Eliminate optimize attribute warning with clang on PPC64LE

Eliminate optimize attribute warning with clang on PPC64LE

Merge pull request #644 from lzutao/meson-msvc-export

meson: Add -DLZ4_DLL_EXPORT=1 to build dynamic lib on Windows

meson: Add -DLZ4_DLL_EXPORT=1 to build dynamic lib on Windows

Thanks @nacho for pointing it out.

Merge pull request #638 from lzutao/travis

Travis: Clean up .travis.yml

Merge pull request #639 from lzutao/meson

meson: Small improvements

Merge pull request #640 from tzakian/remove_io_globals

Remove a bunch of global variables that tracked settings for the IO module

Add cast around malloc

Add constant pointer annotations

Remove a bunch of global variables that tracked settings for the IO module, and move them in to a struct

travis: Prefer `apt-get` in `install` field than `addons-apt-sources`

travis: Prefer `script` field than `Cmd` env

meson: Favor warning if cannot find version string

meson: Use libray as required argument in `pkgconfig`

meson: Explicit use `meson setup` to setup a builddir

Merge pull request #637 from tzakian/fix_pass-through_mode

Fix pass-through mode

Fix pass-through mode

Merge pull request #635 from tzakian/clean_call_to_LZ4HC_encodeSequence

Make effectfulness of calls to LZ4HC_encodeSequence clearer

fixed strict C++ compilation

Make fact that certain variables that are passed into LZ4HC_encodeSequence are changed by the function call

fixed long sequence overflow test

minor explicit cast warning

Merge pull request #634 from lz4/longSeqTest

add a test to check long sequences (#631)

Merge pull request #631 from qiuyangs/dev

 lz4hc.c: change (length >> 8) to (length / 255)

Merge pull request #633 from tzakian/make_block_size_public

Make LZ4F_getBlockSize public and public in experimental section

add a test to check long sequences (#631)

the test fails, as intended,
since #631 is not merged yet in this branch.

Fix C90 compatibility issue

Make LZ4F_getBlockSize public and publis in experimental section

Merge pull request #632 from rubenochiavone/fix-lz4-extesion-not-decompressing

Fix lz4 extension in input filename not causing decompression

Add test to cover issue #596

Fix lz4 extension in input filename not causing decompression

Merge pull request #1 from qiuyangs/sunqiuyang-fix-length>>8

lz4hc.c: change (length >> 8) to (length / 255)

lz4hc.c: change (length >> 8) to (length / 255)

Every 0xff byte in the compressed block corresponds to a length of 255 (not 256) in the input data. For long repeating sequences, using (length >> 8) may generate bad compressed blocks.

updated frame format

re-wording non-full blocks,
for clarity.

updated LZ4 block format

rewording the end of block conditions
for clarity and answering related questions.

Merge pull request #620 from lzutao/meson_symlink

Update meson symlink and man1 extension

Merge pull request #621 from lzutao/meson_getversion

meson: Remove unused sys import

meson: Remove unused sys import

Simplify logic by setting default value for MESON_INSTALL_DESTDIR_PREFIX

meson: Update man1 extension in meson 0.49.0

meson: Update InstallSymlink.py usage

Change default directory mode to 755.

Merge pull request #618 from dosaboy/add-snap-packaging-support

Add snap packaging support

Add snap packaging support

This commit adds a snapcraft.yaml file to allow lz4
to be distributed as a snap (see https://snapcraft.io/
for more info on snaps).

Building the Snap
-----------------

To build the snap simply install snapcraft and build the
snap e.g. on Ubuntu by doing:

$ sudo apt install snapcraft
$ cd contrib; snapcraft

This will build a snap that can be published [1] to
e.g. https://snapcraft.io/lz4

If you want to test the snap before publishing you
can do:

$ snap install <snapname>.snap --dangerous

And that will install it on your local host. You
will then have lz4 as a command to run.

Installing the Snap
-------------------

Once published and released in the snapstore your snap
can be installed on any platform that supports snaps
by doing:

snap install lz4

[1] https://docs.snapcraft.io/releasing-to-the-snap-store

Merge pull request #616 from felixhandte/lz4-attach-reject-short-dicts

Fix LZ4_compress_fast_continue() Prefix Size Check

Merge pull request #613 from lzutao/fix_meson_tests

meson: Fix build and test problems

meson: Add README.md for newcomers [skip ci]

Fix Dict Size Test in `LZ4_compress_fast_continue()`

Dictionaries don't need to be > 4 bytes, they need to be >= 4 bytes. This test
was overly conservative.

Also removes the test in `LZ4_attach_dictionary()`.

Don't Attach Very Small Dictionaries

Fixes a mismatch in behavior between loading into the context (via
`LZ4_loadDict()`) a very small (<= 4 bytes) non-contiguous dictionary, versus
attaching it with `LZ4_attach_dictionary()`.

Before this patch, this divergence could be reproduced by running

```
make -C tests fuzzer MOREFLAGS="-m32"
tests/fuzzer -v -s1239 -t3146
```

Making sure these two paths behave exactly identically is an easy way to test
the correctness of the attach path, so it's desirable that this remain an
unpolluted, high signal test.

No need to join prefix and let soversion base on version