Added an SSE4 optimized adler32 checksum

This variant uses the lower number of cycles psadw insruction in place
of pmaddubsw for the running sum that does not need multiplication.

This allows this sum to be done independently, partially overlapping the
running "sum2" half of the checksum.  We also have moved the shift
outside of the loop, breaking a small data dependency chain. The code
also now does a vectorized horizontal sum without having to rebase to
the adler32 base, as NMAX is defined as the maximum number of scalar
sums that can be peformed, so we're actually safe in doing this without
upgrading to higher precision.  We can do a partial horizontal sum
because psadw only ends up accumulating 16 bit words in 2 vector lanes,
the other two can safely be assumed as 0.

Add SSE4.1 detection

Code leveraging this for the adler checksum is forthcoming

Use memcpy for unaligned reads.

Co-authored-by: Matija Skala <mskala@gmx.com>

Fixed missing pointers to functions when assigning to functable.

Clean up crc32 extern using #elif same as in crc32_stub.

Remove use_byfour compile time detection of the existence of four byte integer types since we are targeting newer systems.

Move generic crc32 assignment to else statement so it can be optimized away if use_byfour is true.

Don't assign C versions of compare258 and longest_match if we don't use them.

Have functioning avx512{,_vnni} adler32

The new adler32 checksum uses the VNNI instructions with appreciable
gains when possible. Otherwise, a pure avx512f variant exists which
still gives appreciable gains.

Check for err == Z_OK is always true in minideflate loops.

Fixed main function does not return value which may indicated unintended behavior.

Fixed part of conditional expression is always true since size is always greater than 0.

Fixed crc32 assembly not returning hash value to correct variable.

Don't build DLL sources if BUILD_SHARED_LIBS=OFF.

Fixed duplicate symbol zng_inflate_table and zng_inflate_copyright when BUILD_SHARED_LIBS=OFF.

Move stdint.h below zconf include to prevent unexpected characters warning on ClangCl.

Fixed incorrect flag used for SSE 4.2 support with ClangCl.

Fixed implicit declaration of _mm_extract_epi32 when compiling with ClangCl.

Fixed wrong alignment definition used when compiling with ClangCl.

Fix building shared tests
* Don't add non-PIC gz sources to shared executables if they are already included in shared library as PIC sources

Remove old win32 readme.

Remove double check for SSE4 in configure.

Fixed crc32_combine_gen declaration warning in zlib-ng API.

Upgrade version of GitHub checkout actions. #1078

Fix deflateBound and compressBound returning very small size estimates.
Remove workaround in switchlevels.c, so we do actual testing of this.
Use named defines instead of magic numbers where we can.

Avoid warning C4295 when using Visual C++ and maintainer warnings are enabled.

Remove gz_intmax implementation, since INT_MAX is always available in modern C implementations.

inttypes.h includes stdint.h, so only include one of them.

Added checks and comments to ensure that when using raw mode no checksumming takes place.

Added unit test to ensure that inflate with adler32 hash works on previously failed test case.

Don't overwrite adler32 hash with crc32 hash. #1066

Workaround for installation failure of wine32.

Made this work on 32 bit compilations

For some reason the movq instruction from a 128 bit register to a 64 bit
GPR is not supported in 32 bit code.  A simple workaround seems to be to
invoke movl if compiling with -m32.

Also addressing some style nits.

Have horizontal sum here, decent wins

Minor efficiency improvement

This now leverages the broadcasting instrinsics with an AND mask
to load up the registers.  Additionally, there's a minor efficiency
boost here by casting up to 64 bit precision (by means of register
aliasing) so that the modulo can be safely deferred until the write
back to the full sums.

The "write" back to the stack here is actually optimized out by GCC
and turned into a write directly to a 32 bit GPR for each of the 8
elements.  This much is not new, but now, since we don't have to do a
modulus with the BASE value, we can bypass 8 64 bit multiplications,
shifts, and subtractions while in those registers.

I tried to do a horizontal reduction sum on the 8 64 bit elements since
the vpextract* set of instructions aren't exactly low latency, however
to do this safely (no overflow) it requires 2 128 bit register extractions,
8 vpmovsxdq to bring the things up to 64 bit precision, some shuffles, more
128 bit extractions to get around the 128 bit lane requirement of the shuffles,
and finally a trip to a GPR and back to do the modulus on the scalar value.
This method could have been more efficient if there were an inexpensive 64 bit
horizontal addition instruction for AVX, but there isn't.

To test this, I wrote a pretty basic benchmark using Python's zlib bindings on
a huge set of random data, carefully timing only the checksum bits.  Invoking
perf stat from within the python process after the RNG shows a lower average
number of cycles to complete and a shorter runtime.

Use immediate variant of shift instruction

Since this is constant, anyway, we may as well use the variant that
doesn't add vector register pressure, has better ILP opportunities,
and has shorter instruction latency.

Reuse adler32_len_64 in adler32_c.

Fixed inflateGetDictionary length check may include bytes added by last call to inflate.

DFLTCC update for window optimization from Jim & Nathan

Stop relying on software and hardware inflate window formats being the
same and act the way we already do for deflate: provide and implement
window-related hooks.

Another possibility would be to use an in-line history buffer (by not
setting HBT_CIRCULAR), but this would require an extra memmove().

Also fix a couple corner cases in the software implementation of
inflateGetDictionary() and inflateSetDictionary().

Add back original version of inflate_fast for use with inflateBack.

Reorganize inflate window layout

This commit significantly improves inflate performance by reorganizing the window buffer into a contiguous window and pending output buffer. The goal of this layout is to reduce branching, improve cache locality, and enable for the use of crc folding with gzip input.

The window buffer is allocated as a multiple of the user-selected window size. In this commit, a factor of 2 is utilized.

The layout of the window buffer is divided into two sections. The first section, window offset [0, wsize), is reserved for history that has already been output. The second section, window offset [wsize, 2 * wsize), is reserved for buffering pending output that hasn't been flushed to the user's output buffer yet.

The history section grows downwards, towards the window offset of 0. The pending output section grows upwards, towards the end of the buffer. As a result, all of the possible distance/length data that may need to be copied is contiguous. This removes the need to stitch together output from 2 separate buffers.

In the case of gzip input, crc folding is used to copy the pending output to the user's buffers.

Co-authored-by: Nathan Moinvaziri <nathan@nathanm.com>

Fixed minideflate write buffers being overwritten.

[ARM] Try to compile test for float-abi detection code.

[MacOS] Downgrade to XCode 11.7.0 for pkgcheck.

IBM Z: Run DFLTCC tests on the self-hosted builder

* Use the self-hosted builder instead of ubuntu-latest.
* Drop qemu-related settings from DFLTCC configurations.
* Install codecov only for the current user, since the self-hosted
  builder runs under a restricted non-root account.
* Use actions/checkout@v2 for configure checks, since for some reason
  actions/checkout@v1 cannot find git on the self-hosted builder.
* Update the testing section of the DFLTCC README.
* Add the infrastructure code for the self-hosted builder.

ENH: Transition to Ubuntu 18.04 in `GitHub` actions workflows

Transition to Ubuntu 18.04 in `GitHub` actions workflows.

Fixes:
```
Ubuntu 16.04 Clang
This request was automatically failed because there were no enabled runners online to process the request for more than 1 days.

Ubuntu 16.04 GCC
This request was automatically failed because there were no enabled runners online to process the request for more than 1 days.
```

reported for example at:
https://github.com/zlib-ng/zlib-ng/actions/runs/1326434358

Official `GitHub` notice related to the removal of the 16.04 virtual
environments:
https://github.blog/changelog/2021-04-29-github-actions-ubuntu-16-04-lts-virtual-environment-will-be-removed-on-september-20-2021/

Fix minor formatting issues

From ITK PR: https://github.com/InsightSoftwareConsortium/ITK/pull/2803
CI check: https://github.com/InsightSoftwareConsortium/ITK/runs/3864083025

commit 5434d42 adds bad whitespace:
README.md:223: new blank line at EOF.

commit 5434d42 is not allowed; missing newline at the end of file in .gitattributes.

COMP: Fix data loss warning

Fix data loss warning.

Fixes:
```
itkzlib-ng/inflate.c(1209,24): warning C4267: '=': conversion from 'size_t' to 'unsigned long', possible loss of data
itkzlib-ng/inflate.c(1210,26): warning C4267: '=': conversion from 'size_t' to 'unsigned long', possible loss of data
```

Make integration into bigger projects easier

IBM Z: Adjust compressBound() for DFLTCC

When DFLTCC was introduced, deflateBound() was adjusted, but
compressBound() was not, leading to compression failures when using
compressBound() + compress() with poorly compressible data.

IBM Z: Sync crc_fold with DFLTCC

Intermediate CRC32 value was moved from strm->adler to
state->crc_fold.

IBM Z: Do not check inflateGetDictionary() with DFLTCC

The zlib manual does not specify a strict contract for
inflateGetDictionary(), it merely says that it "Returns the sliding
dictionary being maintained by inflate", which is an implementation
detail. IBM Z inflate's behavior differs from that of software, and
may change in the future to boot.

Link crc32_test and infcover with $(CFLAGS)

This fixes link failures when using CFLAGS=-m31 on IBM Z. All the
other tests are already linked this way.

IBM Z: Fix building outside of a source directory

Do not use relative includes, since they are valid only within the
source directory. Rely on the build system to pass the necessary
include flags instead.

Exercise the new symbol prefix option in CI tests

Add support for name mangling

This is useful when zlib-ng is embedded into another library,
such as ITK: https://itk.org/

Closes #1025.

Co-authored-by: Mika Lindqvist <postmaster@raasu.org>

Use helper function for printing error and exiting in example.

Added code coverage for inflateGetDictionary in example.

Call deflateBound to calculate length with custom gzip header in example.

Fill out gzheader before calling deflateSetHeader for better code coverage in example.

Added CI instances for CTZLL and CTZ builtin existence to improve code coverage.

Fix UB in inffast.c when not using window

When not using window, `window + wsize` applies a zero offset to a null pointer, which is undefined behavior.

Fixed trailing whitespaces and missing new lines.

Fix hangs on macOS due to loading of misaligned addresses in chunkmemset_8.

Include win directory in pigz even if not using threads.

Fixed undefined behavior of isgraph when character is not in the range 0 through 0xFF inclusive.

Use static inline functions for crc32 folding load/save.

Move crc32 folding functions into functable.

Added CRC32_INITIAL_VALUE to prevent initial call to crc32 function.

Add new crc32 unit test

Add optimized crc32 for POWER8 and later processors

This commit adds an optimized version of the crc32 function based
on crc32-vpmsum from https://github.com/antonblanchard/crc32-vpmsum/ .
The code has been relicensed to the zlib license.

This is the C implementation created by Rogerio Alves <rogealve@br.ibm.com>

It makes use of vector instructions to speed up CRC32 algorithm. Decompression
times were improved by +30% on tests.

Based on Daniel Black's work for the original zlib (madler/zlib#478).

Standardize crc32_stub

Reorganize statements inside crc32_stub() to match more closely the format
used for other function stubs in functable.c.

[arm] Disable ACLE, UNALIGNED_OK and UNALIGNED64_OK on armv7 and earlier.
* armv7 has partial support for unaligned reads, but compiler might use instructions that do not support unaligned accesses

[PowerPC] Use templatized code for slide_hash as code for VMX and VSX is very similar
* Any differences can be handled using compiler options or added as macros before including template header

Add AltiVec (VMX) to supported intrinsics for adler32 and slide_hash.

Add PowerPC without Power8 optimizations to GitHub Actions' configure and cmake workflows.

PowerPC: Add initial support for AltiVec.
* Add detection of VMX instructions

Fix Z_SOLO mode

Without this patch, #include <zlib.h> with Z_SOLO defined
(e.g. while building perl 5.34.0) fails because of use of
undefined types.

Rename slide source files to slide_hash to match function name.

Separate slide_hash_c in the same way that insert_string_c is separated from deflate.c.

Added build system check for posix_memalign support.

Co-authored-by: concatime <concatime@users.noreply@github.com>
Co-authored-by: Mika Lindqvist <postmaster@raasu.org>

Use STDC11 defined earlier in zbuild.h for Z_TLS check.

IBM Z: Add vectorized CRC32 implementation

While DFLTCC takes care of accelerating compression on level 1, other
levels can be sped up too by computing CRC32 using various vector
instructions.

Take the Linux kernel assembly code that does that - its original
author (Hendrik Brueckner) works for IBM at the time of writing and has
allowed reusing the code under the zlib license. Rewrite it in C for
better maintainability, but keep the original structure, variable names
and comments.

Update the documentation.

Add CI configurations.

Remove extra division operation in chunkcopy.

Remove deflate_state dependency from crc_folding.

Fixed missing enclosing parentheses for ZSWAP64 in zutil.h to avoid erroneous result in inffast.c.

Don't define HASH_SIZE if it is already defined.

Added reduced memory cmake CI job.

Turn off reduced memory cmake option by default.

[Power8] Add chunk*_power8.

Added reduced memory configuration option to CMake and configure.

Switch longest_match in deflate_slow based on whether or not rolling hash is being used.

Co-authored-by: Hans Kristian Rosbach <hk-git@circlestorm.org>

Use UNLIKELY for branches related to rolling hash based on performance profiling.

Co-authored-by: Nathan Moinvaziri <nathan@nathanm.com>

Use longest_match_slow in deflate_slow.

Separate fast-zlib matching algorithm into its own longest_match variant.

Minor prev_length calculation improvement in deflate_slow.

Enable rolling hash function switching for fast-zlib.

Incorporate fast-zlib algorithm changes into longest_match.

Use STD_MIN_MATCH instead of WANT_MIN_MATCH in deflate_slow for fast-zlib.

Setup hash functions to be switched based on compression level.