fuzz: Fix FUZZ_malloc_rand() to return non-NULL for zero-size allocations

The FUZZ_malloc_rand() function was incorrectly always returning NULL for
zero-size allocations. The random offset generated by
FUZZ_dataProducer_int32Range() was not being added to the pointer variable,
causing the function to always return (void *)0.

Merge pull request #4401 from mugitya03/MLK-1

Release resources before returning

Release resources before returning

In main, resources were freed on the success path but not in the error path.
This change ensures all allocated resources are released before returning.

lz4: Remove ancient test helpers

Building lz4 as root was causing `make clean` to fail with permission
errors.

We used to have to install lz4 from source back in Ubuntu 14.04, but
nowadays the installed lz4 is fine. Get rid of ancient helpers and
cruft!

seekable_format: Fix conversion warnings in parallel_compression

seekable_format: Add test for parallel_compression memory usage

Use ulimit to fail the test if we use O(filesize) memory, rather than
O(threads).

seekable_format: Fix race in parallel_processing

There was no memory barrier between writing and reading `done`, which
would allow reordering to cause races. With so little data to handle
after each job completes, we might as well just join.

seekable_format: Cleanup POOL in parallel_compression

seekable_format: Make parallel_compression use memory properly

Previously, parallel_compression would only handle each job's results
after ALL jobs were successfully queued. This caused all src/dst
buffers to remain in memory until then!

It also polled to check whether a job completed, which is racy without
any memory barrier.

Now, we flush results as a side effect of completing a job. Completed
frames are placed in an ordered linked-list, and any eligible frames
are flushed. This may be zero or multiple frames, depending on the
order in which jobs finish.

This design also makes it simple to support streaming input, so that
is now available. Just pass `-` as the filename, and stdin/stdout will
be used for I/O.

seekable_format: Link against multi-threaded libzstd.a

Some of these examples are intended to be parallel, and don't make
sense to link against single-threaded libzstd.

The filename of mt and nomt libzstd are identical, so it's still
possible to link against the single-threaded one, just harder.

seekable_format: Build with $(MAKE)

This passes make flags, such as `-jN` for building in parallel, to
the underlying make.

[cmake] only require a CXX compiler when tests are build

Signed-off-by: Thomas Devoogdt <thomas@devoogdt.com>

Add License variable to pkg-config file

The pkg-config file has License variable that allows you to set the license for
the software. This sets 'BSD-3-Clause OR GPL-2.0-only' to License.

Ref: https://github.com/pkgconf/pkgconf/blob/master/man/pc.5#L116
Signed-off-by: Nobuhiro Iwamatsu <iwamatsu@nigauri.org>

Merge pull request #4378 from Cyan4973/fix_zstreamtest_minor

fix minor warning in zstreamtest

Merge pull request #4371 from ecordonnier-sc/eco/fix-macos-duplicate-lc-rpath

Fix duplicate LC_RPATH error on MacOS

fix minor warning in zstreamtest

Fix duplicate LC_RPATH error on MacOS

After the update to MacOS 15.4, the dynamic loader dyld treats duplicated LC_RPATH as an error.
The `FLAGS` variable already contains `LDFLAGS`, thus using both `FLAGS` and `LDFLAGS`
duplicates all `LDFLAGS`, including `-Wl,rpath` parameters.

The duplicate LC_RPATH causes this kind of errors:

```
dyld[29361]: Library not loaded: @loader_path/../lib/libzstd.1.dylib
      Referenced from: <7131C877-3CF0-33AC-AA05-257BA4FDD770> /Users/foobar/...
      Reason: tried: '/Users/foobar/..../lib/libzstd.1.dylib' (duplicate LC_RPATH '/usr/mypath.../lib')
```

Closes https://github.com/facebook/zstd/issues/4369

Signed-off-by: Etienne Cordonnier <ecordonnier@snap.com>

Merge pull request #4362 from facebook/dependabot/github_actions/actions/setup-java-4.7.1

Bump actions/setup-java from 4.7.0 to 4.7.1

Bump actions/setup-java from 4.7.0 to 4.7.1

Bumps [actions/setup-java](https://github.com/actions/setup-java) from 4.7.0 to 4.7.1.
- [Release notes](https://github.com/actions/setup-java/releases)
- [Commits](https://github.com/actions/setup-java/compare/3a4f6e1af504cf6a31855fa899c6aa5355ba6c12...c5195efecf7bdfc987ee8bae7a71cb8b11521c00)

---
updated-dependencies:
- dependency-name: actions/setup-java
  dependency-version: 4.7.1
  dependency-type: direct:production
  update-type: version-update:semver-patch
...

Signed-off-by: dependabot[bot] <support@github.com>

Merge pull request #4353 from afq984/sparse

Check regular file for sparse support after opening

Update cli-tests/file-stat tests

Check regular file for sparse support after opening

A regular file may be created by the open call.
Checking after opening allows sparseFileSupport even
if dstFileName does not already exist.

Merge pull request #4349 from Cyan4973/devfd

Support process substitution for `--filelist=`

update error message

fix test

add error message clarification for inputs as process substitution

added CI test

visual studio fix

minor: restore some code comment

better naming

and more narrow scope of local variables

second implementation, better structured for improved maintenance

first implementation supporting Process Substitution

Merge pull request #4346 from Cyan4973/wintime

fix a risk of overflow on a time counter on Windows

Merge pull request #4350 from Cyan4973/patchapply

add --patch-apply command

add --patch-apply command

as an equivalent for `-d --patch-from`.
Requested by @sergeevabc in #2173.

Merge pull request #4314 from facebook/dependabot/github_actions/ossf/scorecard-action-2.4.1

Bump ossf/scorecard-action from 2.4.0 to 2.4.1

Merge pull request #4345 from Cyan4973/block128

[doc] minor clarification for maximum block size

Merge pull request #4344 from Cyan4973/assert1

add an assert

update zstd --fast benchmark result

use --fast=4, instead of --fast=3,
to make it more representative of a lzo equivalent scenario.

update benchmark result

brotli uses -1 level, like all other compressors

fix a risk of overflow on a time counter on Windows

closes #4126

[doc] minor clarification for maximum block size

closes #4339

add an assert

to help static analyzers understand there is no overflow risk there.

Merge pull request #4341 from clan/pragma

lib/zstd.h: don't put pragma after static

lib/zstd.h: move pragma before static

otherwise will cause dev-python/zstandard build failed when compiling with
clang as reported at https://bugs.gentoo.org/950259

the root cause is pycparser, which is unfixed since reported 2.5 years
ago, :(

Signed-off-by: Z. Liu <zhixu.liu@gmail.com>

Merge pull request #4336 from Cyan4973/qsort_v2

fix #4312 - musl compilation compatibility

removed OpenBSD specificity

updated documentation

add support for C11 Annex K qsort_s()

standard defined re-entrant variant of qsort().
Unfortunately, Annex K is optional.

re-design qsort() selection in cover

centralizes auto detection tests,
then distribute the outcome in all the places where it's active.

fix #4312

and upgraded the test so that it would fail, both at compile time and at run time, without the fix

attempt to reduce length of long cli tests by invoking -T0

[linux] Opt out of row based match finder for the kernel

The row based match finder is slower without SIMD. We used to detect the
presence of SIMD to set the lower bound to 17, but that breaks
determinism. Instead, specifically opt into it for the kernel, because
it is one of the rare cases that doesn't have SIMD support.

Merge pull request #4335 from Cyan4973/dec_mt_warning

warn when requesting decompression with multiple threads

fix minor unused variable warning

warn when requesting decompression with multiple threads

restore #2918 fix

Merge pull request #4334 from Cyan4973/fix4332

fix #4332: setting ZSTD_NBTHREADS=0 via environment variable

fixed ShellCheck warning

fix FreeBSD

use an alias instead of a function

also: added more traces and updated version nb to v1.5.8

add test

checks that ZSTD_NBTHREADS triggers the expected verbose message

Also: checked that the new test script fails on current `dev` branch, and is fixed by this branch

removed useless assert()

fix #4332: setting ZSTD_NBTHREADS=0 via environment variables

[test] Add tests for determinism

Run compression & validate the compressed file matches a known checksum.

To update the output run:

```
make -C tests update-cli-tests
```

Add a method for checking if ZSTD was compiled with flags that impact determinism

Merge pull request #4329 from Cyan4973/cmd_split

New commands --split and --jobsize

[zstd] Remove global variables in dictBuilder

D50949782 fixed a race condition updating `g_displayLevel` by disabling display.
Instead of disabling display, delete the global variable and always "capture" a local `displayLevel` variable.
This also fixes `DISPLAYUPDATE()` by requiring the user to pass in the last update time as the first parameter.

[zstd] Backport D49756856

Merge pull request #4327 from Cyan4973/win_artifacts

Generate Zstandard binaries for Windows with lz4 support

added a cli test for new command --jobsize

fix typo

update fileio to employ jobSize

update cli-tests

updated playTests.sh to employ the new commands

changed -B# command into --jobsize

to reduce confusion with the term "block".

-B# remains supported for existing scripts,
but it's no longer documented, so it's effectively a hidden shortcut.

convert benchmark unit to use the new naming scheme

chunks instead of blocks

changed command --blocksize into --split

to reduce confusion with the concept of "blocks" inside a Zstandard frame.

We are now talking about "independent chunks" being produced by a `split` operation.

updated documentation accordingly.

Note: old commands "-B#` and `--blocksize=#` remain supported,
to maintain compatibility with existing scripts.

attempt to no longer depend on system library presence for autodetection

use explicit opt-in and path setting

update zstd build recipe to also support lz4 format

Merge pull request #4324 from facebook/dependabot/github_actions/actions/checkout-4

Bump actions/checkout from 3 to 4

Update windows-artifacts.yml

edit version comment

Update scorecards.yml

edit version comment

Update publish-release-artifacts.yml

fix version comment

Bump actions/checkout from 3 to 4

Bumps [actions/checkout](https://github.com/actions/checkout) from 3 to 4.
- [Release notes](https://github.com/actions/checkout/releases)
- [Commits](https://github.com/actions/checkout/compare/v3...v4)

---
updated-dependencies:
- dependency-name: actions/checkout
  dependency-type: direct:production
  update-type: version-update:semver-major
...

Signed-off-by: dependabot[bot] <support@github.com>

lib: zstd: export API needed for dictionary support

Patch series "zram: introduce custom comp backends API", v7.

This series introduces support for run-time compression algorithms tuning,
so users, for instance, can adjust compression/acceleration levels and
provide pre-trained compression/decompression dictionaries which certain
algorithms support.

At this point we stop supporting (old/deprecated) comp API.  We may add
new acomp API support in the future, but before that zram needs to undergo
some major rework (we are not ready for async compression).

Some benchmarks for reference (look at column #2)

*** init zstd
/sys/block/zram0/mm_stat
1750659072 504622188 514355200        0 514355200        1        0    34204    34204

*** init zstd dict=/home/ss/zstd-dict-amd64
/sys/block/zram0/mm_stat
1750650880 465908890 475398144        0 475398144        1        0    34185    34185

*** init zstd level=8 dict=/home/ss/zstd-dict-amd64
/sys/block/zram0/mm_stat
1750654976 430803319 439873536        0 439873536        1        0    34185    34185

*** init lz4
/sys/block/zram0/mm_stat
1750646784 664266564 677060608        0 677060608        1        0    34288    34288

*** init lz4 dict=/home/ss/lz4-dict-amd64
/sys/block/zram0/mm_stat
1750650880 619990300 632102912        0 632102912        1        0    34278    34278

*** init lz4hc
/sys/block/zram0/mm_stat
1750630400 609023822 621232128        0 621232128        1        0    34288    34288

*** init lz4hc dict=/home/ss/lz4-dict-amd64
/sys/block/zram0/mm_stat
1750659072 505133172 515231744        0 515231744        1        0    34278    34278

Recompress
init zram zstd (prio=0), zstd level=5 (prio 1), zstd with dict (prio 2)

*** zstd
/sys/block/zram0/mm_stat
1750982656 504630584 514269184        0 514269184        1        0    34204    34204

*** idle recompress priority=1 (zstd level=5)
/sys/block/zram0/mm_stat
1750982656 488645601 525438976        0 514269184        1        0    34204    34204

*** idle recompress priority=2 (zstd dict)
/sys/block/zram0/mm_stat
1750982656 460869640 517914624        0 514269184        1        0    34185    34204

This patch (of 24):

We need to export a number of API functions that enable advanced zstd
usage - C/D dictionaries, dictionaries sharing between contexts, etc.

Link: https://lkml.kernel.org/r/20240902105656.1383858-1-senozhatsky@chromium.org
Link: https://lkml.kernel.org/r/20240902105656.1383858-2-senozhatsky@chromium.org
Signed-off-by: Sergey Senozhatsky <senozhatsky@chromium.org>
Cc: Nick Terrell <terrelln@fb.com>
Cc: Minchan Kim <minchan@kernel.org>
Cc: Sergey Senozhatsky <senozhatsky@chromium.org>
Signed-off-by: Andrew Morton <akpm@linux-foundation.org>

Merge pull request #4321 from Cyan4973/win_artifacts

Automate Windows Artifact generation and publication

automatically upload windows artifact on Release Tag creation

test win artifact generation on pushing to release

this will get a chance to check that win artifact generation works correctly
before creating the release tag.

avoid double zipping

proper usage of standard variables

fixed the script so that it fails when a copy fails

and also: fix the list of files, as `zdict.h` was incorrectly set.

update build_package.bat by using a subrouting

updated zlib version to more recent v1.3.1

ensure that a copy error results in the task failing clearly

error code != 0, red status

checked by intentionally inserting an error in another run

Merge pull request #4322 from Cyan4973/meson_win

fix the meson windows build

try to fix the meson windows build

apparently could be just a missing include

Merge pull request #4312 from Cyan4973/musl_ci

introduce ZSTD_USE_C90_QSORT

Merge pull request #4317 from hirohira9119/fix-function-signature

Fix function signature mismatch for ZSTD_convertBlockSequences

Merge pull request #4320 from sebres/patch-1

build_package.bat: fix path to zstd_errors.h, avoid silently ignore of the errors if build failed

Merge pull request #4319 from Cyan4973/Wconversion

step towards -Wconversion

fixed minor C++ compat warnings