Run clang-format on all code to follow the new code style

If you end up on this commit when running “git blame ...”, it’s probably
a good idea to use “git blame -w ...” to ignore whitespace changes.

Describe new code style and switch from Uncrustify to clang-format

Changing source code style to what I prefer is something that I have
wanted to do for quite some time but I never got to it. Doing it now
feels like a good time since much code will be rewritten anyway as part
of the C++-ification.

Use #pragma once for guarding headers

It seems to be supported by all reasonably modern compilers now.

Sort list

C++-ify source code

The ccache source code will be converted to C++, targeting C++11. This
commit only arranges the existing C-style code to be built as C++ code.
This makes it possible to call new C++ code from old C-style code.
Gradual conversion to C++ functionality and idioms will follow in a slow
and controlled fashion – no big bang rewrites.

The alternative would be to convert code in a top-down fashion, i.e.
only calling legacy C code from new C++ code, not the other way around.
That approach is however not a good idea since the code that will
benefit most from being written in proper C++ is code deep down in the
call chains.

Except for renaming source code files to .cpp and .hpp, this commit
makes minimal changes to make the code base buildable again, for
example:

- Instructs configure.ac to look for a mandatory C++11-compliant
  compiler.
- Adds Makefile rules for building C++ code.
- Sets up Travis-CI to pass C++ compiler flags and similar to the build.
- Adds new casts where needed.
- Adds const keywords where needed.
- Renames variables to something else than C++ keywords (e.g.
  “template”).
- Rearranges some code to avoid complaints about goto jumps that cross
  variable lifetimes.

Add x_ prefix to basename and dirname

This avoids warnings about differing function prototypes when compiling
as C++ code.

Remove unused autoconf checks for ar, cpp and ranlib

Upgrade to use scan-build-7 for the Clang static analyzer

Refer to autogen.sh correctly in autogen.sh

Closes #449.

Fix comparison with the “cu” language

This should have been done in c4fffda0.

Related to PR #381.

Revert "Add back support for the “cuda” language"

This reverts commit 95b0dc5a76bff88ba420a62b7bf2e74e8ea7e300.

NVCC maps the “.cu” extension to “cu” but Clang maps it to “cuda”, so
it’s ambiguous. Let’s ignore the Clang case for now.

Related to PR #381.

Add back support for the “cuda” language

Clang apparently recognizes it.

Related to PR #381.

Remove .ic extension and cuda/cuda-output languages

CUDA/NVCC, at least not version 10.1, does not recognize “.ic” as a
valid extension and neither “cuda” nor “cuda-output” as languages.

Also made sure to compare with “cu” instead of “cuda” when detecting
whether to force run_second_cpp.

test/suites/nvcc.bash: Test -x cu and -dc options

When compiling CUDA code, recognize -dc as compilation only argument

nvcc's options -dc or --device-c imply -c but also generates device
code. We catch it as an option if our guessed compiler is NVCC

Add cu language as an alias to cuda

Fix gperf generation when running on MSYS2 (#448)

Apparently gperf doesn't like DOS linefeeds

Added remaining changes to make tests run on MSYS (#246)

* Skip test that require symlinks, on Windows/Cygwin

* Don't use symlinks for lockfiles on Cygwin

* Seems like objdump has issues on Windows/Cygwin

* Make it possible to run suite in isolation

Change from http to https for some URLs

Mention libb2 dependency in installation instructions

Document BLAKE2b and clean up after #445

Closes #412.

Only set flags for cross, breaks native build

Need all the auto-detected CPU flags to be set

Make sure to pass flags to travis shell commands

Enable building static local libb2 for non-native

Generated files are in builddir, not srcdir

Upgrade travis docker to xenial, add libb2-dev

Also upgrade clang from 5 to 7, to match travis

Add new deb requirements from libzstd and libb2

Move libb2 source code to src/third_party

Only disable optimizations when cross-compiling

Fix travis build by helping clang and cross

Add option to build static libb2 from source

Add libb2-dev to Travis linux dependencies

Use BLAKE2b checksum instead of bundled MD4

Bump to zstd 1.4.1

Move third party source code to src/third_party

Fix CCACHE_MAXSIZE with filesystem compression (#444)

Prepare for v3.7.2

(cherry picked from commit 41ce399ce1a33fd7211754e77fb4a5ddcb1d9eea)

Update NEWS

(cherry picked from commit 4e9b1c1b8e1c98081f284beb2f5766f452fd04fe)

Don’t pass -Werror and compilation-only options to the preprocessor

Clang emits warnings when it sees unused options, so when ccache runs
the Clang preprocessor separately, options that are not used by the
preprocessor will produce warnings. This means that the user may get
warnings which would not be present when not using ccache. And if
-Werror is present then the preprocessing step fails, which needless to
say is not optimal.

To work around this:

* Options known to have the above mentioned problem are not passed to
  the preprocessor.
* In addition, -Werror is also not passed to the preprocessor so that
  options not properly marked as “compiler only” will only trigger
  warnings, not errors.

Fixes #312.

(cherry picked from commit 5d8585b588fb9f81e741b765603053e4cadcf1ac)

Rename stripped_args to common_args

(cherry picked from commit bdf4c6b635789e37412fd0b393c637d91ce9cd7b)

Fix out-of-source build when using --with-libzstd-from-internet

Add missing headers to release archive list

Don’t build tar.bz2 release archive

bz2 seems more or less obsolete since xz compresses better (and
decompresses faster), and gz is more ubiquitous.

Add missing license blurbs to header files

Add “and other contributors” to copyright notices

Add 64-bit MinGW build

Improve -x/--show-compression

- Ignore *.tmp.* files.
- Mention on-disk size (adjusted for disk block size) to make it match
  the cache size reported by “ccache --show-stats”.
- Introduced “space savings” and “of original” percentages.
- Calculate compression ratio only for compressed files.
- Include “incompressible files” size, i.e. total size of .raw files and
  files produced by previous ccache versions.
- Removed file counts since I don’t think that they are of much
  interest.
- Handle unparsable manifest files from previous ccache versions
  gracefully.

Remove the kB case from format_*_size* functions

Nobody will ever use or see non-zero kB sizes anyway, and this makes the
zero case for sizes in --show-compression nicer.

Add .editorconfig

This makes GitHub show tabs as 2 spaces wide, which is what I like (and
also what the code style assumes when counting characters for line
widths).

Refactor code for getting manifest/result content size

Document -x/--show-compression

Add gitter.im link and badge

Never store stderr output or .d files separately

Add support for file cloning on Mac OS X (APFS)

Implement support for file cloning on Linux (Btrfs/XFS)

- Added a new file_clone (CCACHE_FILECLONE) configuration setting. If
  set, ccache uses the FICLONE ioctl if available to clone files to/from
  the cache. If file cloning is not supported by the file system, ccache
  will silently fall back to copying (or hard linking if hard_link is
  enabled).
- Compression will be disabled if file_clone is enabled, just like for
  hard_link.
- file_clone has priority over hard_link.
- Tested on Btrfs and XFS on Linux 5.0.0.

Closes #213.

Sort envtoconfitems.gperf list

Add command to show compression statistics (#440)

This will only show information about the files that is knows about
(right magic bytes). So the file count might differ from what is shown
with the regular statistics (which shows all files, including old ones).

The terminology used here is a bit confused, the compression ratio is
supposed to grow upwards. Sometimes known as "space savings" instead,
so list both values (ratio and savings) to make the output more obvious.

Reimplement the hard link mode

- Files stored by hard linking are saved as _N.raw files next to their
  .result file, where N is the 0-based index of the entry in the .result
  file.
- The .result file stores expected file sizes for the .raw files and the
  code verifies that they are correct before retrieving the files from
  the cache.
- The manual has been updated to mention the new file size check and
  also some other caveats.

The previous hard link mode implementation was removed in
3999a9ca67e2eabb8457920108b546713f200161 and
a1dbb8a15e034e5a63eb6b4407c9e3ccac469162. The latter commit lists three
points:

1. Hard links are error prone.
2. Compression will make hard links obsolete as a means of saving cache
   space.
3. A future backend storage API will be easier to write.

Point 1 is still true, but since the result file now stores expected
file sizes, many inadvertent modifications of files will be detected.

Point 2 is also still true, but you might want to trade cache size for
speed in cases where increased speed actually is measurable, like with
very large object files.

Point 3 does not quite hold after thinking some more about future APIs.
I think that it will be relatively straight-forward to add operations
like supports_raw_files, get_raw_file and put_raw_file to the API.

Let stderr content have an even more special name in result files

Refactor result_get code into functions per marker type

In preparation for reimplementing the hard link mode.

Allow NULL checksum parameter for common_header_initialize_for_reading

Remove now redundant check for existing result file

Avoid logging uninteresting message for deletion of .dwo file

Simplify compression_type_from_config

Refactor common_header_initialize_*

In preparation for adding cache compression statistics and cache
recompression functionality.

Avoid letting “-gdwarf*” force “run_second_cpp = true”

Fixes #394.

Improve error handling and logging of result files copying

Probe whether the compiler produces a .dwo

GCC and Clang behave differently when given e.g. “-gsplit-dwarf -g1”:
GCC produces a .dwo file but Clang doesn’t. Trying to guess how the
different options behave for each compiler is complex and error prone.

Instead, Ccache now probes whether the compiler produced a .dwo and only
stores it if it was produced. On a cache hit, the .dwo is restored if it
exists in the previous result – if it doesn’t exist in the result, it
means that the compilation didn’t produce a .dwo.

Fixes #393.

Extract objdump_cmd to test/run where it belongs

Remove obsolete conditionals in the split_dwarf test suite

Add --no-compression and --compression-level to misc/performance

Use Ubuntu 16.04 for Travis CI

Quote CC setting when calling into libzstd’s makefile

Extract code for reading uint64_t in result.c to a macro

Extract common header setup code to functions

Add checksumming of cached content

Both compressed and uncompressed content are checksummed and verified.
The chosen checksum algorithm is XXH64, which is the same that the zstd
frame format uses (but ccache stores all 64 bits instead of only 32,
because why not?).

Require libzstd and remove zlib support

* zlib has been removed. Good riddance!
* libzstd is now required for building ccache. However, it’s not bundled
  like zlib was.
* To make it easier to build ccache on systems that lack an easily
  installable libzstd, the configure script now offers a
  --with-libzstd-from-internet option, which downloads a zstd source
  release archive, unpacks it in the tree and sets up the Makefile to
  build the library and link ccache (statically) with it.
* Enabled compression by default.
* Made compression level 0 mean “use a default level suitable for the
  current compression algorithm”. For zstd, that’s initially level -1,
  but that could change in the future. The reason for using 0 as a
  special marker is that a future alternative compression algorithm
  could have another reasonable default than zstd. (Let’s hope that
  future algorithms don’t use level 0 for something.)
* Changed default compression level to 0.

Closes #413.

Enable build command verbosity in Travis builds

This makes it much easier to understand build failures.

Restructure Travis configuration

In preparation for switching from zlib to zstd. I find it easier to use
a flat job list instead of a matrix and state settings explicitly for
the different jobs.

Don’t enable unit test verbosity in Travis

It’s way too spammy.

Refactor functions for reading/writing common header

The functions now work on bytes instead of FILEs, allowing for the
caller to optionally peek at read/written bytes.

Replace murmurhashneutral2 with xxHash (XXH64)

XXH64 is significantly faster than murmurhashneutral2 (on 64-bit
systems, which one can assume ccache almost always is running on these
days). This of course doesn’t matter for keys in hash tables, but it
opens up for using it as a checksumming algorithm for cached data as
well.

Don’t try a higher zstd level than supported

If the user tries a higher level than supported by libzstd,
initialization will fail. Instead, let’s clamp the level to the highest
supported value.

Regarding negative levels: They are supported from libzstd 1.3.4, but
the query function ZSTD_minCLevel is only supported from 1.4.0 (from
1.3.6 with ZSTD_STATIC_LINKING_ONLY), so let’s not use it for
verification of the level. In libzstd 1.3.3 and older, negative levels
are silently converted to the zstd’s default level (3), so there’s no
major harm done if a user uses a negative level with older libzstd
versions.

Allow for negative compression level

Use the compression API for reading and writing manifests

* Manifest and result files now share the same common header (sans the
  magic bytes) and will be compressed using the common compression
  settings.
* Removed the legacy “hash size” and “reserved” fields.

Tweak code style

Extract and implement more bytes from/to int macros

Improve order of parameters to common_header_*_file

Extract header code common to result and manifest files

Allow using zstd compresssion instead of zlib (#437)

Verify value in “ccache -o key=value”

Based on a suggestion by Henri Houder.

const-ify parameters to confitem verifier/formatter

Change to looser compression_type data type

This avoids a Clang analyzer warning.

Rename “filelist” to “result_files”

Refactor compression type/level calculation

In preparation for introducing a new manifest format.

Add a content size field to the result file header

The content size field says how much uncompressed data is stored in the
file. This can be used to relatively quickly determine the compression
rate for the whole cache by only inspecting each file’s header insted of
having to read and decompress all files.

Since the content size needs to be calculated before actually adding the
content to the result file, I’ve reverted back to let the format use a
“number of entries” field instead of an EOF marker (similar to Anders
Björklund’s original work in 0399be2d) since the information about the
number of files now has to be known beforehand.

Another subtle change is that the compression level field now is int8_t
instead of uint8_t to make it possible to record negative levels.

Don’t try to parse unimplemented reference entries in result files

Remove now unused x_fstat function

Fix check of destination fd in copy_file

Fix possible NULL pointer dereference (#433)

cppcheck:
  [src/manifest.c:270] -> [src/manifest.c:269]: (warning)
  Either the condition '!errmsg' is redundant or there is possible null pointer
  dereference: errmsg.

Improve naming of things

Some words are being used to mean several things in the code base:

* “object” can mean both “the object file (.o) produced by the compiler”
  and “the result stored in the cache, including e.g. the .o file and .d
  file”.
* “hash” can mean both “the state that the hash_* functions operate on”,
  “the output of a hash function” and “the key used to index results
  and manifests in the cache”.

This commits tries to make the naming more consistent:

* “object” means “the object file (.o) produced by the compiler”
* “result” means “the result stored in the cache, including e.g. the .o
  file and .d file”.
* “struct hash” means “the state that the hash_* functions operate on”.
* “digest” means “the output of a hash function”. However, “hash” is
  still used in documentation and command line output since I think that
  “hash” is easier to understand for most people, especially since
  that’s the term used by Git.
* “name” means “the key used to index results and manifests in the
  cache”.