mention ubsan in README [ci skip]

doc update

tests: added checks for OCSP response file support

That is, check the usability of the APIs for setting and using
an ocsp response. This improves and makes more generic the
test suite API and test_cli_serv() in particular.

dtls: added a null pointer check in record_overhead

According to my reading this check is unnecessary as in
no case a null pointer can be encountered. However gcc6
warns about a null pointer derefence and thus adding it,
to be safe.

gnutls_x509_crt_check_hostname*: use unsigned a return value

This is to prevent issues to callers who may check for negative
error values.

doc update [ci skip]

introduced: GNUTLS_E_UNAVAILABLE_DURING_HANDSHAKE

This error code is returned when the session resumption parameters
are requested during a handshake. That is, to increase the clarity
when requesting these parameters while false start is active and
the handshake is not complete even if gnutls_handshake() has returned.

Relates #114

tests: added check of the return values of resumption data functions during false start

Relates #114

doc: mention that the session data functions will fail prior to handshake completion

x509: Fix DNS name constraints checking

- If the intersection of name constraints of the given type was empty, the results allowed all names instead of none.
- Fixed by adding an universal excluded name constraint in case the intersection for the particular type is empty.
- Moved the logic of creating a name constraint node copy from _gnutls_name_constraints_intersect to name_constraints_intersect_nodes (previously name_constraints_match), as intersecting IP addresses will require further processing (not just taking one of the compared nodes as was the implementation till now).
- GNUTLS_SAN_MAX added in order to comfortably iterate over SAN type enum.

tests: Add DNS name constraints tests

- One chaintest with empty permitted intersection.
- Merge testset with 2 permitted constraints with empty intersection (intersected list is completely empty).
- Merge testset with 3 permitted constraints, 2 of which have empty intersection.
- Merge testset with 2 permitted constraints with empty intersection and one constraints of different type that remains (intersected list is not empty).
- Enhance failing function with suite number for easier comprehension.

tests: Tidy up old X509 name constraints tests

- Use convenience functions for error checking and failure reporting.
- Drop explicit (de)initialization (prevents some not reed reachable memory due to PKCS11 subsystem not being deinitialized in the destructor).
- Use variables to count set permitted/excluded constraints instead of hard-coded numbers.

doc: clarify return codes in verification functions [ci skip]

gnutls_certificate_verify_peers2: document that hostname comparison follows RFC6125

rnd-getentropy: better handling of error printing with errno

rnd-linux: make getrandom back-end robust against EINTR failures

gnutls_init: doc update

tests: verify that GNUTLS_NONBLOCK is available as a definition

gnutls.h: define elements of gnutls_init_flags_t

That is, define all the elements that were available prior
the move from #define to enum, to allow code relying on

gnutls.h: documented the version various gnutls_init flags were introduced

Moved the gnutls_x509_dn API functions to x509_dn.c

tests: enhanced DN decoding tests with complex encoding

RFC4514 DN decoding: allow decoding of raw ('#') items

In addition allow escaping prefix or suffix spaces as well as
the hash.

doc update

tests: enhanced DN decoding tests with encoding

This adds unit tests for gnutls_x509_dn_set_str().

Added gnutls_x509_dn_set_str()

This allows initializing a gnutls_x509_dn_t structure via a DN string.

tests: utils: use vasprintf() where available

This allows printing long strings.

tests: added checks for the RFC4514 decoding via gnutls_x509_dn_get_str()

Remove redundant if expression from tests/mini-loss-time.c

Fix tests/slow/cipher-openssl-compat.c for OpenSSL 1.1.0

cfg.mk: no longer save config.rpath

removed auto-generated files from the repository

tests: removed an skipped failures due to bugs in softhsm 2.0.0

These are no longer an issue as the CI has been updated to softhsm
2.1.0, which addresses them, and they prevented catching the
GNUTLS-SA-2016-2 regression.

doc update

Dropped support for EGD random generator

This removes rarely tested code for systems which no longer exist
and simplifies code for Linux random generator.

Resolves #112

configure: prevent a version of getentropy() in a linux libc to be used

For now, we auto-detect and switch between getrandom() and /dev/urandom
when the former is not available. With the complexity of dealing with
libc's that have the feature but kernel not supporting it, or vice versa
it is best keep things simple.

rnd-linux: added sanity check in getrandom output

nettle: split the rnd-common to rnd-windows, rnd-getentropy, and rnd-linux

That is, to the windows random generator as well as the getentropy()
generator in BSDs, as well as the getrandom(), /dev/urandom,
and EGD generators on Linux systems.

rnd-common: added faster detection of getrandom based on GRND_NONBLOCK

doc update

urandom: use st_ino and st_rdev to determine device uniqueness

Added auto-detection of getrandom() system call in Linux systems

In addition use getrandom() via the syscall interface if it doesn't
exist in Libc. The reason for the latter is that getrandom() support
for glibc is in limbo for several years, and for auto-detection is that
even if it is going to be present in libc we will not be able to guarrantee
that the system call is available just because it is present in glibc.
For that we detect on initialization whether getrandom() can obtain
random data, and if yes, we continue using that.

tests: seccomp examples: use cert-common.h

tests: enhanced arbitrary extension tests with octet_string encoding

certtool: added the ability to encode arbitrary extensions

That is, added the ability to encode as an octet string any
specified extension data.

.gitlab-ci.yml: added expiration time of a week for failure artifacts

doc update

tests: added basic testing of gnutls_x509_crq_set_extension_by_oid()

tests: added checks on certificate and request generation with arbitrary extensions

This tests the add_extension and add_critical_extension options of certtool.

certtool: added options to set arbitrary extensions to certificates and requests

This allows setting arbitrary extensions using the following new template options:
add_extension = "5.6.7.8 0x0001020304050607AAABCD"
add_critical_extension = "9.10.11.12.13.14.15.16.17.1.5 0xCAFE"

The "0x" prefix can be omitted.

added gnutls_x509_crq_set_extension_by_oid()

This is a function to add an arbitrary extension into a
certificate request.

doc: mention the need of libtasn1-tools in Fedora based systems [ci skip]

doc update [ci skip]

doc: mention libcmocka dependency

tests: added unit testing for DTLS sliding window implementation

This was taken from the unit testing of AF_KTLS.

dtls: imported Fridolin's DTLS sliding window implementation

This simplifies the current code, and reduces the memory needed.

dtls: moved DTLS window handling to separate file

ex-client-x509: removed unused call to gnutls_session_set_ptr()

libtasn1: updated to allow large OIDs to be used even on 32-bit systems

doc: updated contribution guide

doc: updated contribution guide

tests: link the resume tests to gnulib due to their missing memmem()

This fixes compilation of gnutls in solaris. Reported by Dagobert Michelsen.

NEWS: corrected release date [ci skip]

.gitlab-ci.yml: keep the artifacts on failure

write_nss_key_log: write the premaster secret while it is still valid

updated libtasn1

released 3.5.2

cfg.mk: reduced the generated changelog size

bumped version

tests: ignore any memory leaks from libcrypto

doc update

asm: updated openssl and the asm sources for AES-GCM from openssl 1.0.2h

This improves the performance of AES-GCM significantly by taking
advantage of AVX and MOVBE instructions where available. This
utilizes Andy Polyakov's code under BSD license.

tests: when testing with openssl disallow any CPU optimizations

This ensures that we test our optimized code (which is mostly
openssl based), with code that is not identical.

tests: added openssl compatibility tests for AES-GCM cipher

dane: corrected the license of libdane files

The license was always LGPL version 2.1, and these
files mentioned LGPL version 3. Reported by Thomas
Petazzoni.

tests: ignore leaks due to p11-kit in test suite

This addresses issue in "pkcs11-privkey-fork" which failed
when compiled under asan due to leaks in p11-kit after fork.

tests: added check to ensure that pkcs11 objects will be reopened on fork

This checks whether C_Initialize() and C_OpenSession() will be called
again when using a PKCS#11 module.

Resolves #95

pkcs11: on object import always check for a support public key algorithm

gnutls_aead_cipher_decrypt: corrected the return value of ptext_len

That is, do not account the tag_size into the plaintext.

doc update

configure: check for libdl irrespective of FIPS140 configuration

This allows to link to libdl for the tests that require it.

tests: account pkcs11/pkcs11-mock-ext.h in Makefile

tests: link pkcs11-import-url-privkey with libdl

That is because it uses dlopen().

more files to ignore

tests: avoid compiler warning from pkcs11-pubkey-import

tests: added check to verify the tolerance of broken C_GetAttributes

That is, test gnutls_pkcs11_obj_list_import_url4() when importing
private keys from tokens that return CKR_OK on sensitive objects,
and tokens that return CKR_ATTRIBUTE_SENSTIVE.

Relates #108

pkcs11_get_attribute_avalue: correctly handle a -1 value length from C_GetAttributeValue

That is, work-around modules which do not return an error on sensitive
objects.

Relates #108

pkcs11_get_attribute_avalue: do not assign values on failure

When C_GetAttributeValue() returns size but does not return data
then pkcs11_get_attribute_avalue() would set the return data pointer
to a free'd value. This is against the convention expected by callers,
i.e, set data to NULL. Reported by Anthony Alba in #108.

tests: use datefudge in name-constraints test

This avoids the expiration of the used certificate to affect the test.

tests: link libpkcs11mock1 with gnulib

This allows it to use gnulib for strndup where it is needed.

p11tool: do not return from void functions

This fixes a compilation issue with solaris compiler. Reported
by Peter Eriksson.

doc: mention the boolean functions in the gnutls API

tests: removed remainders of pkcs11 tests from suite/

gnutls_pkcs11_crt_is_known: changed to unsigned type

tests: pkcs11-is-known: check that no flags enforce compare

gnutls_pkcs11_crt_is_known: always assume GNUTLS_PKCS11_OBJ_FLAG_COMPARE unless GNUTLS_PKCS11_OBJ_FLAG_RETRIEVE_DISTRUSTED is given

tests: moved pkcs11-softhsm test suite into pkcs11/

find_cert_cb: minor cleanups in find_cert_cb

tests: added more unit tests for gnutls_pkcs11_crt_is_known()

dn2: updated to account for serial number being printed