x059: Fix asymmetry in name constraints intersection

- In _gnutls_name_constraints_intersect, if *_nc had a node of some type not present in _nc2, this was preserved. However, if it was vice versa (_nc2 having a type not present in *_nc), this node was discarded.
- This is now fixed.
- Removed redundant return value check that was accidentally left when refactoring from set_datum to explicit NULL setting.

Signed-off-by: Martin Ukrop <mukrop@redhat.com>

tests: Add and improve chain tests

- Add a new chaintest testing the symmetry of merging name constraints of different types.
- Rename old name_constraints_but_no_name test to match other name constraints tests.
- Improve chain description of older name constraints tests.

Signed-off-by: Martin Ukrop <mukrop@redhat.com>

doc update [ci skip]

configure: do not generate makefiles in removed dirs

tests: updated paths for new location of p12 files

tests: safe renegotiation tests are run from top dir

tests: srp tests moved outside subdir

tests: moved sha2 tests into cert-tests/

tests: moved ecdsa tests to key-tests/

tests: moved dsa tests into key-tests/

tests: moved pkcs8 tests to key-tests/

tests: key-tests: moved data files into data/ subdir

tests: moved pkcs12 tests into cert-certs/ subdir

more files to ignore

Require compiler to support C99

doc update

Add test for gnutls_x509_crt_list_import2 with flag GNUTLS_X509_CRT_LIST_FAIL_IF_UNSORTED.

gnutls_x509_crl_list_import2 was ignoring the passed flags if all CTLs in the list fit within the initially allocated memory.

gnutls_certificate_get_peers may return an unsorted list

gnutls_x509_crt_list_import2 was ignoring the passed flags if all certificates in the list fit within the initially allocated memory.

x509: parse_tlsfeatures: move limit check at the point of addition

This prevents appending failures when verifying chains on certificates
which use the maximum allowed number of features. Suggested by Tim
Kosse.

tests: removed irrelevant comment

correct the sign type of integers in debug message

Suggested by Tim Kosse

verify_crt: simplified error setting

based on suggestion by Tim Kosse.

verify_crt: removed text on parameter no longer being present

x509: avoid using int declaration within a for-loop

This addresses compilation problem with old compilers,
and brings consistency as this type of declaration is not
used in gnutls' code.

gnutls_global_init/deinit: don't use any locking during constructor

This ensures that there is no deadlock on unexpected errors, such
as missing symbols (e.g., on lazy linking). Reported by Ludovic Courtès.

rnd-linux: use better define check for linux systems

gnutls_prf: document when its output matches gnutls_prf_rfc5705

doc: gnutls_session_set_id: added since

.gitlab-ci.yml: keep the guile logs as artifacts on test suite failure

doc update

Add extra dependency flags

This fixes the build when the dependencies are split up during a cross-compile

Resolves: #113

moved system-keys-win.c and system-key-dummy.c under system/

split system.c to various files under system/

gnutls.h: giovec_t is a typedef to iovec where that is available

tests: added unit test for linux _rnd_get_system_entropy

This tests whether the function can operate as expected while being
interrupted by signals.

getrandom: loop around getrandom to get the requested number of bytes

This simplifies and enhanced the previous error handling code.

README.ci-runners: document asan and ubsan tags

tests: removed pkcs1-padding from subdirs

.gitignore: more tests files to ignore

configure.ac: don't generate makefiles of moved tests

tests: pkcs1-pad: moved to cert-tests

tests: userid test moved to cert-tests/

tests: rsa-md5-collision: run from top-level

doc: updated documentation for gnutls_transport_set_int*

doc: added section on reducing round-trips

That discusses TCP fast open with gnutls_transport_set_fastopen(), and false start.

tests: added test of gnutls_transport_set_fastopen

tests: added test of TCP fast open using gnutls-cli and gnutls-serv

doc update

tools: TLS handling has been incorporated into socket_open()

This is of particular usage to the server IP address loop, since
we can detect fast open errors and retry handshake to the next IP
address.

gnutls-cli: added example usage of TCP fastopen

It is enabled with the new --fastopen option.

Support TCP Fast Open

This introduces a new function gnutls_transport_set_fastopen().

Signed-off-by: Nikos Mavrogiannopoulos <nmav@redhat.com>
Signed-off-by: Tim Ruehsen <tim.ruehsen@gmx.de>

.gitlab-ci.yml: added asan tag for builds which require asan

tests: pkcs11-privkey-fork: added explicit pkcs11 deinitialization

Also ignore known leaks for p11-kit.

mention ubsan in README [ci skip]

doc update

tests: added checks for OCSP response file support

That is, check the usability of the APIs for setting and using
an ocsp response. This improves and makes more generic the
test suite API and test_cli_serv() in particular.

dtls: added a null pointer check in record_overhead

According to my reading this check is unnecessary as in
no case a null pointer can be encountered. However gcc6
warns about a null pointer derefence and thus adding it,
to be safe.

gnutls_x509_crt_check_hostname*: use unsigned a return value

This is to prevent issues to callers who may check for negative
error values.

doc update [ci skip]

introduced: GNUTLS_E_UNAVAILABLE_DURING_HANDSHAKE

This error code is returned when the session resumption parameters
are requested during a handshake. That is, to increase the clarity
when requesting these parameters while false start is active and
the handshake is not complete even if gnutls_handshake() has returned.

Relates #114

tests: added check of the return values of resumption data functions during false start

Relates #114

doc: mention that the session data functions will fail prior to handshake completion

x509: Fix DNS name constraints checking

- If the intersection of name constraints of the given type was empty, the results allowed all names instead of none.
- Fixed by adding an universal excluded name constraint in case the intersection for the particular type is empty.
- Moved the logic of creating a name constraint node copy from _gnutls_name_constraints_intersect to name_constraints_intersect_nodes (previously name_constraints_match), as intersecting IP addresses will require further processing (not just taking one of the compared nodes as was the implementation till now).
- GNUTLS_SAN_MAX added in order to comfortably iterate over SAN type enum.

tests: Add DNS name constraints tests

- One chaintest with empty permitted intersection.
- Merge testset with 2 permitted constraints with empty intersection (intersected list is completely empty).
- Merge testset with 3 permitted constraints, 2 of which have empty intersection.
- Merge testset with 2 permitted constraints with empty intersection and one constraints of different type that remains (intersected list is not empty).
- Enhance failing function with suite number for easier comprehension.

tests: Tidy up old X509 name constraints tests

- Use convenience functions for error checking and failure reporting.
- Drop explicit (de)initialization (prevents some not reed reachable memory due to PKCS11 subsystem not being deinitialized in the destructor).
- Use variables to count set permitted/excluded constraints instead of hard-coded numbers.

doc: clarify return codes in verification functions [ci skip]

gnutls_certificate_verify_peers2: document that hostname comparison follows RFC6125

rnd-getentropy: better handling of error printing with errno

rnd-linux: make getrandom back-end robust against EINTR failures

gnutls_init: doc update

tests: verify that GNUTLS_NONBLOCK is available as a definition

gnutls.h: define elements of gnutls_init_flags_t

That is, define all the elements that were available prior
the move from #define to enum, to allow code relying on

gnutls.h: documented the version various gnutls_init flags were introduced

Moved the gnutls_x509_dn API functions to x509_dn.c

tests: enhanced DN decoding tests with complex encoding

RFC4514 DN decoding: allow decoding of raw ('#') items

In addition allow escaping prefix or suffix spaces as well as
the hash.

doc update

tests: enhanced DN decoding tests with encoding

This adds unit tests for gnutls_x509_dn_set_str().

Added gnutls_x509_dn_set_str()

This allows initializing a gnutls_x509_dn_t structure via a DN string.

tests: utils: use vasprintf() where available

This allows printing long strings.

tests: added checks for the RFC4514 decoding via gnutls_x509_dn_get_str()

Remove redundant if expression from tests/mini-loss-time.c

Fix tests/slow/cipher-openssl-compat.c for OpenSSL 1.1.0

cfg.mk: no longer save config.rpath

removed auto-generated files from the repository

tests: removed an skipped failures due to bugs in softhsm 2.0.0

These are no longer an issue as the CI has been updated to softhsm
2.1.0, which addresses them, and they prevented catching the
GNUTLS-SA-2016-2 regression.

doc update

Dropped support for EGD random generator

This removes rarely tested code for systems which no longer exist
and simplifies code for Linux random generator.

Resolves #112

configure: prevent a version of getentropy() in a linux libc to be used

For now, we auto-detect and switch between getrandom() and /dev/urandom
when the former is not available. With the complexity of dealing with
libc's that have the feature but kernel not supporting it, or vice versa
it is best keep things simple.

rnd-linux: added sanity check in getrandom output

nettle: split the rnd-common to rnd-windows, rnd-getentropy, and rnd-linux

That is, to the windows random generator as well as the getentropy()
generator in BSDs, as well as the getrandom(), /dev/urandom,
and EGD generators on Linux systems.

rnd-common: added faster detection of getrandom based on GRND_NONBLOCK

doc update

urandom: use st_ino and st_rdev to determine device uniqueness

Added auto-detection of getrandom() system call in Linux systems

In addition use getrandom() via the syscall interface if it doesn't
exist in Libc. The reason for the latter is that getrandom() support
for glibc is in limbo for several years, and for auto-detection is that
even if it is going to be present in libc we will not be able to guarrantee
that the system call is available just because it is present in glibc.
For that we detect on initialization whether getrandom() can obtain
random data, and if yes, we continue using that.

tests: seccomp examples: use cert-common.h

tests: enhanced arbitrary extension tests with octet_string encoding

certtool: added the ability to encode arbitrary extensions

That is, added the ability to encode as an octet string any
specified extension data.