gnutls_rnd: document the available values of level [ci skip]

This enables using the function by only checking the man page.

pkcs11 verification: ensure that an issuer we retrieve is not blacklist

It may happen in p11-kit trust module that a trusted certificate is
both in the trusted set, and the blacklisted set. To avoid accepting
a certificate when in both sets, we always check whether a trusted
issuer certificate is in the blacklisted set.

Attempt to fix a leak in OpenPGP cert parsing.

tests: enable all the ciphersuite in openssl cli for DSS checks

certtool: improved error reporting on file error

tests: don't check against 3DES if disabled in openssl

tests: do not pass the -dhparams to openssl 1.1.0; it doesn't work

tests: simplified DH params format

Also switch to RFC7919 DH params.

tests: corrected type in openssl compat tests

tests: added common variable for DH parameters

tests: fixed paths in compat tests

tests: better termination checking in compat tests

This ensures that the exit code of all spawned processes is
checked.

cfg.mk: exclude devel/ subdirectory from syntax checks

certtool: properly report unencrypted PKCS#8 keys in --p8-info

fuzz: added decrypted PKCS#8 keys

fuzz: added PKCS#8 keys with low iteration count

This makes sure that the fuzzer will not timeout while
trying to decode keys.

submodules: use the github mirror of openssl

Do not infinite loop if an EOF occurs while skipping a PGP packet

Signed-off-by: Alex Gaynor <alex.gaynor@gmail.com>

Added a fuzzer for OpenPGP cert parsing

Signed-off-by: Alex Gaynor <alex.gaynor@gmail.com>

fuzz: document the convention for initial values

fuzz: Added initial values for DN, PKCS8 and X.509 tests

Added a parser for PKCS7 importing and printing

fuzz: added X.509 DN parser

fuzz: added PKCS#8 private key parser

configure: introduced --with-priority-string option

This allows specifying the priority string to be used with
gnutls_set_default_priority() on configure time.

priorities: reset the profile flags when appending new flags

That is, to avoid causing issues to applications calling gnutls_*priority_set()
multiple times with different parameters. In that case if multiple profiles are
used the outcome could be undefined. Now, the last call will prevail.

gnutls_session_set_verify_cert: doc update

Revert "priorities: set the additional verify flags instead of appending them"

This reverts commit aaf49747f981f6c17cdc9ea7495a8948a5015ae2.

doc update [ci skip]

Merge branch 'tmp-cert-updates' into 'master'

Updates in certificate handling on certtool

See merge request !181

tests: added check for certtool loading CA certificates from PKCS#11

certtool: document that --load-ca-certificate can be used with PKCS#11 URLs

certtool: load_ca_cert() can load a CA from URLs

certtool: unified the CA certificate loading process

That is, combined how CA certificates are loaded for --verify-chain,
--verify and --p7-verify. It is based on the trust list high level
functions, something that allows PKCS#11 URLs to be specified in
--load-ca-certificate.

doc update [ci skip]

.gitlab-ci.yml: changed buildroot to fedora25

Merge branch 'tmp-priority-fix' into 'master'

Fix issue with multiple calls to priority functions

See merge request !195

tests: added check for multiple calls to gnutls_priority_set_direct()

priorities: set the additional verify flags instead of appending them

That is, to avoid causing issues to applications calling gnutls_*priority_set()
multiple times with different parameters. In that case if multiple profiles are
used the combo could be undefined.

verify: print certificate on sec param failure

Merge branch 'tmp-x509-print-fix' into 'master'

Updates in X.509 certificate handling

Relates to #156

See merge request !192

x509: corrected leak in certificate printing

The leak could be triggered if the certificate policies to be imported are
invalid.

gnutls_x509_ext_import_proxy: fix issue reading the policy language

If the language was set but the policy wasn't, that could lead to
a double free, as the value returned to the user was freed.

tests: added certificate which was causing issues in gnutls_x509_crt_print()

tests: improved certder to easily load certificates from a directory

That allows to place certificates in certs-interesting/ and these
will be loaded and checked upon the new "cert" test case.

doc update

Merge branch 'tmp-src-fixes' into 'master'

Do not add cli-args.h to cli-args.stamp Makefile target

Signed-off-by: Alexander Kanavin <alex.kanavin@gmail.com>
See merge request !190

Do not add cli-args.h to cli-args.stamp Makefile target

Signed-off-by: Alexander Kanavin <alex.kanavin@gmail.com>

Merge branch 'fuzzers' into 'master'

Migrated fuzzers from the oss-repo to here.

Also added a new private_key_parser fuzzer.

See merge request !184

Describe the integration

Move to the devel dir

Added a server fuzzer

Migrated fuzzers from the oss-repo to here.

Also added a new private_key_parser fuzzer.

Drop _gnutls_epoch_get_compression

This function is unused since long ago, let's drop it.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rework setting next compression method

Only update compression method if all internal check succeed and next
epoch will use this it. Also while we are at at, actually check for
_gnutls_set_compression() return value.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rework setting next cipher suite

Only update cipher_suite if all internal check succeed and next epoch
will use this ciphe suite. Also while we are at at, actually check for
_gnutls_set_cipher_suite() return value.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Cache MAC algorithm used for PRF function

Instead of spreading checks all over the GnuTLS, cache used PRF after
setting the cipher suite and reference the value later. Like in
_gnutls_PRF_raw the GNUTLS_MAC_MD5_SHA1 means MD5+SHA1 combo.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Use MAC_MD5_SHA1 instead of MAC_UNKNOWN to specify TLS 1.0 PRF

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rewrite SSL/TLS signature verification to use combined MD5+SHA1 digest

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rewrite SSL/TLS signing code to use combined MD5+SHA1 digest

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Add special MD5+SHA1 digest to simplify TLS signature code

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

_gnutls_pkcs_raw_decrypt_data: merge all errors during decryption to GNUTLS_E_DECRYPTION_FAILED

This makes the function's return values simpler to handle.

configure.ac: remove autogen'erated files only if necessary

Currently autogen'erated files will be removed on each call to
configure. However this would break the build if one of previous
make invocations have created corresponding stamp files.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

bumped versions and added news entry for 3.6.0 [ci skip]

README.md: added information on the 3.5.x builds

tests: added test for PKCS#8 encrypted key decoding

This also verifies that the return value when attempting to
decrypt without a password is GNUTLS_E_DECRYPTION_FAILED.

pkcs8: ensure that the correct error code is returned on decryption failure

doc update [ci skip]

doc: updated to documentation of certtool [ci skip]

This corrects options which incorrectly mentioned they support URLs.

x509: better documented gnutls_trust_list_flags_t

tests: disable ASAN leak checks on suite tests

These detect memory leaks in the tools in src/ which are
not critical nor there is serious reason to address.

tests: disable ASAN leak checks on certificate tests

These detect memory leaks in the tools in src/ which are
not critical nor there is serious reason to address.

tests: enhanced long-session-id test

This ensures that no leaks exist during exit (to avoid asan failures),
and that we test for the specific error code that gnutls_handshake()
is expected to return.

handshake: return GNUTLS_E_ILLEGAL_PARAMETER on invalid ID size

This is a more sensible error code to return on invalid packet.

tests: eliminate compilation warning in crq-basic [ci skip]

.gitlab-ci.yml: do not enable IDN support in minimal build

configure.ac: use AC_CONFIG_LINKS to copy autogenerated files

Added autogen pre-generated files into repository

This allows building gnutls from git in systems without using
autogen.

configure: added option to enable maintainer mode

That makes normal builds, not regenerate Makefiles or configure,
allowing for faster CI builds on second stage.

.gitlab-ci.yml: split the CI run into stages

In addition avoid re-generating images for operating systems
on every build and use pre-built images, which are generated in
the gnutls-build-images sub-project. That allows for faster and
more reliable (independent of network) CI runs.

.gitlab-ci.yml: use local libopts on x86

This works around autogen failures on x86-64 centos7 CI hosts.

doc: updated documentation on multithreading [ci skip]

Resolves #154

doc: list gnutls_init_flags_t [ci skip]

Suggested by Tyler Burns.

tests: make conditional (to HAVE_LIBIDN) any IDN related checks

This allows the test suite to successfully complete even when compiled
without libidn.

str: do not call gnutls_assert in inline function

This allows the build to succeed when compiled without libidn.

tests: disable leak checks in rsa-md5-collision.sh

tests: split and enhanced UTF-8 name checks from hostname-check

That is, added checks to ensure that non-ASCII DNS names in certificates
fail, and that properly encoded IDNA2003 names, succeed.

tests: added check with failed verification on invalid UTF-8

That is, check whether raw UTF-8 in the certificate will fail
verification. Raw UTF-8 is prohibited by IETF PKIX (RFC5280) on a
certificate.

tests: updated cert with UTF8 names to contain proper IDNA2003 encoded names

gnutls_x509_crt_check_email type changed to unsigned

This reflects the documented returned value type (bool), and
allows the compiler to warn on accidental checks for negative
value.

x509: do not attempt to ACE encode values stored in certificates

The email and hostname values are required to be in ASCII form by PKIX.
We instead ignore these names, if their values are outside the ASCII
printable character set.

.gitlab-ci.yml: removed libintl references

They are no longer shipped in the build systems.

tests: added missing test in dist

tests: corrected typos in starttls.sh

This allows to detect chat in most systems.

bumped version

tests: reduced the intermediate steps in rsa-md5-collision

configure: break after finding the first libtspi

It may happen that multiple versions are available on a system,
and by using the first one we ensure, that we are using the
64-bit version on 64-bit system, instead of falling back to
the 32-bit.

doc update

tests: added operational -sign/verify- tests in keygen app

This will check that a generated key is immediately usable for
operations.

gnutls_x509_privkey_cpy: use _gnutls_pk_params_copy

This ensures that all fields of parameters are copied. Inspired
by patch of Dmitry Eremin-Solenikov.