fuzz: Added initial values for DN, PKCS8 and X.509 tests

Added a parser for PKCS7 importing and printing

fuzz: added X.509 DN parser

fuzz: added PKCS#8 private key parser

configure: introduced --with-priority-string option

This allows specifying the priority string to be used with
gnutls_set_default_priority() on configure time.

priorities: reset the profile flags when appending new flags

That is, to avoid causing issues to applications calling gnutls_*priority_set()
multiple times with different parameters. In that case if multiple profiles are
used the outcome could be undefined. Now, the last call will prevail.

gnutls_session_set_verify_cert: doc update

Revert "priorities: set the additional verify flags instead of appending them"

This reverts commit aaf49747f981f6c17cdc9ea7495a8948a5015ae2.

doc update [ci skip]

Merge branch 'tmp-cert-updates' into 'master'

Updates in certificate handling on certtool

See merge request !181

tests: added check for certtool loading CA certificates from PKCS#11

certtool: document that --load-ca-certificate can be used with PKCS#11 URLs

certtool: load_ca_cert() can load a CA from URLs

certtool: unified the CA certificate loading process

That is, combined how CA certificates are loaded for --verify-chain,
--verify and --p7-verify. It is based on the trust list high level
functions, something that allows PKCS#11 URLs to be specified in
--load-ca-certificate.

doc update [ci skip]

.gitlab-ci.yml: changed buildroot to fedora25

Merge branch 'tmp-priority-fix' into 'master'

Fix issue with multiple calls to priority functions

See merge request !195

tests: added check for multiple calls to gnutls_priority_set_direct()

priorities: set the additional verify flags instead of appending them

That is, to avoid causing issues to applications calling gnutls_*priority_set()
multiple times with different parameters. In that case if multiple profiles are
used the combo could be undefined.

verify: print certificate on sec param failure

Merge branch 'tmp-x509-print-fix' into 'master'

Updates in X.509 certificate handling

Relates to #156

See merge request !192

x509: corrected leak in certificate printing

The leak could be triggered if the certificate policies to be imported are
invalid.

gnutls_x509_ext_import_proxy: fix issue reading the policy language

If the language was set but the policy wasn't, that could lead to
a double free, as the value returned to the user was freed.

tests: added certificate which was causing issues in gnutls_x509_crt_print()

tests: improved certder to easily load certificates from a directory

That allows to place certificates in certs-interesting/ and these
will be loaded and checked upon the new "cert" test case.

doc update

Merge branch 'tmp-src-fixes' into 'master'

Do not add cli-args.h to cli-args.stamp Makefile target

Signed-off-by: Alexander Kanavin <alex.kanavin@gmail.com>
See merge request !190

Do not add cli-args.h to cli-args.stamp Makefile target

Signed-off-by: Alexander Kanavin <alex.kanavin@gmail.com>

Merge branch 'fuzzers' into 'master'

Migrated fuzzers from the oss-repo to here.

Also added a new private_key_parser fuzzer.

See merge request !184

Describe the integration

Move to the devel dir

Added a server fuzzer

Migrated fuzzers from the oss-repo to here.

Also added a new private_key_parser fuzzer.

Drop _gnutls_epoch_get_compression

This function is unused since long ago, let's drop it.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rework setting next compression method

Only update compression method if all internal check succeed and next
epoch will use this it. Also while we are at at, actually check for
_gnutls_set_compression() return value.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rework setting next cipher suite

Only update cipher_suite if all internal check succeed and next epoch
will use this ciphe suite. Also while we are at at, actually check for
_gnutls_set_cipher_suite() return value.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Cache MAC algorithm used for PRF function

Instead of spreading checks all over the GnuTLS, cache used PRF after
setting the cipher suite and reference the value later. Like in
_gnutls_PRF_raw the GNUTLS_MAC_MD5_SHA1 means MD5+SHA1 combo.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Use MAC_MD5_SHA1 instead of MAC_UNKNOWN to specify TLS 1.0 PRF

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rewrite SSL/TLS signature verification to use combined MD5+SHA1 digest

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Rewrite SSL/TLS signing code to use combined MD5+SHA1 digest

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Add special MD5+SHA1 digest to simplify TLS signature code

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

_gnutls_pkcs_raw_decrypt_data: merge all errors during decryption to GNUTLS_E_DECRYPTION_FAILED

This makes the function's return values simpler to handle.

configure.ac: remove autogen'erated files only if necessary

Currently autogen'erated files will be removed on each call to
configure. However this would break the build if one of previous
make invocations have created corresponding stamp files.

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

bumped versions and added news entry for 3.6.0 [ci skip]

README.md: added information on the 3.5.x builds

tests: added test for PKCS#8 encrypted key decoding

This also verifies that the return value when attempting to
decrypt without a password is GNUTLS_E_DECRYPTION_FAILED.

pkcs8: ensure that the correct error code is returned on decryption failure

doc update [ci skip]

doc: updated to documentation of certtool [ci skip]

This corrects options which incorrectly mentioned they support URLs.

x509: better documented gnutls_trust_list_flags_t

tests: disable ASAN leak checks on suite tests

These detect memory leaks in the tools in src/ which are
not critical nor there is serious reason to address.

tests: disable ASAN leak checks on certificate tests

These detect memory leaks in the tools in src/ which are
not critical nor there is serious reason to address.

tests: enhanced long-session-id test

This ensures that no leaks exist during exit (to avoid asan failures),
and that we test for the specific error code that gnutls_handshake()
is expected to return.

handshake: return GNUTLS_E_ILLEGAL_PARAMETER on invalid ID size

This is a more sensible error code to return on invalid packet.

tests: eliminate compilation warning in crq-basic [ci skip]

.gitlab-ci.yml: do not enable IDN support in minimal build

configure.ac: use AC_CONFIG_LINKS to copy autogenerated files

Added autogen pre-generated files into repository

This allows building gnutls from git in systems without using
autogen.

configure: added option to enable maintainer mode

That makes normal builds, not regenerate Makefiles or configure,
allowing for faster CI builds on second stage.

.gitlab-ci.yml: split the CI run into stages

In addition avoid re-generating images for operating systems
on every build and use pre-built images, which are generated in
the gnutls-build-images sub-project. That allows for faster and
more reliable (independent of network) CI runs.

.gitlab-ci.yml: use local libopts on x86

This works around autogen failures on x86-64 centos7 CI hosts.

doc: updated documentation on multithreading [ci skip]

Resolves #154

doc: list gnutls_init_flags_t [ci skip]

Suggested by Tyler Burns.

tests: make conditional (to HAVE_LIBIDN) any IDN related checks

This allows the test suite to successfully complete even when compiled
without libidn.

str: do not call gnutls_assert in inline function

This allows the build to succeed when compiled without libidn.

tests: disable leak checks in rsa-md5-collision.sh

tests: split and enhanced UTF-8 name checks from hostname-check

That is, added checks to ensure that non-ASCII DNS names in certificates
fail, and that properly encoded IDNA2003 names, succeed.

tests: added check with failed verification on invalid UTF-8

That is, check whether raw UTF-8 in the certificate will fail
verification. Raw UTF-8 is prohibited by IETF PKIX (RFC5280) on a
certificate.

tests: updated cert with UTF8 names to contain proper IDNA2003 encoded names

gnutls_x509_crt_check_email type changed to unsigned

This reflects the documented returned value type (bool), and
allows the compiler to warn on accidental checks for negative
value.

x509: do not attempt to ACE encode values stored in certificates

The email and hostname values are required to be in ASCII form by PKIX.
We instead ignore these names, if their values are outside the ASCII
printable character set.

.gitlab-ci.yml: removed libintl references

They are no longer shipped in the build systems.

tests: added missing test in dist

tests: corrected typos in starttls.sh

This allows to detect chat in most systems.

bumped version

tests: reduced the intermediate steps in rsa-md5-collision

configure: break after finding the first libtspi

It may happen that multiple versions are available on a system,
and by using the first one we ensure, that we are using the
64-bit version on 64-bit system, instead of falling back to
the 32-bit.

doc update

tests: added operational -sign/verify- tests in keygen app

This will check that a generated key is immediately usable for
operations.

gnutls_x509_privkey_cpy: use _gnutls_pk_params_copy

This ensures that all fields of parameters are copied. Inspired
by patch of Dmitry Eremin-Solenikov.

tests: enhanced keygen to include check of gnutls_x509_privkey_cpy

tests: added tests for CRL generation APIs

x509 crl: document the nextUpdate field limitation

Don't trash DER CRQ output with text data

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

x509 crl: Allow generation of CRLs not to specify a nextUpdate

doc update [ci skip]

tests: updated overhead calculation for new code

DTLS: more precise overhead calculation

That takes into account space available due to padding, and
allows it to be included for use in the gnutls_get_data_mtu().

Resolves #140

tests: added check for MTU calculation on DTLS 1.2

src: clean all stamp files on 'make clean'

configure: search 64-bit paths for libtspi before 32-bit paths

That is, because 64-bit systems may have both 64-bit and 32-bit paths
while 32-bit systems only the latter.

tpm: fix handling of keys requiring authorization

There are several problems with the key handling in the tpm code.

The first, and most serious, is that we should make sure we understand
the authorization requirements of a key *before* using it.  The reason
for this is that the TPM has a dictionary attack defence and is
programmed to lock up after a certain number of authorization failures
(which can be very small).  If we try first without authorization, we
may lock up the TPM.  The fix for this is to check whether
authorization is required and supply it before using the key.

Secondly, if the key does require authorization but no password is
supplied we should return immediately, since we know the TPM will give
us an authorization error anyway.

Thirdly, we should unconditionally read the policy of the key rather
than checking if a policy exists: Policies are tied to key objects, so
if there is an old policy in s->tpm_key_policy, but we're creating a
new key, the key it belonged to will be closed, meaning the policy
will be invalid.  Fix this by always setting the policy each time we
get a new key object.

Signed-off-by: James Bottomley <James.Bottomley@HansenPartnership.com>

In import_tpm_key_cb() fix the wrong password loop

When calling import_tpm_key() once it initializes the key, but
a second call fails due to the key being already initialized. Ensure
that failure of import_tpm_key() leaves the key on a clear state.

Reported by James Bottomley <James.Bottomley@HansenPartnership.com>.

src gl: updated

gl: removed iconv module

It is no longer used by the library.

configure.ac: detect trousers library on debian

Prevent unwanted linkage to -lhogweed

Specify action-if-found for AC_CHECK_LIB when checking for !SuiteB
curves to keep autoconf from adding -lhogweed to LIBS. This caused
linkage of e.g. openssl wrapper and C++ library to -lhogweed. The issue
only shows up if --disable-libdane is specified, since the dane autoconf
test resets LIBS.

Fix inability to find libtspi (trousers) on openSUSE

For distro reasons, the path on openSUSE is /lib[64]/libtspi.so.1
which the current code doesn't find.  Fix this by having it search all
viable system library locations (/lib /lib64 /usr/lib and
/usr/lib/lib64)

Signed-off-by: James Bottomley <James.Bottomley@HansenPartnership.com>

x509: fixed output of pubkey

doc: document the fact that certificates and CRLs are unusable after generation

They must be exported and re-imported if intended to be used for
signing or verification.