PKCS#5,7 decryption: verify the correctness of padding

That is, for block ciphers (i.e., cbc), verify that all the padding bytes
match the expected contents according to RFC2898.

Relates #148

PKCS#5,7 decryption: added sanity check on padding size

Relates #148

PKCS#5,7 decryption: fail without leak on unknown MAC

PKCS#5,7 decryption: fail early on invalid block sizes

PKCS#5,7 decryption: enforce limits in the support parameter sizes

This allows to detect invalid parameters early rather than later.
Relates #148

updated auto-generated files for new functions

pkcs7 output: use the new functions for DN output

tests: account for the strict RFC4514 compliance reversal

Test the new functions only for the strict RFC4514 compliance to
output strings, and test the old functions for the legacy format.

doc update

x509 output: use the new functions for DN output

cleanups in _gnutls_buffer_to_datum()

certtool: use the new APIs for DN extraction

_gnutls_x509_get_dn: when no data ensure we return GNUTLS_E_REQUESTED_DATA_NOT_AVAILABLE

This aligns with the previous (prior to RFC4514 improvements) behavior of the function.

Introduced new functions to allow multiple DN parsing modes

The old DN parsing functions are changed to return the original
non-fully compliant with RFC4514 string format, while the new
ones return the compliant string by default. This allows applications
which relied on the previous format to continue functioning without
changes.

.gitlab-ci.yml: include root dir log files in all builds

doc update

gl: removed invalid module name

tools: added explicit socket flag to skip TLS initialization

This allows proper error recovery when SOCKET_FLAG_RAW is specified
and initialize_session() fails.

gnutls-cli-debug: terminate sessions which cannot be re-used

sockets: only use gnutls_bye on a valid socket session

p11tool: --initialize will no longer reset user PIN

That is because it only resetted the user PIN and not the admin PIN,
while at the same time it had problems to cope with the case where
the URL changed between token initialization and PIN setting (which
is the case if --label is provided to --initialize).

p11tool: added options to initialize a user and admin's PIN

gnutls_store_pubkey: document the default hosts format

_wrap_nettle_pk_verify: use FAIL_IF_LIB_ERROR prior to returning success

This will prevent verification to succeed if the system is in
error state.

fips140-2: moved PCT-test in wrap_nettle_generate_keys

This allows it to run in any potential scenario, i.e., any
call of _gnutls_pk_generate_keys().

doc update

.gitlab-ci.yml: use included libtasn1 in CI systems which do not have 4.9

bumped the version of the minimum required libtasn1

We now require the latest version that supports OIDs
with elements that are longer than 32-bits.

tests: added check for the decoding of certificates with long OIDs

That is, OIDs which have an element which exceeds 2^32.

symbol-check: do not compare against symbols not exported by us

doc update

tests: updated known ciphersuites test for CHACHA20-POLY1305 in the SECURE set

priorities: added CHACHA20-POLY1305 to SECURE set

released 3.5.6

bumped versions

symbols.last: updated auto-generated file

doc update

tests: added test to ensure that gnutls_rnd() is not called during initialization

doc: explicitly state that rng self_test mustn't require rng initialization

deprecated _gnutls_rnd() in favor of exported gnutls_rnd()

rng: split initialization in preinit and init

This makes gnutls to initialize its random generator on the
first call to gnutls_rnd(). That prevents blocking due to
getrandom() on a constructor; that change allows to use gnutls-linked
applications even in early boot in systems where getrandom() blocks
waiting for entropy.

_gnutls_rnd_check: call _rnd_system_entropy_check directly

x509: removed unused IDNA file

doc update [ci skip]

handshake: log advertized version

algorithms.h: removed exported prototype from internal header

doc update

doc update

tests: added decoding of multi-value DN

x509_dn: forbid non-supported escaped chars on DN encoding

tests: enhanced RFC4514 with arbitrary escaped strings

x509_dn: allow arbitrary escaped strings

In addition fail encoding on unescaped '+'. We do not support it
for DN encoding.

tests: modified to account for backwards-encoded DN (according to RFC4514)

tests: removed old README file

The description in the file had no relevance to the existing tests.

gnutls_x509_crt_set_*dn, gnutls_x509_dn_set_str: honor the reverse property of RFC4514

When converting an RFC4514 string to a DN ensure that the elements
are encoded in reverse order, as required by the RFC.

Resolves #111

Encode string DNs backwards according to RFC4514

This makes the output string from functions such as gnutls_x509_crt_get*dn()
to comply with RFC4514 requirements in DN element order.

Relates #111

Updated issue templates [ci skip]

Added issue templates [ci skip]

doc update [ci skip]

nettle: renamed system random generator-related files for clarity

tests: introduced checks for gnutls_rnd() in multi-threaded scenario

tests: introduced sanity checks in rng-fork

drbg-aes-self-test: corrected free call

tests: check for gnutls 3.3.x compatibility

That is, check whether the status request extension is not sent
by the server, if the server does not hold a status response. We
require that behavior to be backwards compatible with gnutls 3.3.x.

Reverted the behavior of sending a status request extension even without a response

That is, we no longer reply to a client's hello with a status request, with
a status request extension. Although that behavior which was introduced
in 6b76e0c899b1ff08df9bd9b41588f771f050be89 is legal, it creates incompatibility
issues with gnutls 3.3.x branch. That is because versions prior 3.3.26
translates the presence of the extension as a guarrantee that the status
response data will be sent. Even though, that is false assumption we
replicate the previous behavior to allow such clients to connect to
a gnutls 3.5.x server.

Relates !66

tests: do not enable testpkcs11.sh twice

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

starttls: search for chat in sbin if it is not present in PATH

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

Fix autoconf warnings in libopts.m4

Without this patch Autoconf will spam console with the following kind of
messages:

configure.ac:650: warning: AC_LANG_CONFTEST: no AC_LANG_SOURCE call detected in body
../../lib/autoconf/lang.m4:193: AC_LANG_CONFTEST is expanded from...
../../lib/autoconf/general.m4:2740: _AC_RUN_IFELSE is expanded from...
../../lib/m4sugar/m4sh.m4:639: AS_IF is expanded from...
../../lib/autoconf/general.m4:2759: AC_RUN_IFELSE is expanded from...
../../lib/m4sugar/m4sh.m4:639: AS_IF is expanded from...
../../lib/autoconf/general.m4:2042: AC_CACHE_VAL is expanded from...
src/libopts/m4/libopts.m4:386: LIBOPTS_RUN_FOPEN_TEXT is expanded from...
src/libopts/m4/libopts.m4:425: INVOKE_LIBOPTS_MACROS is expanded from...
src/libopts/m4/libopts.m4:560: AM_COND_IF is expanded from...
src/libopts/m4/libopts.m4:581: LIBOPTS_CHECK is expanded from...
configure.ac:650: the top level

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

cfg.mk: fix m4 files removal

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

tests: better check for gnutls_ecc_curve_get result

Terminate handshake if only unknown or disabled signatures are advertized by the peer

That is, do not attempt to proceed assuming that the peer supports SHA-1.

Fix compilation of tests if nettle is not installed in standard path

Signed-off-by: Dmitry Eremin-Solenikov <dbaryshkov@gmail.com>

gnutls-cli-debug: corrected TLS1.2 detection

doc update

modified the gnutls_certificate_set_key* change

While the change was fully backwards compatible for applications that were
adding a single certificate, and applications that were checking for negative
errors codes, many applications do not. As this may cause incompatibility issues
with software properly utilizing the previously documented API, the change
is reverted, and applications need to explicitly enable a flag (GNUTLS_CERTIFICATE_API_V2)
in the credentials structure for the set_key functions to return an index.

tests: removed nohats.ca from testdane

The host seems to be unreliable.

.travis.yml: use as many jobs as CPUs in OSX

.travis.yml: do not run the public submodule checks of maint.mk

These seem to be problematic to detect modification and are preventing
the CI from operating.

.travis.yml: simplified the submodule checkout

The default submodule initialization in travis caused the MacOSX builds to fail.

Added casts to prevent compiler warnings

corrected typo

README.md: corrected link to travius build

.travis.yml: added support for compiling in macosx

doc update

tests: added checks for the new GNUTLS_NO_TICKETS flag

gnutls_init: added GNUTLS_NO_TICKETS flags

These flags allow the callers to disable the automatically enabled
session tickets. This could be done only with GNUTLS_NO_EXTENSIONS
which also disabled other useful extensions.

tests: added pkcs11-privkey-export

This checks whether the public parts of RSA private and public keys
can be properly extracted from a PKCS#11 module.

Expose CKA_PUBLIC_EXPONENT and CKA_MODULUS for private keys too

tests/pkcs11: Return also CKA_CLASS

tests/pkcs11: Expose SUBJECT for certificates, PUBLIC_EXPONENT and MODULUS for public keys to widen compatibility

doc update [ci skip]

updated auto-generated files

doc update

certtool: allow setting key purposes for non-CA certificates

That is, allow setting code signing, or time stamping key purpose
in certificates that are not marked as CA. The previous restriction
served no purpose.

certtool: introduce key purpose checks in p7 direct verification

x509: introduced gnutls_x509_crt_check_key_purpose()

gnutls_x509_crt_verify_data2: introduce constraints checks on the provided certificate

That is check the provided certificate for validity in time and key usage.

tests: introduced verification constraints checks for PKCS#7 structures

That is, key purpose checks and more elaborate time checks.

gnutls-serv: use the included known DH parameters by default

doc update