dsync: Try to commit transactions every dsync_commit_msgs_interval messages

This was first attempted to be implemented by
ec0cc8fa647794e44a1afaa448f495a713048dc4, but it was later partially
reverted by 5973d496b16721af6d2c1fa90b016aacddf13554. This current
commit should fix its problems.

auth: If passdb/userdb ldap has blocking=yes, auth master shouldn't connect to ldap

util: script: Increased the major protocol version due to earlier changes.

util: script: Amended protocol with the ability to convey a set of environment variables that are passed to the script.

The acceptable environment variables are selected using the -e parameter; others are ignored silently.

util: script: Amended the protocol to pass arguments escaped to prevent problems with newlines.

Newlines are used as argument delimiters in the protocol, which will cause problems.

lib-program-client: local: Fixed use of unterminated string array of environment variables in exec_child().

lib-program-client: Made the test suite ignore the protocol version.

mail-crypt-plugin: Set copy-hook only if save_version > 0

Otherwise we might use it in read-only mode, too.

doveadm mailbox status: Add "firstsaved" field.

imapc: Try to merge STOREs together as much as possible when syncing

lib-storage: Avoid unnecessary UIDNEXT lookups after saving a mail

The vsize checking code was expecting that this would always be a cheap
operation, but with imapc code it could trigger a remote STATUS (UIDNEXT)
call. Do this only when we've checked that this mailbox is updating vsize
header at all.

imapc-quota: Avoid sending unnecessarily many GETQUOTA[ROOT] commands

The last_refresh == ioloop_timeval check didn't work, because the refresh
itself updated ioloop_timeval. This caused a single quota lookup to issue
multiple GETQUOTA[ROOT] commands to imapc.

lib-storage: add a mail user pre-deinit vfunc

This allows plugins to perform checks right before the deinit call.

lib-storage: Add missing ATTR_FORMAT to mail_set_mail_cache_corrupted()

Added doc/man/doveadm-save.1 to .gitignore.

doc: Add manpage for doveadm-save

lib-storage: Use new mail_cache_set_seq_corrupted_reason

lib-index: Add mail_cache_set_seq_corrupted_reason

Marks a seq in cache corrupted, and removes
that instead of the whole cache.

lib-index: Add mail_cache_expunge_count

It can be called to correctly handle cache counters
when records are removed.

ssl-proxy-openssl: Fix comparison to stricly boolean

{lib,lib-fts}: fix builds with BSD make

Without this change, BSD make doesn't know how to make a couple of the
generated files because the BUILT_SOURCES file names don't match exactly
the left hand sides of the rules.  (GNU make somehow manages to match the
rule even though it is not an exact match.)

lib: use full path to unicode data script

This is a step toward fixing builds where object dir != source dir.

lib-fts: use full path to word-properties script

This is a step toward fixing builds where object dir != source dir.

lib-fts: download data files into srcdir

This is a step toward fixing builds where object dir != source dir.

lib: download unicode data into srcdir

This is a step toward fixing builds where object dir != source dir.

remove mystery file that appears to be unused

master: Send SIGQUIT to processes running at deinit to close socket listeners.

This allows Dovecot to be restarted even when some lmtp/doveadm process is
running for a long time. Otherwise it would keep the inet_listener socket
open and prevent the new Dovecot from binding to the port.

lib-master: When running under master, close listeners immediately on SIGQUIT

lib-master: Remove listener's IO earlier if possible

This is needed for the next change to work properly.

master: Wait more precisely 5 secs at deinit for child processes to die.

Use milliseconds granularity instead of seconds.

lib: Use lib_signals_syscall_error() for write() failure in signal handler

lib: Add lib_signals_syscall_error()

lib: Add dec2str_buf()

man: Fix doveadm-flags examples

Patch by Frank Ebert

auth: Do not use AUTH_SUBSYS_MECH in logging when request->mech is NULL

This can happen when a lookup is done instead of authentication.

Fixes auth: Panic: file auth-request.c: line 2560 (get_log_prefix): assertion failed: (auth_request->mech != NULL)

configure: Remove --with-storages parameter

Just compile all the storages, since the only benefit in limiting them
is to save a tiny bit of disk space. The recently added imapc quota code
fails to link if imapc storage isn't compiled in. This is the simplest
way to fix that.

lib-master,login-common: Add dual cert support

Adds new settings ssl_alt_cert and ssl_alt_key

lib-fs: unit tests for fs-api/fs-posix

A core component, really ought to be covered by the unit tests.
This barely scrapes the surface, but is better than nothing:
filesystem/files/iterators, read/write/exists, good and bad cases.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

passdb-imap: Make sure ssl verification is possible with current settings

passdb-imap: Add ssl_ca_file setting

Allow setting SSL trust roots from a file

passdb-imap: Add option to control certificate verification

Turn it on by default

lib-ssl-iostream: Support IP address SANs

lib-lda: mail-send: Compose var_expand table only once.

lib-lda: mail-send: Fixed debug message in mail_send_rejection() to use correct address.

lib-lda: Fixed indentation in mail-send.c.

mail-crypt: Re-encrypt mails when copying/moving

Otherwise the mail cannot be opened after moving

imap: Set FETCH transactions hidden only when \Seen flags are implicitly set

This simplifies implementing some plugins and has no downsides to core
functionality.

lib-storage: Fix memory leak in mail_search_args_simplify()

The leaks happened when search args were already initialized (which they
usually were at this point) and some of the args were dropped entirely.

Improved the unit test to initialize search args before calling the
simplify, so valgrind would notice if there are any leaks.

lib-http: client: Fixed race condition between DNS refresh lookup and a soft connection timeout.

The refreshing DNS lookup cleared all the IPs, but the soft connection timeout (and maybe other code) still relied on them.
Adding tests everywhere for host->ips_count == 0 is annoying, so I changed the DNS lookup code such that the stale IPs remain present while the DNS lookup is being performed.
The pending lookup prevents new connections through http_client_host_refresh(), so this will not create potentially useless connections.

lib-imap: imap_append_string_for_humans() - Change CR/LF to space

Practically this shouldn't matter, because in email headers a CR/LF is
always followed by a space/tab. But maybe this can be used for some
other purposes in future, and it makes the unit tests clearer. :)

lmtp: Fix assert-crash when proxy overrides mail_max_lock_timeout

Time unit is required or the call fails.

lib-master: Add comments to struct master_service_connection

lib-index: mail-index-transaction-export: Fixed handling of transaction_flag_updates_have_non_internal() return value.

Found using Clang -Wstrict-bool.

lib-imap-client: Fixed NULL check in assertion to be proper boolean.

Found using Clang -Wstrict-bool.

auth: Organize code into two unit tests

auth-cache needs special setup

lib-storage: When save is aborted, close dest_mail without crashing

Fixes:
Panic: file mail-index-transaction-update.c: line 1023 (mail_index_update_ext): assertion failed: (seq > 0 && (seq <= mail_index_view_get_messages_count(t->view) || seq <= t->last_new_seq))

Because cache was still attempted to be updated, but the mail was already
expunged from index.

lib-storage: Move backend code to a common index_storage_save_abort_last()

auth: Log reason for skipping passdb

auth: Add test suite for username filter

auth: Add username_filter for passdb block

username_filter lets you specify one or more pattern(s) for
including or excluding users. exclusion patterns are denoted
with ! prefix.

if any exclude matches the username, passdb will be skipped.
if any inclusions is specified, and the username does not match
one of them, passdb will be skipped.

auth: Use MECH subsystem when logging error about skipping all password databases

Otherwise it will assert-crash because all password databases were skipped.

auth: Refactor auth to use libauth.la

This makes writing new unit tests easier, as you can link
to libauth.la.

lib-storage: mail_search_arg_to_imap() - Fix writing invalid keywords

Just write the original invalid keyword string as output. It might not be
entirely invalid - just invalid within this mailbox (e.g. a mailbox doesn't
allow new keywords).

lib-storage: Fix searching when search query has invalid keywords.

For example "SEARCH KEYWORD ]" was returning all mails instead of nothing.

lib-index: mail_index_update_keywords() - don't assert if adding/removing 0 keywords

Although it would be nice for the caller to check it, it's easier to do
here. It's mainly a problem with mailbox_keywords_create_valid() that may
unexpectedly create empty keywords.

quota: imapc backend now never enforces the quota itself

It just causes a lot of GETQUOTA/GETQUOTAROOT calls to remove. In theory we
could make this optional, but I doubt anyone would want it.

lib-storage: Fix crash in mail_get_parts() with a special plugin

If plugin hooks into mail_get_stream() which causes data->parts to be set,
this code crashed with:

Panic: file index-mail.c: line 1163 (index_mail_parse_body): assertion failed: (data->parser_ctx != NULL)

imapc: Don't send NOOP on sync if MAILBOX_SYNC_FLAG_FAST is set

Fast syncing should do only the minimal amount of work.

imap: Allow plugins to hook into syncing.

Ideally all of the existing pieces in the syncing code would start using
this at some point, so their code could be moved to a more logical location.

imap: Move struct imap_sync_context to imap-sync-private.h

lib-storage: mail_search_arg_to_imap() - minor keywords writing optimization

Avoid an extra str_delete() by checking whether the parenthesis are needed.

lib-storage: mail_search_arg_to_imap() - minor FLAGS writing optimization

Avoid an extra str_delete() by immediately calculating whether the
parenthesis are needed.

lib: Add bits_is_power_of_two()

auth: Fixed dovecot/auth hanging when child ntlm_auth crashes while processing an authentication request

imapc: Fix memory leak when closing mailbox with delayed changes

imapc: Use UID SEARCH instead of SEARCH

UIDs work better for some broken IMAP servers, so it's safer to use it.

Keep using sequences for ESEARCH, since servers supporting it aren't at
least yet known to be broken and the search result with sequences is
smaller.

quota: Add imapc backend

This allows using imapc storage with imapc quota. The quota acts as
read-only, so it's used only when the current quota usage is explicitly
asked.

The quota can be looked up using either a mailbox name or quota root name.
By default INBOX's quota is looked up. If there are multiple quota roots
returned for the mailbox, only the first quota root returned by the
QUOTAROOT reply is used.

quota: Fix namespace deduplication when mailboxes don't have paths.

Nothing requires a mailbox path for quota backends, especially imapc.
Still do namespace deduplication based on alias_for settings.

imapc: include imapc-client.h in imapc-storage.h

It was already required to be able to successfully include imapc-storage.h.

imap-plugins: Use client_add_capability() for adding dynamic capabilities

imap: Use client_add_capability() for adding all dynamic capabilities

imap: Add client_add_capability()

imapc: Add imapc_features=fetch-bodystructure

This allows using the remote IMAP server's BODY and BODYSTRUCTURE replies.

lib-storage: Add mail_storage.nonbody_access_fields

This avoids index_mail_update_access_parts_pre() from opening the mail
stream unnecessarily for fields that can be looked up via other methods
by the storage.

lib-storage: Add index_mail_get_cached_body[structure]()

This just moves the code to these functions without changing any of the
logic.

lib-imap: Make imap_bodystructure_parse_args() public

lib-imap: Add imap_write_arg() to write only a single arg

lib-imap-client: Fix imapc_client_get_capabilities() when called without connections

imapc: Fix crash in mailbox_exists() when LAYOUT isn't imapc.

Especially breaks LAYOUT=none.

imapc: Support imapc_features=search without ESEARCH extension

imapc: Make sure client is logged in when checking capabilities

Especially with imapc_features=delay-login the capability could have been
looked at before the client was even connected.

imapc: Add imapc_mailbox.capabilities

Use it instead of imapc_client_get_capabilities(). Simplifies the
following patch.

imapc: Rename imapc_storage_has_modseqs() to imapc_mailbox_has_modseqs()

Simplifies the following patch.

cassandra: Use fallback consistency for CASS_ERROR_LIB_NO_HOSTS_AVAILABLE errors

I'm not entirely sure if this is always appropriate, but at least this error
happens every time when attempting to use write_consistency=two when there
is only a single Cassandra node.

dsync-server: Fix support for dsync_features=empty-header-workaround

Fixes:
Panic: Unknown key: empty_hdr_workaround

*-login: Require client_vfuncs.send_raw_data() to be set

This removes backwards compatibility for managesieve-login.

*-login: Add client_vfuncs.send_raw_data()

This allows login plugins to hook into seeing all the data that is sent to
the imap/pop3 client.

imap: Add imap_client_vfuncs.send_tagline()

This allows plugins to catch all the IMAP command replies.

*-login: Unload plugins at deinit.

lib-storage: Allow mail_add_temp_wanted_fields() to be called before mail_set_seq*()

Quota plugin was already doing this, but it didn't actually work. It was
also crashing with imapc:

Panic: file mail-cache-lookup.c: line 341 (mail_cache_field_exists): assertion failed: (seq > 0)