lib-storage: Expunging now uses GUID only if it's in cache.

Otherwise the GUID lookup may be expensive, which is especially bad when
deleting a large number of mails.

lib-storage: Fix autoexpunge locking to actually work correctly.

It wasn't actually skipping the autoexpunging if the lock already existed.
It autoexpunged anyway.

lib-storage: Put vsize in index only if it's not there

fts: Use mailbox_list_created hook

Otherwise the deinit hook might get lost and fts would not be deinitialized.

Reverts 11f12ca1c97583b551a4286fa6cd1ab33aa67680 which seems to have been unnecessary

Fixes indexer-worker signal 11 crash

lib-storage: Once hooks have run, set vlast to NULL to make sure it's not used

The functions can't be correctly overridden outside their own specific
hooks. It would work only if hook_build_update() is called afterwards and
currently there's no public API for that.

lib-storage: Add assert to make sure header parsing isn't recursed

lib-http: client: Fixed peer reconnection failure handling.

The addressed problem occurs in a very specific situation in which the original successful connection is dropped, yet a new connection fails.
It manifests as an assertion failure or panic:

Panic: file ioloop-epoll.c: line 189 (io_loop_handler_run_internal): assertion failed: (msecs >= 0)
Panic: BUG: No IOs or timeouts set. Not waiting for infinity.

The timing is very critical. However, this doesn't mean that the occurrence of this problem is very unlikely; it can happen frequently under high load.

lib-http: client: Respect the connection idle timeout, even when all queues have unlinked from a peer.

Otherwise, the DNS TTL timeout dictates the connection idle timeout in some situations.

dict: Fix error logging if TIMESTAMP parameters are wrong.

lib-master: Ignore t_readlink ENOENT error on updating instances list

The list may contain paths that don't exist anymore.

imap: Fix panic on FETCH X-MAILBOX in virtual mailbox when mail is expunged

lib: Fix -Wstrict-bool compiler warnings.

lib: Implicitly ignore memmove and memcpy return values in path-util

This is because dovecot code doesn't explicitly ignore the return values
of those functions elsewhere either.

lib-http: server: Fix premature connection destroy in http_server_connection_output().

Added a reference to the connection object while it is sending the remainder of a response's payload.
This is necessary, since http_server_response_send_more() can destroy the connection, for example when the request has a "Connection: close" header.
This will only occur for responses with a very large payload, because otherwise the payload is fully sent in in the initial pass.

lib-storage: When logging corrupted mail size, disable logging Message-ID for now

This was causing crashes in some situations. It was originally added to
figure out if there were problems with dovecot.index.cache containing
data for wrong messages. This was never found to happen, although now
thinking about it, the problem may have been
741287129c22cadc14c05584704685b31169dbce. So perhaps this code could be
removed permanently as well.

6b44fc75c0039d1006ce4d543544552449b8e229 also attempted to fix this, but it
wasn't enough. There was still some code path that lead to recursive header
parsing.

lib: path-util: Fixed assertion in path_normalize().

The invariant was using the wrong variable for comparison, causing it to trigger erraticly.

lib: Fix t_get_working_dir() to properly allocate memory in data stack.

lib-mail: Fix message_part_data_is_plain_7bit()

Content-Type parameters weren't handled exactly right.
Broken by recent changes.

lib-imap: Fix another compiler warning

Unnecessary, but older gcc complains.

lib, lib-master: Add error_r to t_binary_abspath

lib: Add error_r to t_abspath and its callers

lib: Add tests for path-util

lib: Add Pigeonhole realpath functions to path-util

lib: Rename t_get_current_dir to t_get_working_dir

Also add an error_r parameter that cannot be NULL.

lib: Add error_r to t_readlink and its callers

lib: Add asserts to t_abspath and t_abspath_to

lib: Rename abspath to path-util

lib-imap: Fix compiler warning

Unnecessary, but older gcc complains.

lib-imap: Created test-imap-envelope.

lib-imap: imap-envelope: Added function for parsing ENVELOPE from string.

lib-imap: Added more comments to imap-bodystructure and imap-envelope.

lib-imap: imap-bodystructure: Added support for making imap_bodystructure_parse() work without a pre-existing message_part tree.

It can now create the tree from the BODYSTRUCTURE string itself.

lib-mail: message-part-data: Implemented message_part_data_get_filename().

Gets the message part's filename if it has any.

lib-mail: message-part-data: Renamed struct message_part_envelope_data to message_part_envelope.

lib-imap: imap-envelope: Moved imap_envelope_headers to lib-mail/message-part-data as message_part_envelope_headers.

lib-imap: imap-bodystructure: Moved message_part_data header parsing and query functions to their own module in lib-mail.

Moved code from imap-bodystructure and imap-envelope.

lib-imap: imap-bodystructure: Renamed imap_bodystructure_is_plain_7bit() to message_part_data_is_plain_7bit().

lib-imap: imap-envelope: Renamed imap_envelope_parse_header() to message_part_envelope_parse_from_header().

lib-imap: imap-evenvelope: Changed imap_envelope_get_field() into a private equivalent.

lib-imap: imap-bodystructure: Renamed imap_bodystructure_parse_header() to message_part_data_parse_from_header().

lib-imap: imap-bodystructure: Grouped together functions relating to the conversion of BODYSTRUCTURE to BODY.

This only moves code.

lib-imap: imap-bodystructure: Changed struct message_part_body to contain fully decoded data.

Contained unparsed IMAP string data before.

lib-imap: imap-envelope: Added function to parse struct message_part_envelope_data from parsed imap args.

lib-imap: imap-bodystructure: Renamed `d' parameter to `data' in parse_content_header() function.

lib-imap: imap-envelope: Removed useless pool field from struct message_part_envelope_data.

lib-imap: imap-bodystructure: Removed useless pool field from struct message_part_data.

lib-mail: Gave message_part_data its own field in struct message_part.

lib-imap: imap-bodystructure: Renamed struct message_part_body_data to message_part_data.

lib-imap: Removed existing envelope parsing function.

This is currently only used by imaptest. Alternative API is provided in later commit.

lib-imap: test-imap-bodystructure: Added normalization tests.

lib-imap: imap-bodystructure: Allow alternative syntax and omitted optional elements in parser input.

This makes the parser accept any RFC-compliant BODYSTRUCTURE syntax, instead of only what Dovecot itself produces.
This way the parser could reliably be used in the lib-imap-client if ever needed.

lib-imap: test-imap-bodystructure: Added more tests.

lib-imap: test-imap-bodystructure: Improved handing of parse errors.

Actually show the parse error.

lib-imap: test-imap-bodystructure: Added support for more than one test case.

lib-imap: imap-bodystructure: Fixed parse error message about invalid Content-M5 field.

lib-storage: Set vsize extension when copying mails.

lib-storage: Add index_mail_get_vsize_extension()

lib-storage: Move index_mail.vsize_ext_id to mailbox.mail_vsize_ext_id

It's mailbox-specific, so it doesn't have to be looked up every time.
Also this is needed for the following fix.

imapc: Allow using LAYOUT=none without crashing.

imap: Don't unregister internal commands at deinit.

This allows plugins to unregister commands without errors being logged.

lib-storage: Lock autoexpunging so only a single process does it.

This hopefully helps to avoid duplicates with lazy_expunge plugin.

imap: Use struct mailbox_status.flags for FLAGS reply

lib-storage: Add struct mailbox_status.flags

This is similar to permanent_flags, except it tells which flags can be
changed at all in the session. Mainly it allows plugins to make changes to
IMAP's untagged FLAGS reply.

lib: io_loop_set_current() - do nothing if ioloop doesn't change

There's no need to call the switch callbacks if the ioloop doesn't change.

doveadm: add doveadm_http_rawlog_dir setting

lib-fts: Fix assert-crash in fts_icu_lcase()

Fixes:
Panic: file fts-icu.c: line 152 (fts_icu_lcase): assertion failed: (err != U_BUFFER_OVERFLOW_ERROR)

lib-storage: Fix comparison to use virtual size instead of body virtual size

Was forgotten on 7f1ecb14

lib-index: Don't log error on dovecot.index.cache delete if it doesn't exist

For example if a cache is marked as corrupted and there is no cache, it's
not really an error that it doesn't exist.

Fixes:
Error: unlink(.../dovecot.index.cache) failed: No such file or directory (in mail-cache.c:29)

lib-storage: Filling vsize to index on read used wrong size

lib-storage: Clear virtual size from index if size is corrupted

fts: Fix search query generation when tokens are filtered out.

For example with English stopwords when searching "foo and bar" it should
be equilevant to "foo bar", since "and" is filtered out.

lib: Add t_hash helpers for hashing

lib-dict: Fix test-dict-sql in out-of-tree build

lib-dict: Add unit tests

lib-sql: Add test driver

Mock SQL driver

dict-sql: Fix iterator to not fail

When iterating a prefix without exact key flag,
do not fail when no more maps are matched if at least
one map has already matched.

Fixes
Error: dict_iterate_deinit failed: sql dict iterate failed for ...: Invalid/unmapped path

dict-sql: Move struct sql_dict to header

This allows dereferencing it on test programs

dict-sql: Do not increment on set

When merging sets do not use increment mode in builder.

director: "doveadm director move" to same host now refreshes user's timeout

This allows keeping user constantly in the same backend by just periodically
moving the user there.

global: Update http_server_request_set_destroy_callback usage

lib-http: Improve http_server_request_set_destroy_callback API

It now allows using non-void* context

global: Update http_client_request_set_destroy_callback usage

lib-http: Improve http_client_request_set_destroy_callback

It now allows using non-void* context

lib-http: client: Fixed handling of errors occurring for unsubmitted requests during http_client_request_send_payload().

When http_client_request_send_payload() is executed for the first time, the request is submitted.
Errors occurring during submission don't trigger a callback immediately.
Instead, these are queued in the client and will trigger a callback when an ioloop is run with the client.
However, in http_client_request_send_payload() the ioloop is never executed when the request fails that way, meaning that
the callback was never called. Since for example SOLR assumes the callback is always called for an error in
http_client_request_send_payload(), this causes all kinds of problems.

Fixed by manually handling the delayed request errors in http_client_request_send_payload() explicitly.

lib-sasl: Add OAUTHBEARER and XOAUTH2 mechanism

lib-sasl: Add API for setting and getting extra values

This allows setting extra parameters for authentication
and recovering extended result information from
mechanism.

imapc: Fix assert-crash on some connect failures

imapc_storage_has_modseqs() causes imapc_client_get_capabilities() to be
called, which assert-crashes if there isn't a valid connection:

Panic: file imapc-client.c: line 438 (imapc_client_get_capabilities): assertion failed: (conn != NULL)

director: Add more debug logging for moving & killing users

director: Fix USER-MOVE getting stuck if a director already uses the correct host

director: Ignore doveadm user move if host is already the same.

director: Make sure USER-KILLED isn't sent before USER-MOVE

If USER-MOVE was for a user that didn't exist, killing sent USER-KILLED
immediately before the forwarding USER-MOVE. This caused the move to get
stuck, giving errors like:

director: Error: Finishing user 3224731354 move timed out, its state may now be inconsistent (state=waiting-for-everyone)

director: Add assert to make sure USER-MOVE doesn't change tag

lib-storage: Copy cache decisions from inbox on create

Otherwise the decisions are definitely wrong, since
they are nonexistent. Copying from INBOX would make sense.

lib-index: Add mail_cache_decisions_copy

This allows priming cache decisions for a folder.

lib-index: Unconstify mail_cache_register_get_list

This way the result is usable as input for
mail_cache_register_fields.

lib-storage: Fix mailbox's vsize header check for mailboxes not in dovecot.list.index

If mailbox wasn't yet in the dovecot.list.index, mailbox_list_index_status()
for it returns FALSE and doesn't initialize the status. In some situations this
may have caused a non-empty mailbox's vsize to be returned as 0.

ssl: add ssl_curve_list setting for selecting ECHDE curves

lib-http: client: Make sure req->conn is only not NULL when that connection holds a reference to that request.

This consolidates the management of req->conn to one place, thereby preventing mishaps.
It makes sure req->conn is always properly assigned, making it more reliable.
This fixes a problem that emerged in the http-proxy.

lib-http: client: Keep connection reference throughout http_client_connection_return_response().

Before, it was held in two intervals.
Next commit requires this change, but it also simplifies this function significantly.

master: Remove unnecessary service listener start

The listening was already started later on in the same function. Also
in some cases it would have been started unnecessarily, like when service
was stopped or more processes were created immediately.