maildir: Avoid extra memory usage on duplicate uidlist entries

Also fixes assert-crashing in hash_table_insert() when it happens.

lib-index: Allow growing ext record_size after mail_index_update_ext()

The existing records will just get some zero-padding at the end of records.

lib-index: Fixed changing extension record sizes.

map needs to be cloned before any extension record size changes are done.
Otherwise the map cloning will crash or do something broken.

lib-index: Minor code cleanup - use better variable names

lib-storage: add no_fts in struct mail_search_arg

When flag is set, FTS will not be performed.

fts plugin: handle no_fts flag

No fts will be performed once flag is set.
Original patch from Timo Sirainen <timo.sirainen@dovecot.fi>

hash: refactor hash_table_insert_node() and its callers reference

Refactor *changes* the behavior of hash_table_insert().
* hash_table_insert() will assert when a key already exsists.
And hash_table_update() remains updating value when a key already exsists.

Refactor also changes the argument list referred by all its callers:
* hash_table_insert/update/resize().

lib-fts: fixup misuse of hash_table_insert()

Instead use hash_table_update() to replace value when a key exsists.

virtual: Moved virtual_mailbox_vfuncs to lib-storage.

This allows implementing other virtual storage backends.

master: Give a nicer error if unix/fifo_listener path is empty.

The previous error was simply:

unlink(/var/run/dovecot/) failed: Is a directory

print CFLAGS on ./configure

lib: net_get_ip_any[46]() to struct net_ip[46]_any

Also add struct net_ip[46]_loopback.

lib: remove useless NULL check after calling vstrconcat

behavior change accordingly.

liblib: *_strndup() and *_strconcat() shouldn't pass through NULLs.

Assert NULL string pointer in below functions:
i_strndup(), t_strndup() and p_strconcat(), t_strconcat(), i_strconcat() and
vstrconcat.
Replace former NULL condition check accordingly.

lib-fs: do NOT feed i_strconcat() with NULL

fill the string with valid content beforehand.

storage: do NOT feed p_strconcat() with NULL.

p_strconcat will never take NULL as an valid argument.
So ns->list->set.alt_dir has to be checked NULL.

auth: do NOT feed p_strconcat() with NULL

p_strconcat will never take NULL as an valid argument.
Check possible NULL string before calling it.

lib-fts: Improved stopword file reading.

The reading tries to be a little bit stricter now. Only stopwords at the
start of a new line are accepted now. Changed fi stopwords accordingly.
Also removed superfluous stack allocation in parsing.

lib-fts: Add stopword files for more languages.

lib-fts: Move stopwords to subdirectory.

All files incluided in dist are explicitly mentioned. The whole
subdirectory 'stopwords' could also be distributed, but that is
more error prone.

dict-sql: Improve error message for invalid value fields.

It'll now show which map's pattern matched, making it easier to find
from the config file.

dict: Pipelined iteration replies may have been hanging.

For example:
 - lookup start
 - iterate start
 - iterate finished, but can't reply yet
 - lookup finished
 - iterate reply can be sent now, but wasn't previously

dict: Fixed crash when reaching max (5) pending commands.

global: Use i_stream_get_max_buffer_size() wherever possible

After 7be8ba0c0 it's no longer correct to access stream->max_buffer_size
directly. These changes fix using istream-chain with various wrapper
streams.

lib: i_stream_get_max_buffer_size() checks also parents' max sizes

This fixes i_stream_get_max_buffer_size() to work correctly with
istream-chain.

lib: istream-chain didn't update its max_buffer_size

I had this code at some point earlier, but looks like it got lost from the
final commit.

lib-compression: istream.max_buffer_size == 0 isn't unlimited.

fs-metawrap: Removed unnecessary code.

As mentioned in a0cf7d392, this can't happen.

lib-fs: Improved unit tests.

fs-metawrap: Removed unnecessary code.

The caller already set success==FALSE if ostream was closed.

lib-fs: Added more asserts

lib-fs: Clarified fs_write_stream_abort() API and dropped its _async().

We can't handle an abort after an async fs_write_stream_finish() is already
going.

lib-fs: Added fs_write_stream_abort_async()

lib: Fix to previous istream-chain max_buffer_size handling

We were casting the wrong stream.

fs-metawrap: Fixed buffer size while reading metadata header.

It's not enough to have the buffer size set to "large enough" at the time of
the stream creation, because i_stream_set_max_buffer_size() could be called
afterwards.

lib: Fixed max_buffer_size handling in istream-chain

The default max_buffer_size=256 was wrong in all situations.

We're now assuming that the underlying istreams' max_buffer_size is always
correct. While gluing together two streams we're now allocating enough
memory to hold all of the wanted data (instead of assert-crashing as could
have happened earlier). This means that the max memory usage is actually
the two streams' max_buffer_size summed together. Ideally this would be
fixed to limit the max_buffer_size to maximum of the two, but that would
require further changes.

[LEN] to [static LEN] on some function parameters

Also add STATIC_ARRAY macro to hide it in c++ compilation.

doveadm: Do not use INT64 with mail cmds yet

lib-dcrypt: Fixed check program dependencies

lib-dcrypt: Fixed dcrypt_openssl_generate_keypair()

lib: Fixed file_copy() after recent changes.

dict-client: Fixed idle_msecs setting.

lib-fs: Don't duplicate backend name in fs_init() errors.

fs_init() already adds the "backend: " prefix to the error_r, so the callers
shouldn't do it again.

lib-storage: Fixed error_r with mail_storage_service_lookup_next()

We no longer want to hide the actual error message.

lib: iostream-temp: Fixed o_stream_send_istream()

lib-dcrypt: Use base64 encoded test samples

lib-dcrypt: Fix strict type-punning warning

lib-dcrypt: Fix various OpenSSL API usage issues

lib-dcrypt: Remove duplication of samples

lib-dcrypt: Finish previous t_malloc() change.

Replace some t_malloc_no0 calls with t_malloc0

This might increase safety.

Use t_new in complicated t_malloc_no0 calls

Remove t_malloc in favour of t_malloc_no0

Using either t_malloc_no0 or t_malloc0 makes it clear whether the
allocated memory is zeroed or not.

o_stream_send_istream() API changed again

The new API enforces the caller to correctly handle all the possible
situations. It also makes in unambiguous whether to wait for input or
output stream.

lib-dcrypt: Always allow error_r to be NULL.

Especially dcrypt_openssl_private_to_public_key() was called with
error_r=NULL by the dcrypt.c itself.

lib-dcrypt: sample-v2.bin shouldn't be executable

lib-dcrypt: Compiler warning fixes

lib-storage: mail_storage_service_next() now returns error string.

lib-storage: mail_storage_service_lookup() now returns the full error.

lmtp, quota-status: Don't send mail_storage_service_lookup() error to client.

This is in preparation for changing the returned error to contain the full
error string. The current error string is pretty useless for any purpose.

doveadm mailbox delete: Added --unsafe option.

lib-storage: Added MAILBOX_FLAG_DELETE_UNSAFE

configure: Include lib-dcrypt in core

lib-dcrypt: Initial implementation

doveadm-director: Fix commands so that they compile

doveadm mailbox delete: Added -e parameter to delete only empty mailboxes.

doveadm-director: Convert to ver2 infra

imap: Implemented support for the LITERAL- capability.

This replaces the LITERAL+ capability when the imap_literal_minus setting is enabled.

lib-imap: imap-parser: Turned the fatal error flag into a proper error code.

lib-imap: imap-parser: Made the fatal result parameter of imap_parser_get_error() optional.

lib-imap: imap-parser: Renamed error field to error_msg.

dbox: Revert cache changes if some save/copy fails but transaction is committed.

lazy-expunge: Don't fail expunge if mail was already expunged.

lazy-expunge: Fixed error logging.

dsync: Debug logging improvement.

lib-fs: Fix to previous fs-metawrap commit

Argh. I was sure I compiled this before pushing it.

lib-fs: fs-metawrap: Improved error logging on corrupted files.

lib-http: Default port for http should be 80, not 443.

doveadm: Fixed sending command -parameters to doveadm-server

sdbox: Make sure we don't crash when altmove-flag is set but alt path is missing.

lib-http: Improved error logging for net_set_*_buffer_size() failures.

dict-sql: Fixed memory leak

lib-http: client: Created test program that triggers most possible error conditions.

lib-http: test-http-payload: Added tests for the use of nested ioloops.

lib-http: test-http-payload: Added cleanup code to make sure no child processes get orphaned at failures.

Also handles SIGSEGV and SIGABRT.

lib-http: test-http-payload: Added -D option to easily enable debug mode.

lib-http: test-http-client: Callback is not called for explicitly aborted requests.

Test request context was not freed in that case.

lib-http: client: Fixed bug in handling of lost connections while returning from another ioloop.

At one instance the http_client_connection_is_ready() function could have destroyed the connection while the caller still depended on it.
Renamed the http_client_connection_is_ready() function to http_client_connection_check_ready().
This now returns -1 when the connection got destroyed. Before it returned a bool that just indicated whether the connection was ready or not.
So, there is no need anymore to preserve a connection reference while calling this function.

lib-http: client: Reworked connection close handling.

Now, the peer is immediately notified of the lost connection.
Before, this step was only taken when the connection was fully dereferenced.
To prevent recursive notifications between peer and connection, handling the loss of a connection is deferred to the request handler.
When a peer is freed, any associated lingering connections have conn->peer set to NULL.

lib-http: client: Improved labeling of debug messages.

Request label is corrected.
Labels are now pre-composed and stored.

lib-http: client: Prevent useless and unexpected request callbacks during http_client_deinit().

Requests are now destroyed before queues, hosts, peers and connections.
As a side-effect, requests are now removed from the client request list at http_client_request_destroy(), so that requests with lingering references will no longer make http_client_wait() hang.

lib-http: client: Added settings to configure the connection's socket kernel buffer sizes.

This is mainly useful for use in the lib-http test suite.

lib: Implemented net_set_send_buffer_size() and net_set_recv_buffer_size().

These functions allow manipulating the kernel socket buffer sizes for a socket file descriptor.

lib-http: client: Removed curiously duplicated code.

Probably a patch got applied with sufficient fuzz that it duplicated this code fragment, while it actually already existed.

lib-http: client: peer: Improved debug message that shows the loss of a connection.

lib-http: client: Made peer object reference-counted to prevent invalid memory access in request handling routine.

Resetting the peer->handling_requests flag risked triggering a segfault, since the peer object could be deleted from within the request handler loop.

lib-http: client: Improved request reference counting in connection code.

It should now always be clear when the connection object holds a reference to a request and when it is released.
Only while the reference is held, req->conn points to a connection.
This also makes the assertion in http_client_request_unref() more robust and clear.

lib-http: client: Fixed reference counting for requests that are aborted due to an early server response.

An additional http_client_request_unref() is (now) unneccessary.

lib-http: client: Fixed reference counting for requests that are aborted due to having a broken outgoing payload stream.

lib-http: Changed http_client_request_error to set request to NULL

It's going to internally unreference it, so the caller should be aware of it
also.

I also changed request state check to be an assert, since I don't think
there's any safe way this could work otherwise.

lib-http: response parser: Added check for the range of the response status value.

A value of 666 was accepted inappropriately.