lib-http: client: Improved request reference counting in connection code.

It should now always be clear when the connection object holds a reference to a request and when it is released.
Only while the reference is held, req->conn points to a connection.
This also makes the assertion in http_client_request_unref() more robust and clear.

lib-http: client: Fixed reference counting for requests that are aborted due to an early server response.

An additional http_client_request_unref() is (now) unneccessary.

lib-http: client: Fixed reference counting for requests that are aborted due to having a broken outgoing payload stream.

lib-http: Changed http_client_request_error to set request to NULL

It's going to internally unreference it, so the caller should be aware of it
also.

I also changed request state check to be an assert, since I don't think
there's any safe way this could work otherwise.

lib-http: response parser: Added check for the range of the response status value.

A value of 666 was accepted inappropriately.

lib-dict-extra: Compiler warning fix

lib-dict: Added dict_switch_ioloop()

lib-dict: dict-client rewrite to support async operations

lib: Added t_str_tabunescape()

lib-dcrypt: Use a more supported EC curve in unit test

Fixes running the test on CentOS 6.

lib-index: Don't break indexes on syscall failures during index refreshing.

Especially mmap() failures due to out of memory could have triggered this.
We treated the open as successful, which meant that an empty index was
opened.

lib-dcrypt: Fixed running unit tests in build directory.

mailbox-alias: Fixed renaming mailboxes when the plugin is loaded.

lib-dcrypt: Fixed memory leak in test-crypto unit test

doveadm dump: Updated obox's oid output.

lib-http: client: Added more debug logging about the submission of delayed requests.

time-util: Fixed usec comparison in timeval_cmp_margin().

lib-dcrypt: Fix error_r pointer verification.

lib-fs: Added write_bytes to statistics

[LEN] to [static LEN] on some function parameters

Also add STATIC_ARRAY macro to hide it in c++ compilation.

dcrypt: Arm deinitialization code

dcrypt: Add test for public key loading

dcrypt-openssl: Pass pointer safely

lib-index: Fixed test-mail-index-sync-ext

lib-index: Fixes to handling resized records.

dict: Increased max number of pipelined requests from 5 to 1000.

The client is supposed to be the one throttling the requests. We mainly
want to avoid accidental abuses. Using 1000 is hopefully "large enough"
without being "too large".

dict: Avoid potentially using 100% CPU

Continuing 65c570f18 fix.

lib-fs: Added fs_switch_ioloop()

lib-fs: Code cleanup for fs-sis: Use struct fs.parent

lib-dcrypt: Use hex encoded public key ID in callback

Fixed linking with OSX.

lib-dcrypt: Use dcrypt_key_id_private when applicable

ldap: Fix cyclic dependency

dovecot-config: Add lib-dcrypt to LIBDOVECOT_INCLUDE

Since lib-dcrypt is part of libdovecot.

master: make setting listen empty an error

lib-index: mail_index_ext_resize() was broken when record_size wasn't changed.

lib-dcrypt: Fix various problems

lib-mail: Improved message-parser unit tests.

lib-mail: Fixed message_parser_init_from_parts() with truncated MIME headers

lib-mail: message-header-parser now keeps istream referenced.

lib-storage: mail_set_cache_corrupted*() now sets internal error to storage.

At least index_mail_set_message_parts_corrupted() assumed that this was
being done.

cassandra: Try fallback_consistency also for write timeout failures.

doveadm-server: Disable idle timeout for now

lib-dcrypt: Fixed library dependencies

_DEPENDENCIES needs an explicit paths, not "-lssl" and such. Fixes building
with e.g. OSX.

lib-lda: Don't assert-crash if home directory isn't set.

mbox: Code cleanup - use bool instead of int for tracking locked-status

quota: Differentiate between forced and non-forced quota recalc

The "count" backend doesn't need to recalc quota unless an explicit "doveadm
quota recalc" command is called.

quota: Skip reading mail sizes when quota backend doesn't need it.

If quota backend is updating the quota internally, it's just going to ignore
the looked up size. The only reason for looking up the sizes is to check
with quota_try_alloc() whether user is going over quota.

fs-randomfail: Support failures after asynchronous commands have already finished.

dict: Fixed hang when pipelining multiple commands.

lib-index: Extension record size resizing was still broken.

Fixes assert-crash:
Panic: file mail-index-util.c: line 143 (mail_index_seq_array_add): assertion failed: (array->arr.element_size == sizeof(seq) + aligned_record_size)

lib-mail: Added comment about invalid timezones in message_date_parse()

director: Fixed error handling when directors support incompatible tags

Connection should have been disconnected immediately, not after the next
command that would have produced "Incompatible protocol".

lib-dcrypt: Fixed error handling in dcrypt_key_id_public()

lib-storage: Fixed error handling in list=children checking

fts-lucene: Fixed error handling when checking if settings had changed.

mailbox-alias plugin: Fixed error handling

lib-storage: Search args equalness checks didn't compare keywords correctly.

This may have broken the search in some situations.

mbox: Fixed expunging first mail with CRLF linefeeds.

mdbox: Fix want_altpath flags/boolean mixup

There was only a single flag, so this wasn't actually currently broken.

auth: Fixed error handling in passdb/userdb dict config parsing

director: Fixed ignoring an obsolete up/down change while host is desynced.

lib-dcrypt: Fixed function return type.

lazy-expunge: Fixed crash on error handling

lib-index: Fix duplicate fields in mail_cache_register_fields()

Broken by hash_table_insert() API change. The earlier code was also a bit
wrong by allocating a bit too much memory when there were duplicate fields
being registered.

lib-index: Fixed extension resizing

Broken by 8483af4ff.

lib-index: Added header-size asserts

lib-index: Fixed fsck handling extension with invalid header size

Fixes:

Panic: file mail-index-sync-ext.c: line 393 (mail_index_sync_ext_init_new): assertion failed: (hdr_buf->used == map->hdr.header_size)

lib-storage: Detect duplicate mailbox GUIDs in guid-cache.

Also fixes assert-crashing in hash_table_insert() when it happens.

maildir: Detect duplicate keywords in dovecot-keywords file

Use the first such keyword's index, not the last.

Also fixes assert-crashing in hash_table_insert() when it happens.

maildir: Avoid extra memory usage on duplicate uidlist entries

Also fixes assert-crashing in hash_table_insert() when it happens.

lib-index: Allow growing ext record_size after mail_index_update_ext()

The existing records will just get some zero-padding at the end of records.

lib-index: Fixed changing extension record sizes.

map needs to be cloned before any extension record size changes are done.
Otherwise the map cloning will crash or do something broken.

lib-index: Minor code cleanup - use better variable names

lib-storage: add no_fts in struct mail_search_arg

When flag is set, FTS will not be performed.

fts plugin: handle no_fts flag

No fts will be performed once flag is set.
Original patch from Timo Sirainen <timo.sirainen@dovecot.fi>

virtual: Moved virtual_mailbox_vfuncs to lib-storage.

This allows implementing other virtual storage backends.

master: Give a nicer error if unix/fifo_listener path is empty.

The previous error was simply:

unlink(/var/run/dovecot/) failed: Is a directory

dict-sql: Improve error message for invalid value fields.

It'll now show which map's pattern matched, making it easier to find
from the config file.

auth: Support %variable expansion for LDAP field names.

For example this is now allowed:

user_attrs = \
  =namespace/%{ldap:enabledNamespace}/enabled=yes \
  ...

lib-imap-storage: Don't sort uninitialized array on invalid header list.

lib-imap-storage: Minor error logging cleanup/fix.

We read from input, not from mail_input. In theory it could have the actual
error instead of mail_input (although right now it couldn't).

lib: ostream-escaped: Fixed setting offset

lmtp: Fixed error logging when writing to temp file

global: Use [io]_stream_get_error() insted of %m

Added LIBDOVECOT_SQL_INCLUDE to dovecot-config and dovecot.m4.

dsync: Fixed potential crash

This seems to be possible with dsync_mailbox_find_common_expunged_uid() ->
dsync_mailbox_common_uid_found() -> dsync_mailbox_rewind_search() -> following
search doesn't find anything.

doveadm fetch: Translate commas to spaces in body|binary.<section> with

This way we can do e.g.:

doveadm fetch 'uid body.header.fields(from,to,subject)' ...

Although in theory we could also change the parser to allow spaces as long
as they're inside (..), but this is probably too much extra effort.

lib-imap-storage: Allow HEADER.FIELDS(..) without space before '('

This is to allow doveadm fetch to use it. Attempting to do this without a
space in IMAP already fails elsewhere:

x fetch 1 body.peek[header.fields(from to)]
x BAD Error in IMAP command FETCH: Invalid characters in atom

doveadm fetch: Fixed logging errors for istream failures

doveadm fetch: Added body.<section> and binary.<section> fields

These correspond to IMAP BODY[<section>].

doveadm: error to print formatted without format

This changes the segfault of `doveadm -f formatted ...` to an error.

lib-http: server: Fixed assert failure occurring when closing the connection while a request payload was still being read.

.gitignore: Added *~

doveadm-server: Handle istream send error.

lib-dict-extra: Avoid out of scope data stack usage.

lib: Add PKCS#5 pbkdf1 and 2

auth: Add PBKDF2 password scheme

lib-fts: Improved stopword file reading.

The reading tries to be a little bit stricter now. Only stopwords at the
start of a new line are accepted now. Changed fi stopwords accordingly.
Also removed superfluous stack allocation in parsing.

lib-fts: Add stopword files for more languages.

lib-fts: Move stopwords to subdirectory.

All files incluided in dist are explicitly mentioned. The whole
subdirectory 'stopwords' could also be distributed, but that is
more error prone.