Released v2.2.33.2.

auth: Fix %{ldap_dn} not to leak memory

cassandra: Support "timestamp" type fields properly

Fixes setting them with prepared statements. Reading them never worked
earlier.

cassandra: Include "prepared" when logging about prepared statement queries

Mainly useful for debugging/testing.

cassandra: Fix using bigint types with unprepared statements

This reverts the code to not using the statements with binding at all.
Alternative fix would be to start using explicit int32 or int64 parameter
types, but that breaks backwards compatibility a bit.

doveadm proxy: Don't crash if remote doesn't support log proxying

Released v2.2.33.1.

lib-master: Allow a second log initialization after settings have been read.

This fixes logging with services that bypass the log service (lda or -L
parameter).

Released v2.2.33.

lib: ostream-multiplex - ignore flush return value

There's nothing that can be done about it at close() time. Silences static
analyzer warnings.

lib: ostream-multiplex - remove unnecessary flushes

doveadm-mail-crypt: Do not return prematurely in key generate

Broken by 446d7d9ddfe122e152b832c13fc28d164ae2c5e9

lib: istream-multiplex - Minor optimization

There's no need to find channel when we already know it. This also helps
static analyzers to understand that req_channel can't be NULL.

ostream-multiplex: Check flush return value

test-ostream-escaped: Check flush return value

Found by coverity

doveadm-server: Remove flush before multiplex

It's not really necessary, found by coverity

iostream-multiplex: Check return values in tests

doveadm: Return after destroying connection

Prevents NULL deferences, found by coverity.

doveadm mcp keypair generate: Fix -f parameter

pop3: Expand settings to fix rawlog_dir

Even if %variables weren't used in rawlog_dir, the path was always prefixed
with "0".

doveadm-mail-crypt: Print existing folder key hash when aborting generate

doveadm-mail-crypt: Print existing userkey hash when aborting generate

mail-crypt: Improve doveadm output

mail-crypt: Fix key generation handling

Userkey generation would not set all required fields.

ostream-multiplex: Unreference stream parent

Otherwise it won't get free'd.

doveadm: Add remote(host) prefix to all proxied logs

doveadm log test: Fix it to work again

Broken by 719abeb2088987f213a33a7dd1fe78958beaef03

lib: ostream-multiplex - set ostream_private.parent

Unlike with istream-multiplex, there are no issues with I/Os. Only the
parent stream will have the I/O. Using the default parent adds the
missing methods that otherwise would have needed to be implemented:
 - cork
 - flush_pending
 - switch_ioloop

lib: istream-multiplex - Forward i_stream_switch_ioloop() to parent

Most istreams do this because istream_private.parent is set to the parent
stream, but this can't be done with istream-multiplex. The main problem
with attempting to do the same with istream-multiplex is that the different
channels don't share the same I/O. Just because one channel received data
doesn't mean that other channels received any data. (It would be possible
to solve this by implementing a new method that allows overriding
i_stream_set_io(), but I'm not sure if that's a good idea either.)

acl: Fix compiler warning with -Wstrict-bool

acl: Fix checking create (k) permission in global acl-file

Just because the global ACL file hasn't changed since it was last refreshed
for another ACL object, it doesn't mean that those ACLs don't need to be
applied to this ACL object.

This didn't usually cause problems, because the initial ACL object refresh
was always done due to local-path refresh returning "needs a refresh".
The only exception was when acl_object_init_from_parent() was called,
because it added an empty non-NULL validity for the local-path, so the
"needs a refresh" wasn't returned. This happened only when trying to
CREATE or RENAME mailbox under a parent where user didn't have create
permissions.

This affected only when using a single global acl-file, not when using
global acl directory containing per-mailbox files.

acl: Cleanup - move code to a new acl_vfile_validity_has_changed()

acl: Fix checking whether global acl-file has changed

We always assumed that it was changed and re-read it.

auth: Fix %{ldap_dn} change to compile with v2.2 API

auth: Expand %{ldap_dn} to ldap_get_dn().

lib: iostream-multiplex tests - Fix hangs by setting the pipe fds non-blocking

lib: istream-multiplex - Minor code cleanup

Avoid propagating the error twice, and avoid any confusion about what "got"
actually contains.

Released v2.2.33.rc1.

director: When ring is synced, purge any pending "removed" directors

This allows adding a director back to the ring without having to wait for 30
seconds.

director: Rename director_delayed_dir_remove_timeout() to director_hosts_purge_removed()

This allows using it for other purposes without having a confusing name.

director: Fix potential panic when director is alone

If director is alone and it can't connect to other directors, it might crash
with:

Panic: file director.c: line 318 (director_set_ring_synced): assertion failed: (!dir->ring_synced)

director: Allow doveadm director ring remove for the same director

Fixes:
Panic: file doveadm-connection.c: line 859 (doveadm_connection_cmd_run): assertion failed: (conn->dir->right == NULL && conn->dir->left == NULL)

director: Don't crash on doveadm director ring remove for unknown director

Ring syncing isn't started, so it shouldn't try to wait for ring sync.

Fixes:
Panic: file doveadm-connection.c: line 859 (doveadm_connection_cmd_run): assertion failed: (conn->dir->right == NULL && conn->dir->left == NULL)

director: Don't crash if DIRECTOR-REMOVE is received for itself

This triggers the director removal from the ring, which causes the
connection to be destroyed. But since we're still in the middle of handling
the connection it needs refcounting.

director: Fix ring sync wait after DIRECTOR-REMOVE

It was sending OK twice, and the first OK was too early.

director: Ignore CONNECT requests to hosts that have been removed already

director: After CONNECT was received, make sure we disconnect

The remote side won't be reading anything after the CONNECT, so we have to
disconnect anyway. If we decide that the CONNECT request is wrong, reconnect
after a short delay and hope that the remote agrees with us the next time.

director: When director is removed, notify it before disconnecting

This way the removed director will know that it's been removed, and it
can also more quickly forward the removal to other directors.

director: Don't reset directors' last_network_failure while handshaking

The reset is done mainly to make it faster for a director that has been down
to connect back to the ring, without other directors still thinking that
it's down. But DIRECTOR that is sent during handshake says nothing about
whether the director is up at the moment or not.

director: Log info line for every incoming/outgoing connection

This can help with debugging problems.

director: Cleanup - move code to a new director_log_connect()

Also adds a missing ')' to the log line.

director: Log info line whenever a director is added/removed from ring

This can help with debugging problems.

director: Improve debugging: Log ring desync when there is no right connection

director: When logging "ring SYNC lost", include sync seq number in message

This can help with debugging.

doveadm director ring remove: Wait ring sync before and after removal

This helps mainly with automated tests.

lib-master: master_service_init_log() - Switch log handlers only on the first call

The secondary calls were only done by mail_storage_service_*() calls. They
want to initialize the logging once, but afterwards they only care about
changing the log prefix. Switch to this behavior now explicitly.

This fixes behavior if logging functions are changed between
mail_storage_service_*() calls, so they don't get reset.

lib: Fix warning with gcc7's -Wint-in-bool-context

doveadm: Deliver remote logs over doveadm socket

doveadm: Refactor server/client code to support versioning properly

This way we can distinguish between old and new server side

doveadm-server: Refactor connection handshake and authentication

Simplifies next change

lib: Add multiplex stream support

This allows having multiple channels of data in single stream.

director: Fix HOST-RESET-USERS when all hosts are down

If there were a lot of users being kicked, the host was flushed after the
initial round of user kills. This caused the rest of the user connections to
be just discarded instead of actually being killed.

director: Fix tracking user move count when user is freed early

users_moving_count wasn't updated if the user was freed before killing it
finished. This caused "doveadm director flush" to hang while waiting for
the move count to drop to 0, which it never did. Also following flushes
were doing less work in parallel, or possibly even nothing since director
thought there were too many users already being moved.

quota-clone: Always update dict

ret_count and ret_bytes become zero if no quota rules
are specified, so we need to update the dict anyways.

Broken in 81d10aff29baede9ae4944d6c89790871123d11d

dsync: Add hashed_headers setting

This makes it possible to configure them

dsync: Fix typo, it's ibc not icb

dsync: Add missing space to handshake optional keys

doveadm proxy: Avoid DNS lookup for "host" if passdb also returns "hostip"

lmtp proxy: Avoid DNS lookup for "host" if passdb also returns "hostip"

auth: Avoid DNS lookup for "host" if passdb returns also "hostip"

lib: Fix compiler warning in var-expand-if

lib: Fix static analyzer warnings in var-expand-if

var-expand-if: Remove unused variable par_start

var-expand: Add tests for var_expand conditionals

var-expand: Add support for conditionals

%{if;value-a,op,value-b:true-value:false-value}

director: Remember backends' hostnames and send them in login reply.
This allows login processes to verify the remote server's hostname in SSL
certificate.

director: Run director/host changing doveadm commands only after ring is synced

If the ring sync is still pending, the doveadm command may become reverted.
This doesn't fully prevent problems caused by sending doveadm commands
simultaneously to multiple directors, but it should prevent issues when
only a single director is used for doveadm commands.

It would have been nice to enable this also for HOST/DIRECTOR-LIST commands,
but they don't support returning a ring timeout error without changing the
protocol. It's a bit too much effort to change that for now.

director: doveadm HOST-* commands now wait for ring sync before returning OK

This should make it easier for tests and maybe for scripts in general, so
they won't think the command failed when it just takes a while to finish.

director: Cleanup - Doveadm commands now return enum doveadm_director_cmd_ret

director: Cleanup - Move all doveadm commands into an array.

cassandra: Timestamp should be in microseconds, not milliseconds

cassandra: Fix paged queries to work again

When continuing the result, consistency was reset to 0 (=ANY), which caused
the queries to fail. There's no need to initialize the statement again when
continuing it. Also set result->consistency to be correct mainly for
debugging purposes.

cassandra: Disable prepared statements with protocol v3 and older

cassandra: Add support for prepared statements

cassandra: Cleanup - Create statement earlier

Simplifies the following changes

cassandra: sql_transaction_commit*() cleanup - handle multiple query failures earlier

This makes the handling same for the sync and async method. It also
simplifies code for the following commits.

cassandra: sql_transaction_commit_s() - Set query_type correctly

The queries were all sent with READ type instead of WRITE/DELETE. This
meant they were using potentially wrong consistency values. Although
synchronous commits aren't actually used anywhere, so this practically
this doesn't fix anything right now.

cassandra: sql_transaction_commit_s() - Don't allow multi-query transactions

They were already denied for asynchronous commits. Also the synchronous
commits aren't actually used anywhere, so this shouldn't break anything.

dict-sql: Use prepared statements

Create a hash table of query template -> prepared statement and fill it out
as needed. This could have been done some alternative ways that wouldn't
require building the string first, but this should still be fast enough and
much easier to implement.

dict-sql: Flush pending atomic_inc on set, and pending set on atomic_inc

dict-sql: Cleanup - change query generator functions to return statement

Instead of query+params. This is in preparation for the following changes.

dict-sql: Cleanup - Remove unnecessary code

The values are explicitly added to params. sql_dict_update_query() doesn't
add them again. Since the "diff" parameter is already a long long type,
this avoids unnecessary conversion to string and back.

dict-sql: Use sql_statement_bind_*()

dict-sql: Add signed "int" type

dict-sql: Use sql_statement_set_timestamp() instead of adding it to query

dict-sql: Initial change to use sql_statement API

sql_statement_bind_*() will be followed by later changes.

dict-sql: Remove dict_sql_build_query.inc

It's no longer useful with the current code.

lib-dict: Moved/removed explicit stack frames in dict drivers.

Added them back to dict_set/unset/atomic_inc() in dict.c. Others are
unlikely to be called many times.

dict-sql: Change "uint" type to mean 64bit instead of 32bit integer.

This is likely what is usually wanted (especially in e.g. quotas).
If someone actually wants it to be restricted to 32bit, we could add
uint32 later on.

lib-sql: Add support for prepared SQL statements.

This initial implementation doesn't use prepared statements in drivers, but
simply generates the query string internally.