global: Use check-local in Makefile.am instead of overriding check directly

This helps with dependency problems, like running "make check" in
lib-storage without "make" first would try to compile the test programs
too early and fail.

lib-sql, lib-ldap: Fix link dependencies

Fixes using the gold linker.

lib: ostream-multiplex - ignore flush return value

There's nothing that can be done about it at close() time. Silences static
analyzer warnings.

lib: ostream-multiplex - remove unnecessary flushes

lib: istream-multiplex - Minor optimization

There's no need to find channel when we already know it. This also helps
static analyzers to understand that req_channel can't be NULL.

ostream-multiplex: Check flush return value

global: Use i_close_fd instead of close

Some were missed, found by coverity

test-ostream-escaped: Check flush return value

Found by coverity

doveadm-server: Remove flush before multiplex

It's not really necessary, found by coverity

iostream-multiplex: Check return values in tests

doveadm: Return after destroying connection

Prevents NULL deferences, found by coverity.

ostream-multiplex: Unreference stream parent

Otherwise it won't get free'd.

doveadm: Add remote(host) prefix to all proxied logs

doveadm log test: Fix it to work again

Broken by 719abeb2088987f213a33a7dd1fe78958beaef03

lib: ostream-multiplex - set ostream_private.parent

Unlike with istream-multiplex, there are no issues with I/Os. Only the
parent stream will have the I/O. Using the default parent adds the
missing methods that otherwise would have needed to be implemented:
 - cork
 - flush_pending
 - switch_ioloop

lib: istream-multiplex - Forward i_stream_switch_ioloop() to parent

Most istreams do this because istream_private.parent is set to the parent
stream, but this can't be done with istream-multiplex. The main problem
with attempting to do the same with istream-multiplex is that the different
channels don't share the same I/O. Just because one channel received data
doesn't mean that other channels received any data. (It would be possible
to solve this by implementing a new method that allows overriding
i_stream_set_io(), but I'm not sure if that's a good idea either.)

acl: Fix compiler warning with -Wstrict-bool

doveadm-mail-crypt: Print existing folder key hash when aborting generate

acl: Fix checking create (k) permission in global acl-file

Just because the global ACL file hasn't changed since it was last refreshed
for another ACL object, it doesn't mean that those ACLs don't need to be
applied to this ACL object.

This didn't usually cause problems, because the initial ACL object refresh
was always done due to local-path refresh returning "needs a refresh".
The only exception was when acl_object_init_from_parent() was called,
because it added an empty non-NULL validity for the local-path, so the
"needs a refresh" wasn't returned. This happened only when trying to
CREATE or RENAME mailbox under a parent where user didn't have create
permissions.

This affected only when using a single global acl-file, not when using
global acl directory containing per-mailbox files.

acl: Cleanup - move code to a new acl_vfile_validity_has_changed()

acl: Fix checking whether global acl-file has changed

We always assumed that it was changed and re-read it.

dict-sql: dict doesn't support NULL values, so convert SQL NULLs to ""

lib-sql: Add comments about NULL values.

global: Use PRIdTIME_T and PRIxTIME_T format specifiers

master,stats: Use time_t instead of unsigned long to count seconds

m4: Add PRIdTIME_T and PRIxTIME_T format specifiers

global: Use PRI* macros and %zu instead of casting

pop3: Expand settings to fix rawlog_dir

Even if %variables weren't used in rawlog_dir, the path was always prefixed
with "0".

lib-settings: Add assert to help static analyzer

mail-crypt: test-mail-key - Fix potential crash on a failed test

Avoids "Uninitialized argument value" warning from static analyzer.

lib: test-mempool-alloconly - help static analyzer understand that pool is non-NULL

lib: istream-multiplex - remove dead assignment

doveadm-mail-crypt: Print existing userkey hash when aborting generate

lib: don't use foo_real()-style symbols in a header file

While there is precedent for symbols getting _real suffix to hide
implementation details, all the existing symbols were static until
the recent i_fd_close*() changes.  This commit makes this true again.

lib: move i_fd_close*() to fd-util.[ch]

lib: move fd_close_maybe_stdio() to fd-util.[ch]

lib: move fd_set_nonblock() to fd-util.[ch]

lib: move fd-close-on-exec.[ch] code into fd-util.[ch]

global: stop including fd-set-nonblock.h & fd-close-on-exec.h directly

lib: always include fd-close-on-exec.h & fd-set-nonblock.h via fd-util.h

lib: iostream-multiplex tests - Fix hangs by setting the pipe fds non-blocking

lib: istream-multiplex - Minor code cleanup

Avoid propagating the error twice, and avoid any confusion about what "got"
actually contains.

dict-ldap: Link directly to dict binary, unless --with-ldap=plugin was used

This is similar to how authdb_ldap plugin is built.

dict-ldap: Move from plugins/dict-ldap to lib-dict-backend

lib-dict-backend: Build test-dict-sql even without "make check"

There's no longer a dependency problem.

lib-dict: Move libdict_backend to lib-dict-backend

mail-crypt: Improve doveadm output

mail-crypt: Fix key generation handling

Userkey generation would not set all required fields.

director: When ring is synced, purge any pending "removed" directors

This allows adding a director back to the ring without having to wait for 30
seconds.

director: Rename director_delayed_dir_remove_timeout() to director_hosts_purge_removed()

This allows using it for other purposes without having a confusing name.

director: Fix potential panic when director is alone

If director is alone and it can't connect to other directors, it might crash
with:

Panic: file director.c: line 318 (director_set_ring_synced): assertion failed: (!dir->ring_synced)

global: Remove dead code

Found with clang static analyzer.

dict-memcached: Response status may not be included in enum memcached_response

This helps at least static analyzers figure out that other statuses are
possible, although unexpected.

lib-test: Use i_unreached() for marking unreachable code in test fatal handler

This avoids a warning with static analyzer.

auth: LDAP request queue has no size limit anymore - remove dead code

mbox: Remove unnecessary check from assert - move_diff is always negative here

zlib: zlib_mailbox_open_input() can't fail - remove dead code

lib-storage: imapc_mailbox_get_selected_status() can't fail - remove dead code

doveadm-server: Use i_close_fd

doveadm: Deliver remote logs over doveadm socket

doveadm: Refactor server/client code to support versioning properly

This way we can distinguish between old and new server side

doveadm-server: Refactor connection handshake and authentication

Simplifies next change

lib: Add multiplex stream support

This allows having multiple channels of data in single stream.

director: Allow doveadm director ring remove for the same director

Fixes:
Panic: file doveadm-connection.c: line 859 (doveadm_connection_cmd_run): assertion failed: (conn->dir->right == NULL && conn->dir->left == NULL)

director: Don't crash on doveadm director ring remove for unknown director

Ring syncing isn't started, so it shouldn't try to wait for ring sync.

Fixes:
Panic: file doveadm-connection.c: line 859 (doveadm_connection_cmd_run): assertion failed: (conn->dir->right == NULL && conn->dir->left == NULL)

director: Don't crash if DIRECTOR-REMOVE is received for itself

This triggers the director removal from the ring, which causes the
connection to be destroyed. But since we're still in the middle of handling
the connection it needs refcounting.

lib: istream-file - set blocking=TRUE automatically for blocking sockets

This fixes it to be correct with various doveadm commands.

lib: istream-file/unix - don't ignore EINTR for blocking istream reads

Just fail the istream read entirely. Although there's a small possibility
that this interrupt was unwanted and should be retried, it's more likely
that a blocking istream is hanging and admin wants to stop the process.
If the EINTR is ignored all the time, it's not possible to abort a
blocking read with ^C or anything else than SIGKILL.

lib: test-istream-unix - Use i_stream_set_blocking()

lib: Add i_stream_set_blocking()

lib-smtp: smtp-submit: Made submission_timeout a setting rather than a function parameter.

This makes it configurable.

lib-lda: Dropped now useless settings from lib-lda/lda-settings.

These are now in lib-smtp/smtp-submit-settings.

imap: Drop dependencies on lib-lda settings.

Start using lib-smtp/smtp-submit-settings instead.
Put any other settings required by IMAPSIEVE in struct imap_settings.

lib-lda: Use hostname and postmaster_address settings from mail_storage_settings where possible.

lib-lda: Use SMTP submit settings directly.

lib-storage: Renamed duplicate to mail_duplicate.

This makes more sense given where this is now located.

lib-lda: Moved duplicate handling to lib-storage.

lib-lda: Removed old smtp-client API.

lib-storage: Added hostname, postmaster_address and recipient_delimiter settings to mail_storage_settings.

Copied from lda_settings.

lda/lmtp: Parse SMTP submit settings.

lda: main: main(): Put result from mail_user_var_expand_table() in a variable.

Keeps code more compact, as this function is going to be called several times.

lmtp: commands: client_deliver(): Put client->state.dest_user in a variable.

Keeps code more compact, as this value is used several times.

lmtp: commands: client_deliver(): Put result from mail_user_var_expand_table() in a variable.

Keeps code more compact, as this function is called several times.

lib-smtp: smtp-submit: Made settings parseable.

lib-lda: Moved most of mail_deliver_save_open() to lib-storage.

This prevents the need to link Pigeonhole lib-sieve to lib-lda, which makes no sense for IMAPSIEVE.
This also allows lib-sieve to have more control over how mailboxes are opened.

lib-storage: Created mailbox_alloc_delivery(), which initializes a mailbox for message delivery.

lib-storage: Implemented new mailbox flag MAILBOX_FLAG_AUTO_SUBSCRIBE.

When this flag is enabled, the mailbox is implicitly subscribed to when it is created automatically.

lib-storage: Implemented new mailbox flag MAILBOX_FLAG_AUTO_CREATE.

When this flag is enabled, the mailbox is automatically created when it is opened (if possible and appropriate).

lib-storage: Implemented mailbox_is_autosubscribed().

Indicates whether the mailbox is automatically subscribed to when it is automatically created.

director: Fix HOST-RESET-USERS when all hosts are down

If there were a lot of users being kicked, the host was flushed after the
initial round of user kills. This caused the rest of the user connections to
be just discarded instead of actually being killed.

director: Fix tracking user move count when user is freed early

users_moving_count wasn't updated if the user was freed before killing it
finished. This caused "doveadm director flush" to hang while waiting for
the move count to drop to 0, which it never did. Also following flushes
were doing less work in parallel, or possibly even nothing since director
thought there were too many users already being moved.

quota: quota_get_resource() - return enum to make the result more exact

This is mainly to differentiate between "resource name unknown" and
"unlimited quota".

This also fixes quota_clone plugin to update quota even when quota is
unlimited. It was supposed to have been skipped only when the resource
names weren't known.

The private quota.get_resource() API is unchanged. The backends were
already returning 0 only when the resource name was unknown.

imap-quota: Return NO reply if GETQUOTA fails only partially

If the first resource lookup succeeded and the second one failed, the
GETQUOTA command replied with OK instead of NO.

doveadm-mail: Handle parse_arg return value

Invalid parameters did not cause error.
Broken in fa6b2cbb3

lib-master: master_service_init_log() - Switch log handlers only on the first call

The secondary calls were only done by mail_storage_service_*() calls. They
want to initialize the logging once, but afterwards they only care about
changing the log prefix. Switch to this behavior now explicitly.

This fixes behavior if logging functions are changed between
mail_storage_service_*() calls, so they don't get reset.

lib-dcrypt: Use cpu32_to_be instead of htonl

prefer our own conversion functions over htonl
which is intended for networking related numbers.

global: use i_close_fd{,_path}() instead of open-coding them

lib: introduce i_close_fd_path()

It is like i_close_fd() but takes an argument with the name of the file
that's being closed.  The name is only used when printing the error
message due to a failed close() syscall.

lib: remove close_keep_errno()

lib: improve i_close_fd() error message

In addition to printing the file and line number, we can print the
actual arg passed in as well as the function calling i_close_fd().