submission: relay backend: Log an error when relayed commands fail with connection-related errors.

Errors sent by the remote server are handled by the command reply handler and
are logged using i_info() where relevant.

submission: relay backend: Fix comment in RCPT command code.

submission: recipient: Add field for associating backend context.

lmtp: DATA command: Assert that the server transaction flags are correct for LMTP.

lib-smtp: server: Allow enabling the LMTP per-RCPT DATA reply behavior for ESMTP transactions.

This is non-standard.

mail-lua: Check number of arguments

lib-lua: Add DLUA_REQUIRE_ARGS(s,x) and DLUA_REQUIRE_ARGS_IN(s,x,y)

First form requires that x arguments are provided for dlua script s.

Second form requires that at least x and at most y arguments are provided
for dlua script s

Automatically returns luaL_error.

mail-lua: Make flags optional for mailbox#sync

mail-lua: Make flags optional for user#mailbox

mail-lua: Change mailbox#status API to varargs

It's much easier to use this way

lib-master: Fix test-event-stats

New stats uses gettimeofday that generated unpredictable values
for this test.

lib: event - Stop exporting ioloop time

It is not needed by stats process.

stats: Use duration field from events

lib: event - Record real duration

The old code only measured difference between successive
ioloop_time updates. The new code uses gettimeofday to
get current real time, making measurements accurate.

lib: event - Duplicate source_filename

Prevents crash on event leak when plugin that caused the leak
is unloaded.

lib: event - Rename tv_created as tv_created_ioloop

submission: relay backend: Do not close the client connection for failure in a non-default backend.

Adjusts the backend API to remember the failure until the present transaction is
reset. In the mean time, any commands issued to the backend are failed
immediately. In contrast, failure on the default backend will cause the client
connection to be closed, like before.

submission: relay backend: Use (potentially) modified reply after backend_relay_handle_relay_reply().

Before, it sometimes still referred to the original reply struct from the client
callback.

submission: relay backend: Use smtp_reply_is_success() to evaluate reply form relay.

Before, it evaluated the reply status directly.

lib-smtp: server: Add smtp_server_command_get_reply_count().

Returns the number of replies expected to the command.

lib-smtp: client: Make smtp_client_transaction_unref(NULL) a no-op.

lib-smtp: client: Make smtp_client_transaction_destroy(NULL) a no-op.

submission: Allocate recipients for the client transaction on the server recipient pool.

lmtp: proxy: Allocate recipients for the client transaction on the server recipient pool.

lib-smtp: client: transaction: Add alternative function for adding a recipient on an application-provided pool.

This allows modifying the recipient object beyond approval. Before, it was
always moved to the transaction pool, thereby invalidating the original returned
pointer. This way, the data_calback and context can be set at a later time,
e.g. when the DATA command is being processed. This makes a choice between
LMTP-style and SMTP-style replies to the DATA command a bit easier to handle.
Also, the recipient is entirely allocated on a single pool between the client
and server side, which should improve memory consumption a little. As a bonus,
this removes the need to have dummy DATA callbacks.

lib-smtp: client: transaction: Fix and amend a few comments in the header.

lib-smtp: client: Remove unused "failed" field from struct smtp_client_transaction_mail.

submission: Fix starting secondary backends created before the server-side transaction is fully created.

Record an array of those backends and start them once the transaction is
created. Before, this was implemented using the array of approved recipients
(which each point to their backend). However, this does not work, since there
can be no approved recipients when there is no server-side transaction yet.

submission: relay backend: Properly manage the trans_started flag.

Sometimes it was not set at all. This didn't lead to problems in most cases, but
this was at least confusing while debugging. Also, the flag is set before the
client transaction is actually started, making sure (future) recursive problems
will not occur.

submission: relay backend: Set the immediate for the client transaction no matter where it is created.

Forgot a few instances.

submission: RCPT command: Move starting the backend transaction from submission-commands.c to submission-backend.c.

This way, the transaction is only started from RCPT when the backend needs it at this point.

submission: relay backend: Add support for relaying to a unix socket.

lib-smtp: client: Allow connecting to SMTP/LMTP services offered through unix sockets.

lib-smtp: client: Move creation of connection object to a separate function.

lib-smtp: server: Record the associated server command in the recipient object.

This avoids the need to do that in application code.

submission: Use the recipient index in the server recipient object rather than the submission recipient.

lmtp: Use the recipient index in the server recipient object rather than the lmtp recipient.

submission: Use the path in the server recipient object rather than the submission recipient.

It is recorded reliably on a pool from the start now

lmtp: Use the path in the server recipient object rather than the lmtp recipient.

It is recorded reliably on a pool from the start now.

submission: Start using the new lib-smtp/server recipient pool.

lmtp: Start using the new lib-smtp/server recipient pool.

lib-smtp: server: Create the definitive recipient object right at the reception of the RCPT command.

Before, it first allocated stuff on the command pool, which gets freed when the RCPT
command finishes. Allocating the recipient data on its own pool from the start
considerably simplifies the code and prevents very nasty bugs.

lib-smtp: server: Record the index in the list of approved recipients in the recipient object.

This avoids the need to do that in application code.

lib-smtp: server: Add hooks API for recipient.

lib-smtp: server: Allocate each recipient on its own pool.

This way, the application can associate data with the recipient, which
implicitly goes away either when the transaction is finished or the recipient is
denied.

submission: Rename struct smtp_server_recipient *trcpt variables to *rcpt.

submission: Rename struct submission_recipient *rcpt variables to *srcpt.

lmtp: Rename struct smtp_server_recipient *trcpt variables to *rcpt.

lmtp: local: Rename struct lmtp_local_recipient *rcpt variables to *llrcpt.

lmtp: proxy: Rename struct lmtp_proxy_recipient *rcpt variables to *lprcpt.

lmtp: common: Rename struct lmtp_recipient *rcpt variables to *lrcpt.

lmtp: local: Do not use array_idx() to obtain transaction recipient from lib-smtp.

It is already available in struct lmtp_recipient. Also, this call was very ugly.

lmtp: Reformat commands.h.

submission: client: Add API for adding extra (non-standard) capabilities.

lib-smtp: syntax: Add verification functions for EHLO keywords and parameters.

submission: Add support for module contexts to recipient.

submission: Add support for module contexts to client.

submission: Implement client vfuncs for transaction start and free.

submission: Implement client vfuncs for all normal SMTP commands.

submission: Implement basic client vfuncs.

Currently, only client_destroy can be overriden.

submission: Allocate each recipient object on its own pool.

This allows allocating per recipient module data.

submission: Provide ephemeral pool for transaction state.

submission: Allocate client on alloconly mempool.

lib-smtp: server: Add proper infrastructure for adding custom MAIL/RCPT command parameters.

lib-smtp: params: Add functions for dropping extra MAIL/RCPT parameters.

lib-smtp: params: Add functions for adding extra MAIL/RCPT parameters.

lib-smtp: params: Allow only specific custom parameter extensions, rather than any parameter.

Before the choice was between allowing any extension or none.

lib-smtp: params: Fix segfault occurring in smtp_param_write() when param->value == NULL.

submission: relay backend: Use SMTP client transaction API, rather than relaying individual commands.

lib-smtp: client: transaction: Add option to submit commands immediately, rather than queueing them on a zero timeout.

Also, allow interleaving other unrelated (non-transaction) commands. This is
made possible by not locking/plugging the command pipeline.

lib-smtp: client: Fully disconnect the connection upon failure before triggering failure callbacks.

lib-smtp: client: transaction: Add support for aborting a pending RCPT command.

lib-smtp: client: transaction: Add support for aborting a pending MAIL command.

lib-smtp: client: transaction: Add support for creating an empty transaction (without MAIL FROM data).

lib-smtp: client: transaction: Add support for pipelining more than a single MAIL command.

lib-smtp: client: transaction: Add infrastructure for pipelining more than a single MAIL command.

lib-smtp: client: transaction: Rename mail_from_callback/mail_from_context to mail_callback/mail_context.

lib-smtp: client: transaction: Use linked lists rather than arrays for recipients.

lib-smtp: client: transaction: Add support for ending the transaction in a graceful RSET command.

Allows running the pending transaction until RSET, without abruptly aborting
it or issuing a DATA command.

lib-smtp: client: transaction: Move initiation of command submission to a central position.

lib-smtp: client: transaction: Perform pipeline plug handling just once at top-level in smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Annotate sub-parts of smtp_client_transaction_send_more() with comments.

lib-smtp: client: transaction: Move smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Move initiation of command submission after starting the transaction timeout.

This is a precaution against the emergence of segfaults when command submission
somehow terminates the transaction in a future version (actually, a segfault
did emerge in an earlier version of this set of changes). Also it is a cosmetic
change: putting the most important act at the end of the function makes more
sense in this case.

lib-smtp: client: transaction: Rename smtp_client_transaction_send_rcpts() to smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Move the code executed at the completion of the transaction to a separate shared function.

The transaction is complete when all RCPT replies are received and either a DATA
or a RSET command is submitted.

lib-smtp: client: transaction: Don't trigger next transaction unless all RCPT replies are received and DATA is submitted.

Triggering the next transaction when DATA submitted while not all RCPT replies
are received (as it was before) is problematic when commands are submitted
immediately by the transaction (which is added in a later commit).

lib-smtp: client: transaction: Prevent calling callbacks after smtp_client_transaction_destroy().

lib-smtp: client: transaction: Annotate sub-parts of smtp_client_transaction_fail_reply() with comments.

lib-smtp: client: transaction: Add debug message for when smtp_client_transaction_abort() is called during smtp_client_transaction_fail*().

lib-smtp: client: transaction: Make sure the transaction is finished/aborted after smtp_client_connection_destroy().

Otherwise, the transaction could be dereferenced several times too often.

lib-smtp: client: connection: Add debug messages for transaction handling.

lib-smtp: server: RCPT command: Improve replacement of (forwarded) specific error reply with generic state error.

Predictable transaction state errors were not always replaced reliably when
commands were pipelined, leading to a mix of proxy and remote errors.

lib-smtp: server: MAIL command: Improve replacement of (forwarded) specific error reply with generic state error.

Predictable transaction state errors were not always replaced reliably when
commands were pipelined, leading to a mix of proxy and remote errors.

lib-smtp: server: Add ability to determine whether command reply was created using smtp_server_reply_create_forward().

lib-smtp: server: MAIL command: Reliably start the transaction when several MAIL commands are pipelined.

lib-smtp: client: Properly manage command timeout during transaction.

lib-smtp: client: transaction: Set the number of expected DATA replies > 1 only for LMTP.

This was already OK for when all recipients were added at the time the data
command was to be sent. However, for more dynamic transactions involving
pipelining, this was not handled correctly.

lib-smtp: client: Clear command callback early to prevent mishaps.

lib-smtp: client: Add smtp_client_command_drop_callback().