submission: Implement client vfuncs for all normal SMTP commands.

submission: Implement basic client vfuncs.

Currently, only client_destroy can be overriden.

submission: Allocate each recipient object on its own pool.

This allows allocating per recipient module data.

submission: Provide ephemeral pool for transaction state.

submission: Allocate client on alloconly mempool.

lib-smtp: server: Add proper infrastructure for adding custom MAIL/RCPT command parameters.

lib-smtp: params: Add functions for dropping extra MAIL/RCPT parameters.

lib-smtp: params: Add functions for adding extra MAIL/RCPT parameters.

lib-smtp: params: Allow only specific custom parameter extensions, rather than any parameter.

Before the choice was between allowing any extension or none.

lib-smtp: params: Fix segfault occurring in smtp_param_write() when param->value == NULL.

submission: relay backend: Use SMTP client transaction API, rather than relaying individual commands.

lib-smtp: client: transaction: Add option to submit commands immediately, rather than queueing them on a zero timeout.

Also, allow interleaving other unrelated (non-transaction) commands. This is
made possible by not locking/plugging the command pipeline.

lib-smtp: client: Fully disconnect the connection upon failure before triggering failure callbacks.

lib-smtp: client: transaction: Add support for aborting a pending RCPT command.

lib-smtp: client: transaction: Add support for aborting a pending MAIL command.

lib-smtp: client: transaction: Add support for creating an empty transaction (without MAIL FROM data).

lib-smtp: client: transaction: Add support for pipelining more than a single MAIL command.

lib-smtp: client: transaction: Add infrastructure for pipelining more than a single MAIL command.

lib-smtp: client: transaction: Rename mail_from_callback/mail_from_context to mail_callback/mail_context.

lib-smtp: client: transaction: Use linked lists rather than arrays for recipients.

lib-smtp: client: transaction: Add support for ending the transaction in a graceful RSET command.

Allows running the pending transaction until RSET, without abruptly aborting
it or issuing a DATA command.

lib-smtp: client: transaction: Move initiation of command submission to a central position.

lib-smtp: client: transaction: Perform pipeline plug handling just once at top-level in smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Annotate sub-parts of smtp_client_transaction_send_more() with comments.

lib-smtp: client: transaction: Move smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Move initiation of command submission after starting the transaction timeout.

This is a precaution against the emergence of segfaults when command submission
somehow terminates the transaction in a future version (actually, a segfault
did emerge in an earlier version of this set of changes). Also it is a cosmetic
change: putting the most important act at the end of the function makes more
sense in this case.

lib-smtp: client: transaction: Rename smtp_client_transaction_send_rcpts() to smtp_client_transaction_submit_more().

lib-smtp: client: transaction: Move the code executed at the completion of the transaction to a separate shared function.

The transaction is complete when all RCPT replies are received and either a DATA
or a RSET command is submitted.

lib-smtp: client: transaction: Don't trigger next transaction unless all RCPT replies are received and DATA is submitted.

Triggering the next transaction when DATA submitted while not all RCPT replies
are received (as it was before) is problematic when commands are submitted
immediately by the transaction (which is added in a later commit).

lib-smtp: client: transaction: Prevent calling callbacks after smtp_client_transaction_destroy().

lib-smtp: client: transaction: Annotate sub-parts of smtp_client_transaction_fail_reply() with comments.

lib-smtp: client: transaction: Add debug message for when smtp_client_transaction_abort() is called during smtp_client_transaction_fail*().

lib-smtp: client: transaction: Make sure the transaction is finished/aborted after smtp_client_connection_destroy().

Otherwise, the transaction could be dereferenced several times too often.

lib-smtp: client: connection: Add debug messages for transaction handling.

lib-smtp: server: RCPT command: Improve replacement of (forwarded) specific error reply with generic state error.

Predictable transaction state errors were not always replaced reliably when
commands were pipelined, leading to a mix of proxy and remote errors.

lib-smtp: server: MAIL command: Improve replacement of (forwarded) specific error reply with generic state error.

Predictable transaction state errors were not always replaced reliably when
commands were pipelined, leading to a mix of proxy and remote errors.

lib-smtp: server: Add ability to determine whether command reply was created using smtp_server_reply_create_forward().

lib-smtp: server: MAIL command: Reliably start the transaction when several MAIL commands are pipelined.

lib-smtp: client: Properly manage command timeout during transaction.

lib-smtp: client: transaction: Set the number of expected DATA replies > 1 only for LMTP.

This was already OK for when all recipients were added at the time the data
command was to be sent. However, for more dynamic transactions involving
pipelining, this was not handled correctly.

lib-smtp: client: Clear command callback early to prevent mishaps.

lib-smtp: client: Add smtp_client_command_drop_callback().

lib-smtp: client: Fix memory issue caused when reconnecting.

lib-fts: replace repeated explicit hex utf8 with cleaner macro in tokeniser test

utf8 is too line-noisy, this improves readability.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - tr29 explicit-prefix parsing

Similar logic to before - any wordlike sequence that ends with a * is
considered a prefix search, and immediately begins a new token.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: test-fts-tokenizer - explicit-prefix tests

Note that the special handling of '*' only kicks in when in
"search" and "explicitprefix" mode (as passed in through the
settings), and currently, only for the simple mode, not tr29.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - simple explicit prefix search logic

Logic is that words followed by a '*' create a prefix search token.
A new token is begun immediately after that. So "foo*bar" is 2 tokens
"foo*" and "bar", when in explicit prefix search tokenisation mode.

Only active in 'simple', not 'tr29'.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - add more history to break detection

For example, going from non-word to non-word is a different type
of break (not really a break) from the transition from a word to
a non-word. Presently, that distinction isn't needed, but it will
be for explicit prefix searches.

Make the tok parameter const too, whilst there.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - recognise request for explicit prefix searching

Just store a flag in the tokenizer when the setting is seen, nothing more.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts/test-fts-tokenizer - have different possible test inputs

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: generic simple tokeniser - distinguish "letters" from non-"letters"

prev_type is only compared against SINGLE_QUOTE, so there will be no
behavioural differences. However, maintaining the state that we've just
seen something we are prepared to search for (very loosely, a "letter")
rather than something that we threw away (word breaks) will be important
when it comes to explicit prefix query parsing.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - move related helpers together in file

They're logically related, and not specifically simple or tr29 related,
so keep them together, so either tokeniser can use them. Cosmetic only,
no functional changes.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts: tokenizer-generic - move state history setting into helper

We can read the value directly, but for encapsulation it's best to do
the shifting of the token type history into a helper in a similar way
as how it is done for tr29 tokenising.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts/fts-tokenizer-generic - rename more state variables - cosmetic

No need for a suffix now we've renamed the type variables.
Patch best viewed with: git show --color-words='[[:alnum:]_]+'

Unfortunately this is very churny, but there are no functional changes.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts/fts-tokenizer-generic - rename state variables - cosmetic

These contain types, not letters, no functional changes.

Signed-off-by: Phil Carmody <phil@dovecot.fi>

lib-fts/fts-tokeniser-generic: move to container_of() for type-safety

Signed-off-by: Phil Carmody <phil@dovecot.fi>

submission: backends: Add trans_start() and trans_free() vfuncs.

These are called when the SMTP transaction is started and freed respectively.

submission: Record backend used for each recipient.

This is a preparation for plugins overriding the default backend for a recipient.

submission: Record main backend for the transaction.

This is a preparation for plugins overriding the default backend for a transaction.

submission: DATA command: Pass the total size of the data stream to the backend.

submission: DATA command: Obtain the size of the buffered data from the stream position rather than using i_stream_get_size().

submission: relay backend: Use backend-specific settings rather than the generic submission service settings.

This way, several relay backends can be operated together with different
settings.

submission: relay backend: Make struct submission_backend_relay private.

submission: relay backend: Turn client_proxy_create() into a proper backend constructor.

submission: relay backend: Turn client_get_max_mail_size() into a relay backend vfunc.

submission: relay backend: Turn client_proxy_input_pre/post() into relay backend vfuncs.

submission: relay backend: Turn client_proxy_start() into a relay backend vfunc.

submission: relay backend: Turn client_proxy_destroy() into a relay backend vfunc.

submission: relay backend: Turn SMTP command functions into relay backend vfuncs.

submission: client: Create default backend in a separate function.

submission: Define generic backend API.

submission: Add submission_backend_capabilities setting.

This can be used to specify which capabilities the (relay) backend supports,
avoiding the need to query the backend explicitly before the EHLO reply is sent
to the client.

submission: commands: Expect connection setup errors from relaying commands.

Subsequent changes remove the guarantee that the connection is setup successfuly
(to gain EHLO capabilities) before commands are submitted. This means that the
callbacks from commands can thereafter return connection setup errors as well.

lib-smtp: client: Use the new smtp_capability_find_by_name() function.

lib-smtp: client: Document the forced_capabilities setting.

lib-smtp: Add utility function for finding capabilities by name.

submission: client: Simplifly calculation of max mail size.

submission: Record accepted recipients in the client object.

Allows associating context with recipients in future changes.

submission: Reformat submission-backend-relay.c.

submission: relay backend: Change almost all occurrences of 'proxy' to 'relay'.

This makes the naming consistent with the name of the backend. Only the lib-smtp
proxy_data is not renamed.

submission: relay backend: Rename client_command_handle_proxy_reply() to backend_relay_handle_relay_reply().

Also make it accept the backend rather than the client struct.

submission: relay backend: Rename *_proxy_cb() to *_callback().

submission: relay backend: Add 'relay_' prefix to command functions and structs.

submission: relay backend: Use pointer to backend rather than client in command contexts.

submission: Move relay-related client fields to separate backend struct.

submission: Move client_proxy_get_max_mail_size() to submission-backend-relay.c.

submission: Move client_proxy_input_pre/post() to submission-backend-relay.c.

submission: Move client_proxy_destroy() to submission-backend-relay.c.

submission: Move client_proxy_create() to submission-backend-relay.c.

submission: Move client_proxy_start() to submission-backend-relay.c.

submission: Split off obtaining the relay connection capabilities into a separate function.

submission: Split off corking and uncorking the relay connection in a separate function.

submission: Split off closing the relay connection in a separate function.

submission: Split off starting the relay connection in a separate function.

submission: Remove client_proxy_is_disconnected().

It is not used anywhere.

submission: Remove client_proxy_is_ready().

It is not used anywhere.

submission: Move relay part of QUIT command to submission-backend-relay.c.

submission: Move generic part of QUIT command to submission-commands.c.

submission: Move relay part of NOOP command to submission-backend-relay.c.

submission: Move generic part of NOOP command to submission-commands.c.