lib-oauth2: Validate scope when configured

lib-oauth2: Remove typ check

It is not really useful. And mostly just keeps breaking when people
invent new kty values.

lib-oauth2: Ensure aud field has client_id when set.

OpenID Connect 1.0 specification says that "aud" field must contain
OAuth 2.0 client_id of the Relying Party as an audience value.

lib-storage: Add mail_get_message_id_no_validation()

imap: NOTIFY delayed notifications sent soon after handling IMAP commands

If a change happened within 1 second after any IMAP command was finished,
the notification wasn't sent until some other change/command occurred.

auth: mech_gssapi_unwrap() - Release gss_release_buffe(outbuf) before returning

imap-urlauth: Move imap-urlauth-login to its own directory

build-aux/git-abi-version-gen: Fail if no version found

build-aux/git-abi-version-gen: Allow .git to just exist

Fixes compatibility with monolith.

.git can also be a file, pointing to an external location
for the actual git repository. This usually happens when
code is a subrepository.

lib: guid - Add guid_uuid4_generate()

Generates a UUIDv4 UUID

dict-sql: Use array for type names

Ensures that type names match with enum.

dict-sql: Add support for UUID type

lib-sql: driver-cassandra - Support binding UUID

lib-sql: Add UUID datatype

imap: set 'internal' flag for NOTIFY-CALLBACK command.

imap: Add 'internal' flag to struct client_command_context.

imap_command_finished event is not issued when the flag is set.

autogen: Always overwrite old files

build-aux: Update version scripts to support rolling releases

For ABI version, we do the following

2023.1 => 2023.ABIv1
2023.1-1 => 2023.ABIv1
2023.1-1+foo5 => 2023.ABIv1

2.4.0 => 2.4.ABIv0
2.4.0-1 => 2.4.ABIv0
2.4.0-1+foo5 => 2.4.ABIv0

Empty version produces 0.0.ABIv0

lib-storage: Send mail_user_session_finished via mail_user_unref()

The purpose of mail_user_deinit() is to guarantee that the user gets freed
at that point - there's no requirement to call it instead of
mail_user_unref(). Move the mail_user_session_finished event sending to
mail_user_unref() where the rest of the deinitialization code is as well.

This also fixes mail_user_session_finished event being wrongly sent in some
shared mailbox failure code paths. Potentially it fixes also missing
mail_user_session_finished events in some code paths.

lazy-expunge: lazy_expunge_mail_is_last_instance() - Don't fail if a backend mailbox was deleted under a virtual one

virtual - void virtual_box_copy_error() - Wrap src->mailbox_deleted to MAIL_ERROR_EXPUNGED

virtual: virtual_sync_backend_boxes() - Don't fail on deleted backend boxes

virtual: virtual_transaction_commit() - Don't fail when a backend box was removed and no changes are pending for it

virtual: virtual_transaction_commit() - Propagate error details from commits of underlying physical boxes

virtual: virtual_transaction_commit() - Use array_foreach_elem()

lib-storage: index_list_mailbox_open() - Check that mailbox has not been deleted

Without this, removing a mailbox (obox) used in a virtual box
fails to understand that the box has been removed intentionally
and tries to recreate/rebuild it.

virtual: Use container_of()

imap-urlauth: Don't access login_set.*_socket_path after they're freed from data stack

Forgotten in 7f4bcbb9f2d97745a12d301b9ee276200ac58605

fts-solr: fts_backend_solr_update_deinit() Avoid double commit

Soft-commit is already handled in fts_backend_solr_update_set_mailbox(),
except for the expunges.

fts-solr: Commit when changing mailbox

Soft-commit before fts_index_set_last_uid() to prevent new items being
missed in next search.

fts-solr: Extract fts_backend_solr_commit()

lib-storage: Rollback save transaction when transaction commit fails.

lib-login: Don't update process title if verbose_proctitle=no

Broken by 4fcd7f497577af361fc3313fbc07a61c14e17715

doveadm dump index: Add support for virtual2 header

doveadm-save: Add -r received-date parameter

lib-storage: mail_parse_human_timestamp() - Add support for imap date-time

lib-storage: test-mail-storage - Simplify mail_parse_human_timestamp() testing

doveadm save: Add -U <uid> and -g <guid> parameters

These are mainly useful for testing.

lib-storage: Set attachment file size metadata.

lib-fs: Replace missing sis files with spaces, when attachment file size metadata is set.

lib: Move istream-nonuls from lib-mail to lib.

lib-fs: Add fs metadata key for file size.

lib-fs: Disable sis writing.

lib-storage: Remove duplicated include

stats: stats_metrics_add_dynamic() - Validate event exporter

notify: Change notify_unregister() to zero the pointer, and ignore NULL

notify-status: Fix crash if user initialization fails

The deinit code crashed if mail_namespaces_created hook hadn't been called
before user was deinitialized.

dsync: Fix handling mailboxes with % character when BROKENCHAR isn't explicitly set in config

When vname_escape_char (= BROKENCHAR) isn't explicitly set in configuration,
'%' character (or if it was hierarchy separator, '~') was used as the default
internal escape character. However, this was used inconsistently between local
and remote mailbox trees. The remote tree stored the mailbox names unescaped,
while the local mailbox names were escaped. This inconsistency caused dsync
to do unnecessary mailbox renames, which might have ended up failing.

This especially fixes dsync failures when mailbox name ended with the '%'
character.

dsync: Refactor dsync_brain_mailbox_to_parts() into dsync_mailbox_name_to_parts()

lib-dns: dns_lookup_timeout() - Append timeout value in error message

imap-login: Handle each command in its own data stack frame

lib-master: stats_client_deinit() - Ensure conn.output is flushed before returning

This prevents losing exported events still waiting in buffers while the process exits.

lib-master: stats_event_callback() - Skip if conn.output is already closed

This also prevents further errors from happening on the closed stream.

lib-master: stats_client_send_event() - Also flush conn.output and check for errors

lib-master: stats_event_write() - Don't accumulate more than IO_BLOCK_SIZE bytes in str buffer

master: Fix service { idle_kill } to work better on busy servers

The previous behavior was to kill a process once it had idled for idle_kill
seconds. However, on a busy server the new connections are picked up somewhat
randomly by all the idling processes, so there's never any single process
idling for a long time. This effectively prevents the idle_kill from killing
any processes, even if there are unnecessarily many of them.

The new behavior here tracks the lowest number of idling processes during
idle_kill time interval. Then it kills that many processes. If the load
stays the same, this should shrink the number of processes to the number
that is needed to handle the load, but no more.

master: Replace per-process idle_kill timeout with per-service

This is much more efficient, since it doesn't have to keep updating the
timeout constantly for busy processes.

This change still preserves the original way the idle_kill setting behaves.

master: Add asserts to make sure counters don't wrap

master: Add service.process_idling to count number of idling processes

master: Split processes list to busy and idling processes

Keep the idling processes sorted by idle_start time. This will be needed
by the next commit.

lib: backtrace_append() with libc - Remove dead code

04d6a2e763bce8640a8192298025d0717e425a66 changed the "out of memory" case to
be handled by returning an error instead. This is better than returning
unnamed backtrace pointers, which aren't very useful.

login-imap, imap: Truncate excessively large IMAP ID parameters in log messages

imap-login: Do not log login ID parameter

Special IMAP ID parameters are used when proxying to retain additional
values from the original client, these should not produce any log
entries.

imap-login: Clarify variable naming of login ID param

client_try_update_info() returns a boolean value that represents whether
the given key has a login ID parameter handler, i.e. it is a login ID
parameter. This commit changes the name to represent this more clearly.

config: Deprecate imap_id_log setting

lib-imap: Remove obsolete ID parameter log functions

imap-login: Log Pre-login ID parameters as the imap_id_received event

Drop the manual filtering of the 'imap_id_log' fields in favor of using
a named event and respective log string.

imap: Log Post-login ID parameters as the imap_id_received event

Drop the manual filtering of the 'imap_id_log' fields in favor of using
a named event and respective log string.

lib-imap: Add function to log IMAP ID parameters

imap-login: Prevent memory leak if ID command gets disconnected before finishing

virtual: virtual_backend_box_lookup() - Enforce callers to check if the call succeeded

virtual: virtual_sync_apply_existing_expunges() - Don't crash if the backend mailbox has been removed

lib: data_stack_grow event - Add backtrace_error field

This field is set if backtrace_get() failed.

lib: backtrace_get/append() - Add error_r parameter

lib: process-stat - Use eacces_error_get() for EACCES errno

This tells better why the open failed.

lib: process-stat - Increase maximum /proc/self/status size

Kernel 6.x has larger status file.

lib: process-stat - Use buffer_append_full_istream() to read files

global: Enable login_server_settings.update_proctitle

lib-login: Add login_server_settings.update_proctitle

Update the current login state in process title when enabled.

lib-login: Keep connection in server's linked list until it's fully freed

Otherwise the connection isn't accessible from any global variables.

imap: Update process title while unhibernating

Previously the process title stayed as [idling] even though the process was
busy waiting on the imap-hibernate process to finish sending the
unhibernation request.

lib-master: Set process title to [initializing] until master_service_init_finish()

lib: Add process_title_get_counter()

master: Set VERBOSE_PROCTITLE environment to child processes

This is needed for updating process title during initialization before
settings are read.

lib: md5: Fix strict aliasing violation

Followup to f0c1cf42ea78d22e2674b03fe65f0ee6545c5b99. It's exactly the
same code as in md4, so let's rip it out here too.

stats: openmetrics - Set field always when used

Satisfied static analysers.

Broken in ba19a18d54cb7cf7de93d6a235862a408cfe5828

lib: md4 - Fix violation of strict aliasing.

Fix miscompilation when LTO is enabled.

imap: Improve disconnection log message if it happens immediately after unhibernation

The "No commands sent after unhibernation" can mean that imap-hibernate
process saw a timeout while unhibernating and shutdown the connection.
Or it can also mean just that the client itself disconnected.

imap-hibernate: If unhibernation fails, make sure imap process won't finish it later on

Especially if unhibernation fails due to a connection timeout to imap
process due to high load, it's possible that the imap process will
eventually finish the unhibernation and continue with the client. This is
rather confusing, since imap-hibernate process already logged that the
client got disconnected.

imap: Disconnect imap-master client if it's not sending anything for 25 seconds

lib-imap-urlauth: imap-urlauth - Make sure a host name is available in imap_urlauth_check_hostport().

Addresses FIXME.

lib-imap-urlauth: imap-urlauth - Make struct imap_url parameters const.

imap-urlauth: imap-urlauth-worker-client - Use the input_args handler of the connection API.

imap-urlauth: imap-urlauth-worker-client - Use generic line input handling from connection API.

imap-urlauth: imap-urlauth-worker - Fully perform client-to-server VERSION handshake with connection API.

imap-urlauth: imap-urlauth-worker - Perform client-to-server VERSION handshake in separate function.

imap-urlauth: imap-urlauth-worker - Enable connection API's server-to-client VERSION handling.

imap-urlauth: imap-urlauth-worker - Use connection API's client-to-server VERSION handling.

Requires reordering sending FDs with VERSION line.

imap-urlauth: imap-urlauth-worker - Use the connection.h API.

imap-urlauth: imap-urlauth-client - Use the connection.h API.