Logging: fixed size logfiles behaving as mmapped ringbuffers

This variant of logging avoids calling write() for every log line,
allowing for waitless logging. This makes heavy logging less heavy
and more useful for race condition debugging.

Logging limit enforcement moved into the rfile structure

Logging now doesn't lock with each message

The original logging routines were locking a common mutex. This led to
massive underperformance and unwanted serialization when heavily logging
due to lock contention. Now the logging is lockless, though still
serializing on write() syscalls to the same filedescriptor.

This change also brings in a persistent logging channel structures and
thus avoids writing into active configuration data structures during
regular run.

Threads: added a generic method to run in all threads

Logging: Abolished stdio in favor of write() to make the logging faster.

CLI: Dropping the mechanism of echoing log messages

This is better done by running tail -f on a logfile.

Config obstacles are lockless now

BFD: Fixed reconfiguration issues

After converting BFD to the new IO loop system, reconfiguration never
really worked. Sadly, we missed this case in our testing suite so it
passed under the radar for quite a while.

Thanks to Andrei Dinu <andrei.dinu@digitalit.ro> for reporting and
isolating this issue.

Fixed abort when running in foreground but stdin is closed

A forgotten else-clause caused BIRD to treat some pseudo-random place in
memory as fd-pair. This was happening only on startup of the first
thread in group and the value there in memory was typically zero ... and
writing to stdin succeeded.

When running BIRD with stdin not present (like systemd does), it died on
this spurious write. Now it seems to work correctly.

Thanks to Daniel Suchy <danny@danysek.cz> for reporting.

http://trubka.network.cz/pipermail/bird-users/2023-May/016929.html

NEWS and version update

Fix use-after free in thread stopping code

BGP: fix listen socket cleanup

ID Maps are checking whether their pool is locked

Properly protecting the route src global index by RCU read lock and atomic operations

There was a bug occuring when one thread sought for a src by its global id
and another one was allocating another src with such an ID that it caused
route src global index reallocation. This brief moment of inconsistency
led to a rare use-after-free of the old global index block.

Threads take loops faster

Channel: configurable feed block size

BGP: proactively rehash prefix hash up to shorten collision lists

OLocks in BGP must be freed early

IO Loop / Thread Groups Lock moved to level -attrs- to allow for page allocation while locked

Fixed loop movement to not collide on LTT_MOVE

Fix loop dropping routines

Fixed a bug in hot page global storage

The original algorithm was suffering from an ABA race condition:

A: fp = page_stack
B: completely allocates the same page and writes into it some data
A: unsuspecting, loads (invalid) next = fp->next
B: finishes working with the page and returns it back to page_stack
A: compare-exchange page_stack: fp => next succeeds and writes garbage
to page_stack

Fixed this by using an implicit spinlock in hot page allocator.

Debug: keep a circular log of memory page operations

Fixed cold page cache leak

The empty_pages pointer wasn't being propagated into the ->next pointer
when more empty_pages were to be stored

Hostentry: fix pool locking

Linpool state save and restore refactoring

Debug: Explicit mprotect() on freed pages to better locate use-after-free bugs

Page allocator: indentation of messy ifdef blocks

First try of loop balancing

If a thread encounters timeout == 0 for poll, it considers itself
"busy" and with some hysteresis it tries to drop loops for others to
pick and thus better distribute work between threads.

Allocation from linpools and slabs requires the appropriate lock to be taken

Linpool flushes unused pages even on lp_restore()

Fixed race condition in hostentry allocation

Show threads: Fixed problems with CLI buffer reallocation

... by allocating all the output locally and then sending it out at
once.

Explicitly counting loops and threads

Loop spent time refactored to separate structures and functions

Loops track also locking time

IO loops now actually measuring their time (show threads all works)

Refactoring of domains connected to pools

Fix of failing show threads command

Merge commit 'd61505b039bf0aa6697e28b2a4e07907c89ba1fb' into thread-next

Merge branch 'mq-resource-locking' into thread-next

Removed duplicate version 3.0-alpha0 news

Resource pools are now bound with domains.

Memory allocation is a fragile part of BIRD and we need checking that
everybody is using the resource pools in an appropriate way. To assure
this, all the resource pools are associated with locking domains and
every resource manipulation is thoroughly checked whether the
appropriate locking domain is locked.

With transitive resource manipulation like resource dumping or mass free
operations, domains are locked and unlocked on the go, thus we require
pool domains to have higher order than their parent to allow for this
transitive operations.

Adding pool locking revealed some cases of insecure memory manipulation
and this commit fixes that as well.

Protocols and tables now use the birdloop pools as primary

Resource pool closing has its dedicated function

Socket closing has its dedicated function

Global protocol list is typed to avoid typecast confusion

Typed lists: added add_after() and unit tests

Alpha0 news added

BSD: IPv4 over IPv6 nexthop support on FreeBSD

The support for IPv4 routes with IPv6 nexthops was implemented in FreeBSD
13.1, this patch allows to import and export such routes from/to kernel.

Minor change from committer.

Linpool: Fix lp_restore()

When lp_save() is called on an empty linpool, then some allocation is
done, then lp_restore() is called, the linpool is restored but the used
chunks are inaccessible. Fix it.

Typed lists keep an explicit pointer to the list head.

This change adds one pointer worth of memory to every list node.
Keeping this information helps auditing the lists, checking that the
node indeed is outside of list or inside the right one.

The typed lists shouldn't be used anywhere with memory pressure anyway,
thus the one added pointer isn't significant.

Updated the version number to not include dash (breaks RPM)

NEWS and version update

Merge tag '3.0-alpha0' into HEAD

3.0-alpha0

IO: added a specific loop pickup group for BFD; to be done better in future

Merge commit '9e44ace3' into thread-next-iface

Merge commit 'f881b98d' into thread-next-iface

Merge commit '231c6385' into thread-next-iface

Merge commit '2f080b54' into thread-next-iface

Merge commit '6c058ae4' into thread-next-iface

Merge commit '913ec57f' into thread-next-iface

Merge commit 'ee919658' into thread-next-iface

Merge commit '0851fcde' into thread-next-iface

Merge commit 'dc4c5f51' into thread-next-iface

BGP: Add 'allow bgp_med' option for EBGP sessions

This option allows to treat bgp_med as regular transitive attribute
on EBGP sessions (without hacks in filters).

Minor changes from committer.

Increase tests timeout

Tests may take longer than 5 s to complete on slow/virtual machines.

Temporarily disable MRT as it still lacks proper locking; to be re-enabled in 3.0-alpha2

Loop: keep running the same loop for some time if there is work to do

BFD: fixed a request pickup race condition

When several BGPs requested a BFD session in short time, chances were
that the second BGP would file a request while the pickup routine was
still running and it would get enqueued into the waiting list instead of
being picked up.

Fixed this by enforcing pickup loop restart when new requests got added,
and also by atomically moving the unpicked requests to a temporary list
to announce admin down before actually being added into the wait list.

BGP: set free bind also for connect sockets if configured

BGP: sockets use sk_resume_rx and sk_pause_rx

BGP now has its own loop

Sockets: Unified API for main and other loops

Now sk_open() requires an explicit IO loop to open the socket in. Also
specific functions for socket RX pause / resume are added to allow for
BGP corking.

And last but not least, socket reloop is now synchronous to resolve
weird cases of the target loop stopping before actually picking up the
relooped socket. Now the caller must ensure that both loops are locked
while relooping, and this way all sockets always have their respective
loop.

More efficient IO loop event execution to avoid long loops

If there are lots of loops in a single thread and only some of the loops
are actually active, the other loops are now kept aside and not checked
until they actually get some timers, events or active sockets.

This should help with extreme loads like 100k tables and protocols.

Also ping and loop pickup mechanism was allowing subtle race
conditions. Now properly handling collisions between loop ping and pickup.

Resource dumps also write out block addresses

Linpool: State restoration works in initial linpool state

Misc allocator fixes

Allocator fix: thread local kept pages counter must be thread local

Route feed marks only the relevant pending exports as done

Propagated const through route feed routines

Moved channel export hooks to rt.h as the channel refactoring isn't going to take place soon

Allowing to restart a route refresh.

Repeated pipe refeed should not end route refresh as the prune routine
may start pruning otherwise valid routes.

The same applies for BGP repeated route refresh.

Fixed default table configuration

When changing default table behavior, I missed that it enabled to
configure multiple master4 and master6 tables. Now BIRD recognizes it
and fails properly.

Fixed use-after-free of old protocol name pointer copied into rte_owner structure

Fixed unwanted reloads while reconfiguring protocols with import table on

Fixed bad filter re-evaluation with import table if filtered->accepted

The import table feed wasn't resetting the table-specific route values
like REF_FILTERED and thus made the route look like filtered even though
it should have been re-evaluated as accepted.

Fixed channel stopping when reload is active

Fix obvious mistake in protocol debug dump

Fixed stopping of import request with no imports in idle table

Moved table hostcache updater to table service routines to not bother the mainloop

Reducing initial channel bitmap sizes to help extreme cases

Flowspec links must have the destination table service loop locked

BGP Export Table: Fixed route source objects leaking when prefix best routes is updated

BGP: LLGR Staleness optimization dropped.

This brought unnecessary complexity into the decision procedures while the
performance aspects weren't worth it. It just saved one ea_list traversal
when many others are also done.

BGP: show detailed TX state in show proto all output

BFD notifications respect protocol loop settings

Temporarily switching off time annotations of debug log

The "dump *" commands are totally garbled by the time annotations.

Conf: Fix too early free of old configuration

The change 371eb49043d225d2bab8149187b813a14b4b86d2 introduced early free
of old_config. Unfortunately, it did not properly check whether it is not
still in use (blocked by obstacle during reconfiguration). Fix that.

It also means that we still could have a short peak when three configs
are in use (when a new reconfig is requeste while the previous one is
still active).

Interface subsystem locking