]> git.ipfire.org Git - thirdparty/haproxy.git/log
thirdparty/haproxy.git
6 years agoBUG/MINOR: mux-h1: Process input even if the input buffer is empty
Christopher Faulet [Tue, 16 Apr 2019 18:23:55 +0000 (20:23 +0200)] 
BUG/MINOR: mux-h1: Process input even if the input buffer is empty

It is required, at least, to add the EOM block and finish the message when the
TCP splicing was used to send all data. Otherwise, there is no way to finish the
parsing.

This patch must be backported to 1.9.

6 years agoREGTESTS: exclude tests that require ssl, pcre if no such feature is enabled
Ilya Shipitsin [Wed, 17 Apr 2019 07:19:56 +0000 (12:19 +0500)] 
REGTESTS: exclude tests that require ssl, pcre if no such feature is enabled

Signed-off-by: Ilya Shipitsin <chipitsine@gmail.com>
6 years agoBUG/MINOR: mworker: ensure that we still quits with SIGINT
William Lallemand [Tue, 16 Apr 2019 15:42:44 +0000 (17:42 +0200)] 
BUG/MINOR: mworker: ensure that we still quits with SIGINT

Since the fix "BUG/MINOR: mworker: don't exit with an ambiguous value"
we are leaving with a EXIT_SUCCESS upon a SIGINT.

We still need to quit with a SIGINT when a worker leaves with a SIGINT.

This is done this way because vtest expect a 130 during the process
stop, haproxy without mworker returns a 130, so it should be the same in
mworker mode.

This should be backported in 1.9, with the previous patch ("BUG/MINOR:
mworker: don't exit with an ambiguous value").

Code has moved, mworker_catch_sigchld() is in haproxy.c.

6 years agoBUG/MINOR: mworker: don't exit with an ambiguous value
William Lallemand [Tue, 16 Apr 2019 15:42:43 +0000 (17:42 +0200)] 
BUG/MINOR: mworker: don't exit with an ambiguous value

When the sigchld handler is called and waitpid() returns -1,
the behavior of waitpid() with the status variable is undefined.
It is not a good idea to exit with the value contained in it.

Since this exit path does not use the exitcode variable, it means that
this is an expected and successful exit.

This should be backported in 1.9, code has moved,
mworker_catch_sigchld() is in haproxy.c.

6 years agoBUG/MINOR: mworker: mworker_kill should apply on every children
William Lallemand [Tue, 16 Apr 2019 15:42:42 +0000 (17:42 +0200)] 
BUG/MINOR: mworker: mworker_kill should apply on every children

Commit 3f12887 ("MINOR: mworker: don't use children variable anymore")
introduced a regression.

The previous behavior was to send a signal to every children, whether or
not they are former children. Instead of this, we only send a signal to
the current children, so we don't try to kill -INT or -TERM all
processes during a reload.

No backport needed.

6 years agoBUG/MINOR: listener/mq: correctly scan all bound threads under low load
Willy Tarreau [Tue, 16 Apr 2019 16:09:13 +0000 (18:09 +0200)] 
BUG/MINOR: listener/mq: correctly scan all bound threads under low load

When iterating on the CLI using "show activity" and no other load, it
was visible that the last thread was always skipped. This was caused by
the way the thread bits were walking : t1 was updated after t2 to make
sure it never equals t2 (thus it skips t2), and in case of a tie we
choose t1. This results in the chosen thread never to equal t2 unless
the other ones already have one connection. In addition to this, t2 was
recalulated upon each pass due to the fact that only the 31th bit was
looked at instead of looking at the t2'th bit.

This patch fixes this by updating t2 after t1 so that t1 is free to
walk over all positions under equal load. No measurable performance
gains are expected from this though, but it at least removes one
strange indicator which could lead to some suspicion.

No backport is needed.

6 years agoMINOR: init: add a "set-dumpable" global directive to enable core dumps
Willy Tarreau [Mon, 15 Apr 2019 17:38:50 +0000 (19:38 +0200)] 
MINOR: init: add a "set-dumpable" global directive to enable core dumps

It's always a pain to get a core dump when enabling user/group setting
(which disables the dumpable flag on Linux), when using a chroot and/or
when haproxy is started by a service management tool which requires
complex operations to just raise the core dump limit.

This patch introduces a new "set-dumpable" global directive to work
around these troubles by doing the following :

  - remove file size limits     (equivalent of ulimit -f unlimited)
  - remove core size limits     (equivalent of ulimit -c unlimited)
  - mark the process dumpable again (equivalent of suid_dumpable=1)

Some of these will depend on the operating system. This way it becomes
much easier to retrieve a core file. Temporarily moving the chroot to
a user-writable place generally enough.

6 years agoMINOR: mworker: export HAPROXY_MWORKER=1 when running in mworker mode
William Lallemand [Fri, 12 Apr 2019 14:15:00 +0000 (16:15 +0200)] 
MINOR: mworker: export HAPROXY_MWORKER=1 when running in mworker mode

Export HAPROXY_MWORKER=1 in an environment variable when running in
mworker mode.

6 years agoMINOR: cli: don't add a semicolon at the end of HAPROXY_CLI
William Lallemand [Fri, 12 Apr 2019 14:09:25 +0000 (16:09 +0200)] 
MINOR: cli: don't add a semicolon at the end of HAPROXY_CLI

Only add the semicolon when there is several CLI in HAPROXY_CLI and
HAPROXY_MASTER_CLI.

6 years agoMEDIUM: mworker/cli: export the HAPROXY_MASTER_CLI variable
William Lallemand [Fri, 12 Apr 2019 14:09:24 +0000 (16:09 +0200)] 
MEDIUM: mworker/cli: export the HAPROXY_MASTER_CLI variable

It works the same way as the HAPROXY_CLI variable, it exports the
listeners addresses separated by semicolons.

6 years agoCLEANUP: mworker: remove the type field in mworker_proc
William Lallemand [Fri, 12 Apr 2019 14:09:23 +0000 (16:09 +0200)] 
CLEANUP: mworker: remove the type field in mworker_proc

Since the introduction of the options field, we can use it to store the
type of process.

type = 'm' is replaced by PROC_O_TYPE_MASTER
type = 'w' is replaced by PROC_O_TYPE_WORKER
type = 'e' is replaced by PROC_O_TYPE_PROG

The old values are still used in the HAPROXY_PROCESSES environment
variable to pass the information during a reload.

6 years agoMEDIUM: mworker-prog: implements 'option start-on-reload'
William Lallemand [Fri, 12 Apr 2019 14:09:22 +0000 (16:09 +0200)] 
MEDIUM: mworker-prog: implements 'option start-on-reload'

This option is already the default, but its opposite 'no option
start-on-reload' allows the master to keep a previous instance of a
program and don't start a new one upon a reload.

The old program will then appear as a current one in "show proc" and
could also trigger an exit-on-failure upon a segfault.

6 years agoMEDIUM: mworker: store the leaving state of a process
William Lallemand [Fri, 12 Apr 2019 14:09:21 +0000 (16:09 +0200)] 
MEDIUM: mworker: store the leaving state of a process

Previously we were assuming than a process was in a leaving state when
its number of reload was greater than 0. With mworker programs it's not
the case anymore so we need to store a leaving state.

6 years agoBUG/MAJOR: lb/threads: fix insufficient locking on round-robin LB
Willy Tarreau [Tue, 16 Apr 2019 09:21:14 +0000 (11:21 +0200)] 
BUG/MAJOR: lb/threads: fix insufficient locking on round-robin LB

Maksim Kupriianov reported very strange crashes in fwrr_update_position()
which didn't make sense because of an apparent divide overflow except that
the value was not null in the core.

It happens that while the locking is correct in all the functions' call
graph, the uppermost one (fwrr_get_next_server()) incorrectly expected
that its target server was already locked when called. This stupid
assumption causd the server lock not to be held when calling the other
ones, explaining how it was possible to change the server's eweight by
calling srv_lb_commit_status() under the server lock yet collide with
its unprotected usage.

This commit makes sure that fwrr_get_server_from_group() retrieves a
locked server and that fwrr_get_next_server() is responsible for
unlocking the server before returning it. There is one subtlety in
this function which is that it builds a list of avoided servers that
were full while scanning the tree, and all of them are queued in a
full state so they must be unlocked upon return.

Many thanks to Maksim for providing detailed info allowing to narrow
down this bug.

This fix must be backported to 1.9. In 1.8 the lock seems much wider
and changes to the server's state are performed under the rendez-vous
point so this it doesn't seem possible that it happens there.

6 years agoDOC: update for "show peers" CLI command.
Frédéric Lécaille [Mon, 15 Apr 2019 11:50:23 +0000 (13:50 +0200)] 
DOC: update for "show peers" CLI command.

Add the documentation for the new "show peers" CLI command which comes with
this commit "MINOR: peers: Add a new command to the CLI for peers.".

6 years agoMINOR: peers: Add a new command to the CLI for peers.
Frédéric Lécaille [Mon, 15 Apr 2019 08:25:27 +0000 (10:25 +0200)] 
MINOR: peers: Add a new command to the CLI for peers.

Implements "show peers [peers section]" new CLI command to dump information
about the peers and their stick-tables to be synchronized and others internal.

May be backported as far as 1.5.

6 years agoBUILD: htx: fix a used uninitialized warning on is_cookie2
Willy Tarreau [Mon, 15 Apr 2019 19:49:49 +0000 (21:49 +0200)] 
BUILD: htx: fix a used uninitialized warning on is_cookie2

gcc-3.4 reports this which actually looks like a valid warning when
looking at the code, it's unsure why others didn't notice it :

src/proto_htx.c: In function `htx_manage_server_side_cookies':
src/proto_htx.c:4266: warning: 'is_cookie2' might be used uninitialized in this function

6 years agoBUILD: do not specify "const" on functions returning structs or scalars
Willy Tarreau [Mon, 15 Apr 2019 19:27:18 +0000 (21:27 +0200)] 
BUILD: do not specify "const" on functions returning structs or scalars

Older compilers (like gcc-3.4) warn about the use of "const" on functions
returning a struct, which makes sense since the return may only be copied :

  include/common/htx.h:233: warning: type qualifiers ignored on function return type

Let's simply drop "const" here.

6 years agoBUILD: address a few cases of "static <type> inline foo()"
Willy Tarreau [Mon, 15 Apr 2019 19:25:03 +0000 (21:25 +0200)] 
BUILD: address a few cases of "static <type> inline foo()"

Older compilers don't like to see "inline" placed after the type in a
function declaration, it must be "static inline <type>" only. This
patch touches various areas. The warnings were seen with gcc-3.4.

6 years agoBUG/MEDIUM: Threads: Only use the gcc >= 4.7 builtins when using gcc >= 4.7.
Olivier Houchard [Mon, 15 Apr 2019 19:14:25 +0000 (21:14 +0200)] 
BUG/MEDIUM: Threads: Only use the gcc >= 4.7 builtins when using gcc >= 4.7.

Move the definition of the various _HA_ATOMIC_* macros that use
__atomic_* in the #if GCC_VERSION >= 4.7, not just after it, so that we
can build with older versions of gcc again.

6 years agoMINOR: connections: Remove the SUB_CALL_UNSUBSCRIBE flag.
Olivier Houchard [Mon, 15 Apr 2019 17:24:04 +0000 (19:24 +0200)] 
MINOR: connections: Remove the SUB_CALL_UNSUBSCRIBE flag.

Garbage collect SUB_CALL_UNSUBSCIRBE, as it's now unused.

6 years agoBUG/MEDIUM: h2: Revamp the way send subscriptions works.
Olivier Houchard [Mon, 15 Apr 2019 17:23:37 +0000 (19:23 +0200)] 
BUG/MEDIUM: h2: Revamp the way send subscriptions works.

Instead of abusing the SUB_CALL_UNSUBSCRIBE flag, revamp the H2 code a bit
so that it just checks if h2s->sending_list is empty to know if the tasklet
of the stream_interface has been waken up or not.
send_wait is now set to NULL in h2_snd_buf() (ideally we'd set it to NULL
as soon as we're waking the tasklet, but it can't be done, because we still
need it in case we have to remove the tasklet from the task list).

6 years agoBUG/MEDIUM: h2: Make sure we're not already in the send_list in h2_subscribe().
Olivier Houchard [Mon, 15 Apr 2019 17:22:24 +0000 (19:22 +0200)] 
BUG/MEDIUM: h2: Make sure we're not already in the send_list in h2_subscribe().

In h2_subscribe(), don't add ourself to the send_list if we're already in it.
That may happen if we try to send and fail twice, as we're only removed
from the send_list if we managed to send data, to promote fairness.
Failing to do so can lead to either an infinite loop, or some random crashes,
as we'd get the same h2s in the send_list twice.

This should be backported to 1.9.

6 years agoBUG/MEDIUM: muxes: Make sure we unsubcribed when destroying mux ctx.
Olivier Houchard [Mon, 15 Apr 2019 15:51:16 +0000 (17:51 +0200)] 
BUG/MEDIUM: muxes: Make sure we unsubcribed when destroying mux ctx.

In the h1 and h2 muxes, make sure we unsubscribed before destroying the
mux context.
Failing to do so will lead in a segfault later, as the connection will
attempt to dereference its conn->send_wait or conn->recv_wait, which pointed
to the now-free'd mux context.

This was introduced by commit 39a96ee16eeec51774f9f52a783cf624a0de4ccb, so
should only be backported if that commit gets backported.

6 years agoBUILD: cli/threads: fix build in single-threaded mode
Willy Tarreau [Mon, 15 Apr 2019 16:54:10 +0000 (18:54 +0200)] 
BUILD: cli/threads: fix build in single-threaded mode

Commit a8f57d51a ("MINOR: cli/activity: report the accept queue sizes
in "show activity"") broke the single-threaded build because the
accept-rings are not implemented there. Let's ifdef this out. Ideally
we should start to think about always having such elements initialized
even without threads to improve the test coverage.

6 years agoBUILD: task/thread: fix single-threaded build of task.c
Willy Tarreau [Mon, 15 Apr 2019 16:52:40 +0000 (18:52 +0200)] 
BUILD: task/thread: fix single-threaded build of task.c

As expected, commit cde7902ac ("MEDIUM: tasks: improve fairness between
the local and global queues") broke the build with threads disabled,
and I forgot to rerun this test before committing. No backport is
needed.

6 years agoBUG/MINOR: ssl: Fix 48 byte TLS ticket key rotation
Nenad Merdanovic [Sun, 14 Apr 2019 14:06:46 +0000 (16:06 +0200)] 
BUG/MINOR: ssl: Fix 48 byte TLS ticket key rotation

Whenever HAProxy was reloaded with rotated keys, the resumption would be
broken for previous encryption key. The bug was introduced with the addition
of 80 byte keys in 9e7547 (MINOR: ssl: add support of aes256 bits ticket keys
on file and cli.).

This fix needs to be backported to 1.9.

6 years agoBUG/MEDIUM: map: Fix memory leak in the map converter
Nenad Merdanovic [Fri, 12 Apr 2019 20:54:28 +0000 (22:54 +0200)] 
BUG/MEDIUM: map: Fix memory leak in the map converter

The allocated trash chunk is not freed properly and causes a memory leak
exhibited as the growth in the trash pool allocations. Bug was introduced
in commit 271022 (BUG/MINOR: map: fix map_regm with backref).

This should be backported to all branches where the above commit was
backported.

6 years agoMINOR: tasks: restore the lower latency scheduling when niced tasks are present
Willy Tarreau [Mon, 15 Apr 2019 07:33:42 +0000 (09:33 +0200)] 
MINOR: tasks: restore the lower latency scheduling when niced tasks are present

In the past we used to reduce the number of tasks consulted at once when
some niced tasks were present in the run queue. This was dropped in 1.8
when the scheduler started to take batches. With the recent fixes it now
becomes possible to restore this behaviour which guarantees a better
latency between tasks when niced tasks are present. Thanks to this, with
the default number of 200 for tune.runqueue-depth, with a parasitic load
of 14000 requests per second, nice 0 gives 14000 rps, nice 1024 gives
12000 rps and nice -1024 gives 16000 rps. The amplitude widens if the
runqueue depth is lowered.

6 years agoMEDIUM: tasks: only base the nice offset on the run queue depth
Willy Tarreau [Mon, 15 Apr 2019 07:18:31 +0000 (09:18 +0200)] 
MEDIUM: tasks: only base the nice offset on the run queue depth

The offset calculated for the nice value used to be wrong for a long
time and got even worse when the improved multi-thread sheduler was
implemented because it continued to rely on the run queue size, which
become irrelevant given that we extract tasks in batches, so the run
queue size moves following a sawtooth form.

However the offsets much better reflects insertion positions in the
queue, so it's worth dropping this rq_size component of the equation.
Last point, due to the batches made of runqueue-depth entries at once,
the higher the depth, the lower the effect of the nice setting since
values are picked together in batches and placed into a list. An
intuitive approach consists in multiplying the nice value with the
batch size to allow tasks to participate to a different batch. And
experimentation shows that this works pretty well.

With a runqueue-depth of 16 and a parasitic load of 16000 requests
per second on 100 streams, a default nice of 0 shows 16000 requests
per second for nice 0, 22000 for nice -1024 and 10000 for nice 1024.

The difference is even bigger with a runqueue depth of 5. At 200
however it's much smoother (16000-22000).

6 years agoMEDIUM: tasks: improve fairness between the local and global queues
Willy Tarreau [Fri, 12 Apr 2019 16:03:41 +0000 (18:03 +0200)] 
MEDIUM: tasks: improve fairness between the local and global queues

Tasks allowed to run on multiple threads, as well as those scheduled by
one thread to run on another one pass through the global queue. The
local queues only see tasks scheduled by one thread to run on itself.
The tasks extracted from the global queue are transferred to the local
queue when they're picked by one thread. This causes a priority issue
because the global tasks experience a priority contest twice while the
local ones experience it only once. Thus if a tasks returns still
running, it's immediately reinserted into the local run queue and runs
much faster than the ones coming from the global queue.

Till 1.9 the tasks going through the global queue were mostly :
  - health checks initialization
  - queue management
  - listener dequeue/requeue

These ones are moderately sensitive to unfairness so it was not that
big an issue.

Since 2.0-dev2 with the multi-queue accept, tasks are scheduled to
remote threads on most accept() and it becomes fairly visible under
load that the accept slows down, even for the CLI.

This patch remedies this by consulting both the local and the global
run queues in parallel and by always picking the task whose deadline
is the earliest. This guarantees to maintain an excellent fairness
between the two queues and removes the cascade effect experienced
by the global tasks.

Now the CLI always continues to respond quickly even in presence of
expensive tasks running for a long time.

This patch may possibly be backported to 1.9 if some scheduling issues
are reported but at this time it doesn't seem necessary.

6 years agoCLEANUP: task: do not export rq_next anymore
Willy Tarreau [Fri, 12 Apr 2019 14:10:55 +0000 (16:10 +0200)] 
CLEANUP: task: do not export rq_next anymore

This one hasn't been used anymore since the scheduler changes after 1.8
but it kept being exported and maintained up to date while it's always
reset when scanning the trees. Let's stop exporting it and updating it.

6 years agoBUG/MEDIUM: muxes: Don't dereference mux context if null in release functions
Christopher Faulet [Mon, 15 Apr 2019 07:33:32 +0000 (09:33 +0200)] 
BUG/MEDIUM: muxes: Don't dereference mux context if null in release functions

When a mux context is released, we must be sure it exists before dereferencing
it. The bug was introduced in the commit 39a96ee16 ("MEDIUM: muxes: Be prepared
to don't own connection during the release").

No need to backport this patch, expect if the commit 39a96ee16 is backported
too.

6 years agoREGTEST: Use HTX by default and add '--no-htx' option to disable it
Christopher Faulet [Fri, 12 Apr 2019 14:53:41 +0000 (16:53 +0200)] 
REGTEST: Use HTX by default and add '--no-htx' option to disable it

Because the HTX is now the default mode in HAProxy, it is also enabled by
default in reg-tests. The option '--use-htx' is still available, but deprecated
and have concretly no effect. To run reg-tests with the legacy HTTP mode, you
should use the option '--no-htx'.

6 years agoMAJOR: htx: Enable the HTX mode by default for all proxies
Christopher Faulet [Fri, 12 Apr 2019 14:10:51 +0000 (16:10 +0200)] 
MAJOR: htx: Enable the HTX mode by default for all proxies

The legacy HTTP mode is no more the default one. So now, by default, without any
option in your configuration, all proxies will use the HTX mode. The line
"option http-use-htx" in proxy sections are now useless, except to cancel the
legacy HTTP mode. To fallback on legacy HTTP mode, you should use the line "no
option http-use-htx" explicitly.

Note that the reg-tests still work by default on legacy HTTP mode. The HTX will
be enabled by default in a futur commit.

6 years agoMAJOR: muxes/htx: Handle inplicit upgrades from h1 to h2
Christopher Faulet [Mon, 8 Apr 2019 08:57:20 +0000 (10:57 +0200)] 
MAJOR: muxes/htx: Handle inplicit upgrades from h1 to h2

The upgrade is performed when an H2 preface is detected when the first request
on a connection is parsed. The CS is destroyed by setting EOS flag on it. A
special flag is added on the HTX message to warn the HTX analyzers the stream
will be closed because of an upgrade. This way, no error and no log are
emitted. When the mux h1 is released, we create a mux h2, without any CS and
passing the buffer with the unparsed H2 preface.

6 years agoMAJOR: proxy/htx: Handle mux upgrades from TCP to HTTP in HTX mode
Christopher Faulet [Mon, 8 Apr 2019 08:53:51 +0000 (10:53 +0200)] 
MAJOR: proxy/htx: Handle mux upgrades from TCP to HTTP in HTX mode

It is now possible to upgrade TCP streams to HTX when an HTTP backend is set for
a TCP frontend (both with the HTX enabled). So concretely, in such case, an
upgrade is performed from the mux pt to the mux h1. The current CS and the
channel's buffer are used to initialize the mux h1.

6 years agoMEDIUM: htx: Allow the option http-use-htx to be used on TCP proxies too
Christopher Faulet [Thu, 11 Apr 2019 20:04:08 +0000 (22:04 +0200)] 
MEDIUM: htx: Allow the option http-use-htx to be used on TCP proxies too

This will be mandatory to allow upgrades from TCP to HTTP in HTX. Of course, raw
buffers will still be used by default on TCP proxies, this option sets or
not. But if you want to handle mux upgrades from a TCP proxy, you must enable
the HTX on it and on all its backends.

There is only a small change in the lua code. Because TCP proxies can be HTX
aware, to exclude TCP services only for HTTP proxies, we must also check the
mode (TCP/HTTP) now.

6 years agoMEDIUM: connection: Add conn_upgrade_mux_fe() to handle mux upgrades
Christopher Faulet [Mon, 8 Apr 2019 08:42:41 +0000 (10:42 +0200)] 
MEDIUM: connection: Add conn_upgrade_mux_fe() to handle mux upgrades

This function will handle mux upgrades, for frontend connections only. It will
retrieve the best mux in the same way than conn_install_mux_fe except that the
mode and optionnally the proto are forced.

The new multiplexer is initialized using a new context and a specific input
buffer. Then, the old one is destroyed. If an error occurred, everything is
rolled back.

6 years agoMEDIUM: muxes: Be prepared to don't own connection during the release
Christopher Faulet [Mon, 8 Apr 2019 08:52:21 +0000 (10:52 +0200)] 
MEDIUM: muxes: Be prepared to don't own connection during the release

This happens during mux upgrades. In such case, when the destroy() callback is
called, the connection points to a different mux's context than the one passed
to the callback. It means the connection is owned by another mux. The old mux is
then released but the connection is not closed.

6 years agoMINOR: muxes: Pass the context of the mux to destroy() instead of the connection
Christopher Faulet [Mon, 8 Apr 2019 09:23:22 +0000 (11:23 +0200)] 
MINOR: muxes: Pass the context of the mux to destroy() instead of the connection

It is mandatory to handle mux upgrades, because during a mux upgrade, the
connection will be reassigned to another multiplexer. So when the old one is
destroyed, it does not own the connection anymore. Or in other words, conn->ctx
does not point to the old mux's context when its destroy() callback is
called. So we now rely on the multiplexer context do destroy it instead of the
connection.

In addition, h1_release() and h2_release() have also been updated in the same
way.

6 years agoMEDIUM: muxes: Add an optional input buffer during mux initialization
Christopher Faulet [Mon, 8 Apr 2019 09:22:47 +0000 (11:22 +0200)] 
MEDIUM: muxes: Add an optional input buffer during mux initialization

The mux's callback init() now take a pointer to a buffer as extra argument. It
must be used by the multiplexer as its input buffer. This buffer is always NULL
when a multiplexer is initialized with a fresh connection. But if a mux upgrade
is performed, it may be filled with existing data. Note that, for now, mux
upgrades are not supported. But this commit is mandatory to do so.

6 years agoMINOR: muxes: Rely on conn_is_back() during init to handle front/back conn
Christopher Faulet [Mon, 8 Apr 2019 08:46:02 +0000 (10:46 +0200)] 
MINOR: muxes: Rely on conn_is_back() during init to handle front/back conn

Instead of using the connection context to make the difference between a
frontend connection and a backend connection, we now rely on the function
conn_is_back().

6 years agoMINOR: filters/htx: Use stream flags instead of px mode to instanciate a filter
Christopher Faulet [Fri, 5 Apr 2019 08:11:38 +0000 (10:11 +0200)] 
MINOR: filters/htx: Use stream flags instead of px mode to instanciate a filter

In the function flt_stream_add_filter(), if the HTX is enabled, before attaching
a filter to a stream, we test if the filter can handle it or not. If not, the
filter is ignored. Before the proxy mode was tested. Now we test if the stream
is an HTX stream or not.

6 years agoMINOR: http_fetch/htx: Use stream flags instead of px mode in smp_prefetch_htx
Christopher Faulet [Wed, 3 Apr 2019 08:12:42 +0000 (10:12 +0200)] 
MINOR: http_fetch/htx: Use stream flags instead of px mode in smp_prefetch_htx

In the function smp_prefetch_htx(), we must know if data in the channel's buffer
are structured or not. Before the proxy mode was tested. Now we test if the
stream is an HTX stream or not. If yes, we know the HTX is used to structure
data in the channel's buffer.

6 years agoMINOR: http: update the macro IS_HTX_STRM() to check the stream flag SF_HTX
Christopher Faulet [Wed, 3 Apr 2019 08:08:59 +0000 (10:08 +0200)] 
MINOR: http: update the macro IS_HTX_STRM() to check the stream flag SF_HTX

Instead of matching on the frontend options, we now check if the flag SF_HTX is
set or not on the stream to know if it is an HTX stream or not.

6 years agoMINOR: stream: Set a flag when the stream uses the HTX
Christopher Faulet [Wed, 3 Apr 2019 08:01:07 +0000 (10:01 +0200)] 
MINOR: stream: Set a flag when the stream uses the HTX

The flag SF_HTX has been added to know when a stream uses the HTX or not. It is
set when an HTX stream is created. There are 2 conditions to set it. The first
one is when the HTTP frontend enables the HTX. The second one is when the attached
conn_stream uses an HTX multiplexer.

6 years agoMINOR: muxes: Add a flag to specify a multiplexer uses the HTX
Christopher Faulet [Wed, 3 Apr 2019 07:53:32 +0000 (09:53 +0200)] 
MINOR: muxes: Add a flag to specify a multiplexer uses the HTX

A multiplexer must now set the flag MX_FL_HTX when it uses the HTX to structured
the data exchanged with channels. the muxes h1 and h2 set this flag. Of course,
for the mux h2, it is set on h2_htx_ops only.

6 years agoMINOR: mux-h2: Add a mux_ops dedicated to the HTX mode
Christopher Faulet [Thu, 11 Apr 2019 20:52:25 +0000 (22:52 +0200)] 
MINOR: mux-h2: Add a mux_ops dedicated to the HTX mode

Instead of using the same mux_ops structure for the legacy HTTP mode and the HTX
mode, a dedicated mux_ops is now used for the HTX mode. Same callbacks are used
for both. But the flags may be different depending on the mode used.

6 years agoBUG/MINOR: mux-h1: Handle the flag CS_FL_KILL_CONN during a shutdown read/write
Christopher Faulet [Mon, 8 Apr 2019 08:51:20 +0000 (10:51 +0200)] 
BUG/MINOR: mux-h1: Handle the flag CS_FL_KILL_CONN during a shutdown read/write

This flag is used to explicitly kill the connection when the CS is closed. It
may be set by tcp rules. It must be respect by the mux-h1.

This patch must be backported to 1.9.

6 years agoMINOR: mux-h1: Don't release the conn_stream anymore when h1s is destroyed
Christopher Faulet [Mon, 8 Apr 2019 08:43:46 +0000 (10:43 +0200)] 
MINOR: mux-h1: Don't release the conn_stream anymore when h1s is destroyed

An H1 stream is destroyed when the conn_stream is detached or when the H1
connection is destroyed. In the first case, the CS is released by the caller. In
the second one, because the connection is closed, no CS is attached anymore. In
both, there is no reason to release the conn_stream in h1s_destroy().

6 years agoMEDIUM: mux-h1: Simplify the connection mode management by sanitizing headers
Christopher Faulet [Thu, 28 Mar 2019 14:42:24 +0000 (15:42 +0100)] 
MEDIUM: mux-h1: Simplify the connection mode management by sanitizing headers

Connection headers are now sanitized during the parsing and the formatting. This
means "close" and "keep-alive" values are always removed but right flags are
set. This way, client side and server side are independent of each other. On the
input side, after the parsing, neither "close" nor "keep-alive" values
remain. So on the output side, if we found one of these values in a connection
headers, it means it was explicitly added by HAProxy. So it overwrites the other
rules, if applicable. Always sanitizing the output is also a way to simplifiy
conditions to update the connection header. Concretly, only additions of "close"
or "keep-alive" values remain, depending the case.

No need to backport this patch.

6 years agoMEDIUM: h1: Add an option to sanitize connection headers during parsing
Christopher Faulet [Fri, 29 Mar 2019 14:03:13 +0000 (15:03 +0100)] 
MEDIUM: h1: Add an option to sanitize connection headers during parsing

The flag H1_MF_CLEAN_CONN_HDR has been added to let the H1 parser sanitize
connection headers. It means it will remove all "close" and "keep-alive" values
during the parsing. One noticeable effect is that connection headers may be
unfolded. In practice, this is not a problem because it is not frequent to have
multiple values for the connection headers.

If this flag is set, during the parsing The function
h1_parse_next_connection_header() is called in a loop instead of
h1_parse_conection_header().

No need to backport this patch

6 years agoMINOR: stats/htx: Don't add "Connection: close" header anymore in stats responses
Christopher Faulet [Fri, 29 Mar 2019 15:13:55 +0000 (16:13 +0100)] 
MINOR: stats/htx: Don't add "Connection: close" header anymore in stats responses

On the client side, as far as possible, we will try to keep connection
alive. So, in most of cases, this header will be removed. So it is better to not
add it at all. If finally the connection must be closed, the header will be
added by the mux h1.

No need to backport this patch.

6 years agoMINOR: mux-h1: Simplify handling of 1xx responses
Christopher Faulet [Thu, 28 Mar 2019 12:28:46 +0000 (13:28 +0100)] 
MINOR: mux-h1: Simplify handling of 1xx responses

Because of previous changes on http tunneling, the synchronization of the
transaction can be simplified. Only the check on intermediate messages remains
and it only concerns the response path.

This patch must be backported to 1.9. It is not strictly speaking required but
it will ease futur backports.

6 years agoBUG/MEDIUM: htx: Fix the process of HTTP CONNECT with h2 connections
Christopher Faulet [Thu, 28 Mar 2019 10:41:39 +0000 (11:41 +0100)] 
BUG/MEDIUM: htx: Fix the process of HTTP CONNECT with h2 connections

In HTX, the HTTP tunneling does not work if h1 and h2 are mixed (an h1 client
sending requests to an h2 server or this opposite) because the h1 multiplexer
always adds an EOM before switching it to tunnel mode. The h2 multiplexer
interprets it as an end of stream, closing the stream as for any other
transaction.

To make it works again, we need to swith to the tunnel mode without emitting any
EOM blocks. Because of that, HTX analyzers have been updated to switch the
transaction to tunnel mode before end of the message (because there is no end of
message...).

To be consistent, the protocol switching is also handled the same way even
though the 101 responses are not supported in h2.

This patch must be backported to 1.9.

6 years agoMINOR: proto_htx: Don't adjust transaction mode anymore in HTX analyzers
Christopher Faulet [Tue, 26 Mar 2019 21:02:00 +0000 (22:02 +0100)] 
MINOR: proto_htx: Don't adjust transaction mode anymore in HTX analyzers

Because the option http-tunnel is now ignored in HTX, there is no longer any
need to adjust the transaction mode in HTX analyzers. A channel can still be
switch to the tunnel mode for legitimate cases (HTTP CONNECT or switching
protocols). So the function htx_adjust_conn_mode() is now useless.

This patch must be backported to 1.9. It is not strictly speaking required but
it will ease futur backports.

6 years agoMEDIUM: htx: Deprecate the option 'http-tunnel' and ignore it in HTX
Christopher Faulet [Tue, 26 Mar 2019 20:37:23 +0000 (21:37 +0100)] 
MEDIUM: htx: Deprecate the option 'http-tunnel' and ignore it in HTX

The option http-tunnel disables any HTTP processing past the first
transaction. In HTX, it works for full h1 transactions. As for the legacy HTTP,
it is a workaround, but it works. But it is impossible to make it works with an
h2 connection. In such case, it has no effect, the stream is closed at the end
of the transaction. So to avoid any inconsistancies between h1 and h2
connections, this option is now always ignored when the HTX is enabled. It is
also a good opportinity to deprecate an old and ugly option. A warning is
emitted during HAProxy startup to encourage users to remove this option.

Note that in legacy HTTP, this option only works with full h1 transactions
too. If an h2 connection is established on a frontend with this option enabled,
it will have no effect at all. But we keep it for the legacy HTTP for
compatibility purpose. It will be removed with the legacy HTTP.

So to be short, if you have to really (REALLY) use it, it will only work for
legacy HTTP frontends with H1 clients.

The documentation has been updated accordingly.

This patch must be backported to 1.9. It is not strictly speaking required but
it will ease futur backports.

6 years agoBUG/MEDIUM: htx: Don't crush blocks payload when append is done on a data block
Christopher Faulet [Wed, 10 Apr 2019 12:54:46 +0000 (14:54 +0200)] 
BUG/MEDIUM: htx: Don't crush blocks payload when append is done on a data block

If there is a data block when a header block is added in a HTX message, its
payload will be inserted after the data block payload. But its index will be
moved before the EOH block. So at this stage, if a new data block is added, we
will try to append its payload to the last data block (because it is also the
tail). Thus the payload of the further header block will be crushed.

This cannot happens if the payloads wrap thanks to the previous fix. But it
happens when the tail is not the front too. So now, in this case, we add a new
block instead of appending.

This patch must be backported in 1.9.

6 years agoBUG/MEDIUM: htx: Defrag if blocks position is changed and the payloads wrap
Christopher Faulet [Thu, 11 Apr 2019 11:43:57 +0000 (13:43 +0200)] 
BUG/MEDIUM: htx: Defrag if blocks position is changed and the payloads wrap

When a header is added or when a data block is added before another one, the
blocks position may be changed (but not their payloads position). For instance,
when a header is added, we move the block just before the EOH, if any. When the
payloads wraps, it is pretty annoying because we loose the last inserted
block. It is neither the tail nor the head. And it is not the front either.

It is a design problem. Waiting for fixing this problem, we force a
defragmentation in such case. Anyway, it should be pretty rare, so it's not
really critical.

This patch must be backported to 1.9.

6 years agoBUG/MINOR: spoe: Be sure to set tv_request when each message fragment is encoded
Christopher Faulet [Wed, 10 Apr 2019 12:47:18 +0000 (14:47 +0200)] 
BUG/MINOR: spoe: Be sure to set tv_request when each message fragment is encoded

When a message or a fragment is encoded, the date the frame processing starts
must be set if it is undefined. The test on tv_request field was wrong.

This patch must be backported to 1.9.

6 years agoBUG/MEDIUM: spoe: Return an error if nothing is encoded for fragmented messages
Christopher Faulet [Wed, 10 Apr 2019 12:21:51 +0000 (14:21 +0200)] 
BUG/MEDIUM: spoe: Return an error if nothing is encoded for fragmented messages

If the maximum frame size is very small with a large message or argument name,
it is possible to be unable to encode anything. In such case, it is important to
stop processing returning an error otherwise we will retry in loop to encode the
message, failing each time because of the too small frame size.

This patch must be backported to 1.9 and 1.8.

6 years agoBUG/MEDIUM: spoe: Queue message only if no SPOE applet is attached to the stream
Christopher Faulet [Wed, 10 Apr 2019 12:02:12 +0000 (14:02 +0200)] 
BUG/MEDIUM: spoe: Queue message only if no SPOE applet is attached to the stream

If a SPOE applet is already attached to a stream to handle its messages, we must
not queue them. Otherwise it could be handled by another applet leading to
errors. This happens with fragmented messages only. When the first framgnent is
sent, the SPOE applet sending it is attached to the stream. It should be used to
send all other fragments.

This patch must be backported to 1.9 and 1.8.

6 years agoMINOR: cli/activity: report the accept queue sizes in "show activity"
Willy Tarreau [Fri, 12 Apr 2019 13:29:23 +0000 (15:29 +0200)] 
MINOR: cli/activity: report the accept queue sizes in "show activity"

Seeing the size of each ring helps understand which threads are
overloaded and why some of them are less often elected than others
by the multi-queue load balancer.

6 years agoMINOR: cli/listener: report the number of accepts on "show activity"
Willy Tarreau [Fri, 12 Apr 2019 13:27:17 +0000 (15:27 +0200)] 
MINOR: cli/listener: report the number of accepts on "show activity"

The "show activity" command reports the number of incoming connections
dispatched per thread but doesn't report the number of connections
received by each thread. It is important to be able to monitor this
value as it can show that for whatever reason a smaller set of threads
is receiving the connections and dispatching them to all other ones.

6 years agoBUG/MINOR: listener: renice the accept ring processing task
Willy Tarreau [Fri, 12 Apr 2019 13:25:04 +0000 (15:25 +0200)] 
BUG/MINOR: listener: renice the accept ring processing task

It is not acceptable that the accept queues are handled with a normal
priority since they are supposed to quickly dispatch the incoming
traffic, resulting in tasks which will have their respective nice
values and place in the queue. Let's renice the accept ring tasks
to -1024.

No backport is needed, this is strictly 2.0.

6 years agoBUG/MINOR: tasks: make sure the first task to be queued keeps its nice value
Willy Tarreau [Fri, 12 Apr 2019 13:18:37 +0000 (15:18 +0200)] 
BUG/MINOR: tasks: make sure the first task to be queued keeps its nice value

The run queue offset computed from the nice value depends on the run
queue size, but for the first task to enter the run queue, this size
is zero and the task gets queued just as if its nice value was zero as
well. This is problematic for example for the CLI socket if another
higher priority task gets queued immediately after as it can steal its
place.

This patch simply adds one to the rq_size value to make sure the nice
is never multiplied by zero. The way the offset is calculated is
questionable anyway these days, since with the newer scheduler it seems
that just using the nice value as an offset should work (possibly damped
by the task's number of calls).

This fix must be backported to 1.9. It may possibly be backported to
older versions if it proves to make the CLI more interactive.

6 years agoBUG/MEDIUM: task/threads: address a fairness issue between local and global tasks
Willy Tarreau [Fri, 12 Apr 2019 13:11:02 +0000 (15:11 +0200)] 
BUG/MEDIUM: task/threads: address a fairness issue between local and global tasks

It is possible to hit a fairness issue in the scheduler when a local
task runs for a long time (i.e. process_stream() returns running), and
a global task wants to run on the same thread and remains in the global
queue. What happens in this case is that the condition to extract tasks
from the global queue will rarely be satisfied for very low task counts
since whatever non-null queue size multiplied by a thread count >1 is
always greater than the small remaining number of tasks in the queue.
In theory another thread should pick the task but we do have some mono
threaded tasks in the global queue as well during inter-thread wakeups.

Note that this can only happen with task counts lower than the thread
counts, typically one task in each queue for more than two threads.

This patch works around the problem by allowing a very small unfairness,
making sure that we can always pick at least one task from the global
queue even if there is already one in the local queue.

A better approach will consist in scanning the two trees in parallel
and always pick the best task. This will be more complex and will
constitute a separate patch.

This fix must be backported to 1.9.

6 years agoBUG/MEDIUM: stream_interface: Don't bother doing chk_rcv/snd if not connected.
Olivier Houchard [Thu, 11 Apr 2019 11:56:26 +0000 (13:56 +0200)] 
BUG/MEDIUM: stream_interface: Don't bother doing chk_rcv/snd if not connected.

If the interface is not in state SI_ST_CON or SI_ST_EST, don't bother
trying to send/recv data, we can't do it anyway, and if we're in SI_ST_TAR,
that may lead to adding the SI_FL_ERR flag back on the stream_interface,
while we don't want it.

This should be backported to 1.9.

6 years agoBUG/MEDIUM: streams: Only re-run process_stream if we're in a connected state.
Olivier Houchard [Wed, 10 Apr 2019 11:51:37 +0000 (13:51 +0200)] 
BUG/MEDIUM: streams: Only re-run process_stream if we're in a connected state.

In process_stream(), only try again when there's the SI_FL_ERR flag and we're
in a connected state, otherwise we can loop forever.
It used to work because si_update_both() bogusly removed the SI_FL_ERR flag,
and it would never be set at this point. Now it does, so take that into
account.
Many, many thanks to Maciej Zdeb for reporting the problem, and helping
investigating it.

This should be backported to 1.9.

6 years agoMINOR: ssl: Activate aes_gcm_dec converter for BoringSSL
Emmanuel Hocdet [Mon, 1 Apr 2019 16:24:38 +0000 (18:24 +0200)] 
MINOR: ssl: Activate aes_gcm_dec converter for BoringSSL

BoringSSL can support it, no need to disable.

6 years agoMINOR: skip get_gmtime where tm is unused
Robin H. Johnson [Wed, 10 Apr 2019 21:08:15 +0000 (21:08 +0000)] 
MINOR: skip get_gmtime where tm is unused

For LOG_FMT_TS (%Ts), the tm variable is not used, so save some cycles
on the call to get_gmtime.

Backport: 1.9 1.8
Signed-off-by: Robin H. Johnson <rjohnson@digitalocean.com>
6 years agoBUG/MEDIUM: pattern: assign pattern IDs after checking the config validity
Willy Tarreau [Thu, 11 Apr 2019 12:47:08 +0000 (14:47 +0200)] 
BUG/MEDIUM: pattern: assign pattern IDs after checking the config validity

Pavlos Parissis reported an interesting case where some map identifiers
were not assigned (appearing as -1 in show map). It turns out that it
only happens for log-format expressions parsed in check_config_validity()
that involve maps (log-format, use_backend, unique-id-header), as in the
sample configuration below :

    frontend foo
        bind :8001
        unique-id-format %[src,map(addr.lst)]
        log-format %[src,map(addr.lst)]
        use_backend %[src,map(addr.lst)]

The reason stems from the initial introduction of unique IDs in 1.5 via
commit af5a29d5f ("MINOR: pattern: Each pattern is identified by unique
id.") : the unique_id assignment was done before calling
check_config_validity() so all maps loaded after this call are not
properly configured. From what the function does, it seems they will not
be able to use a cache, will not have a unique_id assigned and will not
be updatable from the CLI.

This fix must be backported to all supported versions.

6 years agoMINOR: threads: Implement thread_cpus_enabled() for FreeBSD.
Olivier Houchard [Wed, 10 Apr 2019 22:06:47 +0000 (00:06 +0200)] 
MINOR: threads: Implement thread_cpus_enabled() for FreeBSD.

Use cpuset_getaffinity() to implement thread_cpus_enabled() on FreeBSD, so
that we can know the number of CPUs available, and automatically launch as
much threads if nbthread isn't specified.

6 years agoMINOR: initcall: Don't forget to define the __start/stop_init_##stg symbols.
Olivier Houchard [Wed, 10 Apr 2019 14:21:32 +0000 (16:21 +0200)] 
MINOR: initcall: Don't forget to define the __start/stop_init_##stg symbols.

When creating a new initcall, don't forget to define the symbols, as it may
not be done automatically and that would lead to undefined symbols.

This should be backported to 1.9.

6 years agoBUG/MEDIUM: stream: Don't clear the stream_interface flags in si_update_both.
Olivier Houchard [Tue, 9 Apr 2019 17:17:41 +0000 (19:17 +0200)] 
BUG/MEDIUM: stream: Don't clear the stream_interface flags in si_update_both.

In commit d7704b534, we introduced and expiration flag on the stream interface,
which is used for the connect, the queue and the turn around. Because the
turn around state isn't an error, the flag was reset in process_stream(), and
later in commit cff6411f9 when introducing the SI_FL_ERR flag, the cleanup
of the flag at this place was erroneously generalized.
To fix this, the SI_FL_EXP flag is only cleared at the end of the turn around
state, and nobody should clear the stream interface flags anymore.

This should be backported to 1.9, it has no known impact on older versions.

6 years agoBUG/MEDIUM: streams: Store prev_state before calling si_update_both().
Olivier Houchard [Tue, 9 Apr 2019 17:14:59 +0000 (19:14 +0200)] 
BUG/MEDIUM: streams: Store prev_state before calling si_update_both().

As si_update_both() sets prev_state to state for each stream_interface, if
we want to check it changed, copy it before calling si_update_both().

This should be backported to 1.9.

6 years agoBUG/MEDIUM: streams: Don't remove the SI_FL_ERR flag in si_update_both().
Olivier Houchard [Tue, 9 Apr 2019 17:12:51 +0000 (19:12 +0200)] 
BUG/MEDIUM: streams: Don't remove the SI_FL_ERR flag in si_update_both().

Don't inconditionally remove the SI_FL_ERR code in si_update_both(), which
is called at the end of process_stream(). Doing so was a bug that was there
since the flag was introduced, because we were always setting si->flags to
SI_FL_NONE, however we don't want to lose that one, except if we will retry
connecting, so only remove it in sess_update_st_cer().

This should be backported to 1.9.

6 years agoBUG/MEDIUM: htx: fix random premature abort of data transfers
Willy Tarreau [Tue, 9 Apr 2019 14:21:54 +0000 (16:21 +0200)] 
BUG/MEDIUM: htx: fix random premature abort of data transfers

It can happen in some cases that the last block of an H2 transfer over
HTX is truncated. This was tracked down to a leftover of an earlier
implementation of htx_xfer_blks() causing the computed size of a block
to be incorrectly calculated if a data block doesn't completely fit into
the target buffer. In practice it causes the EOM block to be attempted to
be emitted with a wrong size and the message to be truncated. One way to
reproduce this is to chain two haproxy instances in h1->h2->h1 with
httpterm as the server and h2load as the client, making many requests
between 8 and 10kB over a single connection. Usually one of the very
first requests will fail.

This fix must be backported to 1.9.

6 years agoBUG/MEDIUM: h2: Don't attempt to recv from h2_process_demux if we subscribed.
Olivier Houchard [Fri, 5 Apr 2019 13:34:34 +0000 (15:34 +0200)] 
BUG/MEDIUM: h2: Don't attempt to recv from h2_process_demux if we subscribed.

Modify h2c_restart_reading() to add a new parameter, to let it know if it
should consider if the buffer isn't empty when retrying to read or not, and
call h2c_restart_reading() using 0 as a parameter from h2_process_demux().
If we're leaving h2_process_demux() with a non-empty buffer, it means the
frame is incomplete, and we're waiting for more data, and if we already
subscribed, we'll be waken when more data are available.
Failing to do so means we'll be waken up in a loop until more data are
available.

This should be backported to 1.9.

6 years agoBUG/MEDIUM: peers: fix a case where peer session is not cleanly reset on release.
Emeric Brun [Tue, 2 Apr 2019 15:22:01 +0000 (17:22 +0200)] 
BUG/MEDIUM: peers: fix a case where peer session is not cleanly reset on release.

The deinit took place in only peer_session_release, but in the a case of a
previous call to peer_session_forceshutdown, the session cursors
won't be reset, resulting in a bad state for new session of the same
peer. For instance, a table definition message could be dropped and
so all update messages will be dropped by the remote peer.

This patch move the deinit processing directly in the force shutdown
funtion. Killed session remains in "ST_END" state but ref on peer was
reset to NULL and deinit will be skipped on session release function.

The session release continue to assure the deinit for "active" sessions.

This patch should be backported on all stable version since proto
peers v2.

6 years agoREGTEST: lua/b00003: Specify the HAProxy pid when the command ss is executed
Christopher Faulet [Mon, 1 Apr 2019 13:39:50 +0000 (15:39 +0200)] 
REGTEST: lua/b00003: Specify the HAProxy pid when the command ss is executed

This avoids confusions with any other haproxy process.

6 years agoREGTEST: lua/b00003: Relax the regex matching the log message
Christopher Faulet [Mon, 1 Apr 2019 09:17:40 +0000 (11:17 +0200)] 
REGTEST: lua/b00003: Relax the regex matching the log message

The timeer TR may be greater than 10ms, making the test fails.

6 years agoREGTEST: log/b00000: Be sure the client always hits its timeout
Christopher Faulet [Mon, 1 Apr 2019 13:33:19 +0000 (15:33 +0200)] 
REGTEST: log/b00000: Be sure the client always hits its timeout

To do so, the server does not send anything. Instead it waits 2ms before
closing. The client, on its side, will wait for a response. So it will be
blocked. Becauase the client timeout is set to 1ms, HAProxy should always close
the client connection because it times out.

6 years agoREGTEST: http-rules/h00003: Use a different client for requests expecting a 301
Christopher Faulet [Mon, 1 Apr 2019 09:21:57 +0000 (11:21 +0200)] 
REGTEST: http-rules/h00003: Use a different client for requests expecting a 301

Because HAProxy may decide to close 301 responses, as others internal responses,
it is safer to use a different client for these requests. This is not the
purpose of this test to verify the keep-alive in such cases.

6 years agoREGTEST: http-messaging/h00000: Fix the test when the HTX is enabled
Christopher Faulet [Mon, 1 Apr 2019 09:26:25 +0000 (11:26 +0200)] 
REGTEST: http-messaging/h00000: Fix the test when the HTX is enabled

The way unexpected bodies are handled for responses to HEAD requests differs from
the legacy HTTP to the HTX. While it is dropped wih the legacy HTTP, in HTX, it
is parsed as the response to the next request. So, in HTX, a 502 error is
returned to the client and the connexion is closed.

This test has been modified to pass in both mode.

6 years agoREGTEST: http-capture/h00000: Relax a regex matching the log message
Christopher Faulet [Thu, 28 Mar 2019 17:30:42 +0000 (18:30 +0100)] 
REGTEST: http-capture/h00000: Relax a regex matching the log message

Size reported in logs may differ between legacy HTTP and HTX, at least for
now. So in the regtest http-capture/h00000.vtc, we need to relax the regex
matching the log message.

6 years agoBUG/MINOR: proto_htx: Reset to_forward value when a message is set to DONE
Christopher Faulet [Thu, 28 Mar 2019 17:12:46 +0000 (18:12 +0100)] 
BUG/MINOR: proto_htx: Reset to_forward value when a message is set to DONE

Because we try to forward infinitly message body, when its state is set to DONE,
we must be sure to reset to_foward value of the corresponding
channel. Otherwise, some errors can be errornously triggered.

No need to backport this patch.

6 years agoBUG/MINOR: htx: Preserve empty HTX messages with an unprocessed parsing error
Christopher Faulet [Mon, 1 Apr 2019 09:33:17 +0000 (11:33 +0200)] 
BUG/MINOR: htx: Preserve empty HTX messages with an unprocessed parsing error

This let a chance to HTX analyzers to handle the error and send the appropriate
response to the client.

This patch must be backported to 1.9.

6 years agoMINOR: cli: export HAPROXY_CLI environment variable
William Lallemand [Mon, 1 Apr 2019 09:30:06 +0000 (11:30 +0200)] 
MINOR: cli: export HAPROXY_CLI environment variable

Export the HAPROXY_CLI environment variable which contains the list of
all stats sockets (including the sockpair@) separated by semicolons.

6 years agoMINOR: cli: start addresses by a prefix in 'show cli sockets'
William Lallemand [Mon, 1 Apr 2019 09:30:05 +0000 (11:30 +0200)] 
MINOR: cli: start addresses by a prefix in 'show cli sockets'

Displays a prefix for every addresses in 'show cli sockets'.
It could be 'unix@', 'ipv4@', 'ipv6@', 'abns@' or 'sockpair@'.

Could be backported in 1.9 and 1.8.

6 years agoBUG/MINOR: cli: correctly handle abns in 'show cli sockets'
William Lallemand [Mon, 1 Apr 2019 09:30:04 +0000 (11:30 +0200)] 
BUG/MINOR: cli: correctly handle abns in 'show cli sockets'

The 'show cli sockets' was not handling the abns sockets. This is a
problem since it uses the AF_UNIX family, it displays nothing
in the path column because the path starts by \0.

Should be backported to 1.9 and 1.8.

6 years agoMINOR: mworker/cli: show programs in 'show proc'
William Lallemand [Mon, 1 Apr 2019 09:30:03 +0000 (11:30 +0200)] 
MINOR: mworker/cli: show programs in 'show proc'

Show the programs in 'show proc'

Example:

# programs
2285            dataplane-api   -               0               0d 00h00m12s
# old programs
2261            dataplane-api   -               1               0d 00h00m53s

6 years agoMEDIUM: mworker-prog: implement program for master-worker
William Lallemand [Mon, 1 Apr 2019 09:30:02 +0000 (11:30 +0200)] 
MEDIUM: mworker-prog: implement program for master-worker

This patch implements the external binary support in the master worker.

To configure an external process, you need to use the program section,
for example:

program dataplane-api
command ./dataplane_api

Those processes are launched at the same time as the workers.

During a reload of HAProxy, those processes are dealing with the same
sequence as a worker:

  - the master is re-executed
  - the master sends a USR1 signal to the program
  - the master launches a new instance of the program

During a stop, or restart, a SIGTERM is sent to the program.

6 years agoREORG: mworker/cli: move CLI functions to mworker.c
William Lallemand [Mon, 1 Apr 2019 09:30:01 +0000 (11:30 +0200)] 
REORG: mworker/cli: move CLI functions to mworker.c

Move the CLI functions of the master worker to mworker.c

6 years agoMINOR: cli: export cli_parse_default() definition in cli.h
William Lallemand [Mon, 1 Apr 2019 09:30:00 +0000 (11:30 +0200)] 
MINOR: cli: export cli_parse_default() definition in cli.h

Export the cli_parse_default() function in cli.h so it could be used in
other files.

6 years agoMINOR: mworker: don't use children variable anymore
William Lallemand [Mon, 1 Apr 2019 09:29:59 +0000 (11:29 +0200)] 
MINOR: mworker: don't use children variable anymore

The children variable is still used in haproxy, it is not required
anymore since we have the information about the current workers in the
mworker_proc linked list.

The oldpids array is also replaced by this linked list when we
generated the arguments for the master reexec.

6 years agoMINOR: mworker: calloc mworker_proc structures
William Lallemand [Mon, 1 Apr 2019 09:29:58 +0000 (11:29 +0200)] 
MINOR: mworker: calloc mworker_proc structures

Initialize mworker_proc structures to 0 with calloc instead of just
doing a malloc.

6 years agoREORG: mworker: move mworker_cleanlisteners to mworker.c
William Lallemand [Mon, 1 Apr 2019 09:29:57 +0000 (11:29 +0200)] 
REORG: mworker: move mworker_cleanlisteners to mworker.c

6 years agoREORG: mworker: move signal handlers and related functions
William Lallemand [Mon, 1 Apr 2019 09:29:56 +0000 (11:29 +0200)] 
REORG: mworker: move signal handlers and related functions

Move the following functions to mworker.c:

void mworker_catch_sighup(struct sig_handler *sh);
void mworker_catch_sigterm(struct sig_handler *sh);
void mworker_catch_sigchld(struct sig_handler *sh);

static void mworker_kill(int sig);
int current_child(int pid);