]> git.ipfire.org Git - thirdparty/curl.git/commit
connections: introduce http/3 happy eyeballs
authorStefan Eissing <stefan@eissing.org>
Wed, 1 Feb 2023 16:13:12 +0000 (17:13 +0100)
committerDaniel Stenberg <daniel@haxx.se>
Thu, 2 Feb 2023 08:57:34 +0000 (09:57 +0100)
commit671158242db32032a41e8da89da33d773b481ef8
treeeffae55989c06297fc6ad316c0019f32c296dac3
parentb7aaf074e56c4c6ef066da0d4d683628dcc2b225
connections: introduce http/3 happy eyeballs

New cfilter HTTP-CONNECT for h3/h2/http1.1 eyeballing.
- filter is installed when `--http3` in the tool is used (or
  the equivalent CURLOPT_ done in the library)
- starts a QUIC/HTTP/3 connect right away. Should that not
  succeed after 100ms (subject to change), a parallel attempt
  is started for HTTP/2 and HTTP/1.1 via TCP
- both attempts are subject to IPv6/IPv4 eyeballing, same
  as happens for other connections
- tie timeout to the ip-version HAPPY_EYEBALLS_TIMEOUT
- use a `soft` timeout at half the value. When the soft timeout
  expires, the HTTPS-CONNECT filter checks if the QUIC filter
  has received any data from the server. If not, it will start
  the HTTP/2 attempt.

HTTP/3(ngtcp2) improvements.
- setting call_data in all cfilter calls similar to http/2 and vtls filters
  for use in callback where no stream data is available.
- returning CURLE_PARTIAL_FILE for prematurely terminated transfers
- enabling pytest test_05 for h3
- shifting functionality to "connect" UDP sockets from ngtcp2
  implementation into the udp socket cfilter. Because unconnected
  UDP sockets are weird. For example they error when adding to a
  pollset.

HTTP/3(quiche) improvements.
- fixed upload bug in quiche implementation, now passes 251 and pytest
- error codes on stream RESET
- improved debug logs
- handling of DRAIN during connect
- limiting pending event queue

HTTP/2 cfilter improvements.
- use LOG_CF macros for dynamic logging in debug build
- fix CURLcode on RST streams to be CURLE_PARTIAL_FILE
- enable pytest test_05 for h2
- fix upload pytests and improve parallel transfer performance.

GOAWAY handling for ngtcp2/quiche
- during connect, when the remote server refuses to accept new connections
  and closes immediately (so the local conn goes into DRAIN phase), the
  connection is torn down and a another attempt is made after a short grace
  period.
  This is the behaviour observed with nghttpx when we tell it to  shut
  down gracefully. Tested in pytest test_03_02.

TLS improvements
- ALPN selection for SSL/SSL-PROXY filters in one vtls set of functions, replaces
  copy of logic in all tls backends.
- standardized the infof logging of offered ALPNs
- ALPN negotiated: have common function for all backends that sets alpn proprty
  and connection related things based on the negotiated protocol (or lack thereof).

- new tests/tests-httpd/scorecard.py for testing h3/h2 protocol implementation.
  Invoke:
    python3 tests/tests-httpd/scorecard.py --help
  for usage.

Improvements on gathering connect statistics and socket access.
- new CF_CTRL_CONN_REPORT_STATS cfilter control for having cfilters
  report connection statistics. This is triggered when the connection
  has completely connected.
- new void Curl_pgrsTimeWas(..) method to report a timer update with
  a timestamp of when it happend. This allows for updating timers
  "later", e.g. a connect statistic after full connectivity has been
  reached.
- in case of HTTP eyeballing, the previous changes will update
  statistics only from the filter chain that "won" the eyeballing.
- new cfilter query CF_QUERY_SOCKET for retrieving the socket used
  by a filter chain.
  Added methods Curl_conn_cf_get_socket() and Curl_conn_get_socket()
  for convenient use of this query.
- Change VTLS backend to query their sub-filters for the socket when
  checks during the handshake are made.

HTTP/3 documentation on how https eyeballing works.

TLS improvements
- ALPN selection for SSL/SSL-PROXY filters in one vtls set of functions, replaces
  copy of logic in all tls backends.
- standardized the infof logging of offered ALPNs
- ALPN negotiated: have common function for all backends that sets alpn proprty
  and connection related things based on the negotiated protocol (or lack thereof).

Scorecard with Caddy.
- configure can be run with `--with-test-caddy=path` to specify which caddy to use for testing
- tests/tests-httpd/scorecard.py now measures download speeds with caddy

pytest improvements
- adding Makfile to clean gen dir
- adding nghttpx rundir creation on start
- checking httpd version 2.4.55 for test_05 cases where it is needed. Skipping with message if too old.
- catch exception when checking for caddy existance on system.

Closes #10349
61 files changed:
.github/scripts/spellcheck.words
configure.ac
docs/HTTP3.md
docs/examples/http3.c
lib/Makefile.inc
lib/cf-http.c [new file with mode: 0644]
lib/cf-http.h [new file with mode: 0644]
lib/cf-socket.c
lib/cf-socket.h
lib/cfilters.c
lib/cfilters.h
lib/connect.c
lib/connect.h
lib/curl_log.c
lib/http.c
lib/http.h
lib/http2.c
lib/http2.h
lib/http_proxy.c
lib/progress.c
lib/progress.h
lib/socks.c
lib/urldata.h
lib/vquic/curl_msh3.c
lib/vquic/curl_ngtcp2.c
lib/vquic/curl_quiche.c
lib/vquic/vquic.c
lib/vquic/vquic.h
lib/vtls/bearssl.c
lib/vtls/gskit.c
lib/vtls/gtls.c
lib/vtls/mbedtls.c
lib/vtls/nss.c
lib/vtls/openssl.c
lib/vtls/rustls.c
lib/vtls/schannel.c
lib/vtls/sectransp.c
lib/vtls/vtls.c
lib/vtls/vtls.h
lib/vtls/vtls_int.h
lib/vtls/wolfssl.c
tests/Makefile.am
tests/libtest/lib2502.c
tests/tests-httpd/Makefile.am [new file with mode: 0644]
tests/tests-httpd/config.ini.in
tests/tests-httpd/conftest.py
tests/tests-httpd/scorecard.py [new file with mode: 0644]
tests/tests-httpd/test_01_basic.py
tests/tests-httpd/test_02_download.py
tests/tests-httpd/test_03_goaway.py
tests/tests-httpd/test_04_stuttered.py
tests/tests-httpd/test_05_errors.py
tests/tests-httpd/test_06_eyeballs.py [new file with mode: 0644]
tests/tests-httpd/test_07_upload.py [new file with mode: 0644]
tests/tests-httpd/testenv/__init__.py
tests/tests-httpd/testenv/caddy.py [new file with mode: 0644]
tests/tests-httpd/testenv/curl.py
tests/tests-httpd/testenv/env.py
tests/tests-httpd/testenv/httpd.py
tests/tests-httpd/testenv/nghttpx.py
tests/unit/unit2600.c