Add Python 3.8 clasifier to setup.py

Merge pull request #2805 from tornadoweb/resolve-pending

iostream: Resolve pending reads on stream close

iostream: Expand comments around recent subtle changes

iostream: Add tests for behavior around close with read_until

Updates #2719

catch UnsatisfiableReadError in close

avoid premature _check_closed in _start_read

_start_read can resolve with _try_inline_read, which can succeed even if the stream has been closed
if the buffer has been populated by a prior read

preserve the fix for asserts being hit when dealing with closed sockets

iostream: resolve reads that may be completed while closing

fixes issue that a read may fail with StreamClosedError
if stream is closed mid-read

Merge pull request #2799 from tornadoweb/wintest

Improve tests on windows

asyncio: AnyThreadEventLoopPolicy should always use selectors on windows

ci: Add python 3.8 to windows CI

testing: Add level argument to ExpectLog

This makes it possible for tests to be a little more precise, and also
makes them less dependent on exactly how the test is run (runtests.py
sets the logging level to info, but when running tests directly from
an editor it may use the default of warnings-only).

CI only runs the tests with runtests.py, so this might regress, but I'm
not building anything to prevent that yet (options include running the
tests differently in CI or making ExpectLog always use a fixed log
configuration instead of picking up the current one)

test: Add hasattr check for SIGCHLD

This name is not present on all platforms

test: Add some more skips on windows

Alternate resolvers behave differently on this platform for unknown
reasons.

test: Use selector event loop on windows.

This gets most of the tests working again on windows with py38.

test: Add gitattributes for test data files

This ensures that the tests pass on Windows regardless of the user's git
CRLF settings.

Merge pull request #2783 from kinow/fix-1824

Use bcrypt's checkpw instead of == in demo blog app

use bcrypt's checkpw instead of ==

Merge pull request #2780 from bdarnell/lint-updates

lint: Update black and mypy

lint: Use newer mypy

This required some minor code changes, mainly some adjustments in tests
(which are now analyzed more thoroughly in spite of being mostly
unannotated), and some changes to placement of type:ignore comments.

lint: Upgrade to new version of black

build: Run docs and lint on py38

This requires moving some noqa comments due to 3.8's changes to the
ast module.

web: Update hashing algorithm in StaticFileHandler (#2778)

Addresses #2776.

Merge pull request #2777 from mivade/remove-speedups-py2-support

Housekeeping: Remove legacy Python support in speedups.c

Merge pull request #2779 from bdarnell/ci-fix

ci: Don't run the full test suite on python 3.5.2

ci: Don't run full test suite on python 3.5.2

Remove legacy Python support in speedups.c

Merge pull request #2772 from ploxiln/fork_doc_exit

process: correct docs of fork_processes exit behavior

process: correct docs of fork_processes exit behavior

fixes #2771

Merge pull request #2768 from bdarnell/ci-revamp

build: Revamp test/CI configuration

build: Revamp test/CI configuration

Reduce tox matrix to one env per python version, with two extra builds
for lint and docs. Delegate to tox from travis-ci.

Add 3.8 to testing. Simplify by dropping coverage reporting and
"no-deps" test runs.

Merge pull request #2767 from bdarnell/fix-lint

demos: Fix lint in webspider demo

demos: Fix lint in webspider demo

Updates #2765

Merge pull request #2765 from jvansan:master

Dead link handling in webspider example

Merge pull request #2766 from tornadoweb/pin-black

ci: Pin version of black

ci: Pin version of black

A new release of black changed the way some of our files are formatted,
so use a fixed version in CI.

Dead link handling

Added an extra set for handling dead links, and reporting.

One consequence of this is that using this script will "work" offline, but will report that some all the links were not fetched.

Merge pull request #2727 from andersk/304

Clear fewer headers on 1xx/204/304 responses

Merge pull request #2745 from remram44/re-unescape

Fix unescaping of regex routes

Merge pull request #2748 from supakeen/readme-improvements

Use HTTPS link for tornado website.

Merge pull request #2750 from jbampton/simplify-statements

Simplify chained comparisons.

Merge pull request #2755 from tornadoweb/dependabot/pip/maint/twisted-19.7.0

build(deps): bump twisted from 19.2.1 to 19.7.0 in /maint

build(deps): bump twisted from 19.2.1 to 19.7.0 in /maint

Bumps [twisted](https://github.com/twisted/twisted) from 19.2.1 to 19.7.0.
- [Release notes](https://github.com/twisted/twisted/releases)
- [Changelog](https://github.com/twisted/twisted/blob/trunk/NEWS.rst)
- [Commits](https://github.com/twisted/twisted/compare/twisted-19.2.1...twisted-19.7.0)

Signed-off-by: dependabot[bot] <support@github.com>

Merge pull request #2741 from khasanovbi/fix_head_transfer_encoding_chunked

Fix extra data sending at HEAD response with Transfer-Encoding: Chunked

Simplify chained comparison.

Use HTTPS link for tornado website.

Fix unescaping of regex routes

Previously, only the part before the first '(' would be correctly
unescaped.

Add test for unescaping with groups

Omit Transfer-Encoding header for HEAD response

Fix extra data sending at HEAD response with Transfer-Encoding: Chunked

Clear fewer headers on 1xx/204/304 responses

This function is called on more than just 304 responses; it’s
important to permit the Allow header on 204 responses.  Also, the
relevant RFCs have changed significantly.

Fixes #2726.

Signed-off-by: Anders Kaseorg <andersk@mit.edu>

Merge pull request #2723 from bluetech/perf1

httputil: A couple of small performance improvements

Merge pull request #2735 from ploxiln/body_args_bytes

parse_body_arguments: allow incomplete url-escaping

httputil.parse_body_arguments: allow incomplete url-escaping

support x-www-form-urlencoded body with values consisting of
encoded bytes which are not url-encoded into ascii
(it seems other web frameworks often support this)

add bytes qs support to escape.parse_qs_bytes,
leave str qs support for backwards compatibility

tests: replace remaining assertEquals() with assertEqual()

assertEquals() is deprecated, and python3.7/pytest can warn about it

spelling corrections

* maintainance -> maintenance

* recieving -> receiving

Merge pull request #2725 from bdarnell/ssl-win-py374

test: Disable TLS 1.3 in one test

test: Disable TLS 1.3 in one test

This test started failing on windows CI with an upgrade to python
3.7.4 (which bundles a newer version of openssl). Disable tls 1.3 for
now.

Possibly related to #2536

httputil: use compiled re patterns

This is slightly faster than using the builtin cache, e.g.:

With benchmark below (Python 3.7, Linux):

before: 0.7284867879934609
after:  0.2657967659761198

```py
import re
from time import perf_counter

line = 'HTTP/1.1'

_http_version_re = re.compile(r"^HTTP/1\.[0-9]$")

start = perf_counter()
for i in range(1000000):
    _http_version_re.match(line)
print(perf_counter() - start)

start = perf_counter()
for i in range(1000000):
    re.match(r"^HTTP/1\.[0-9]$", line)
print(perf_counter() - start)
```

httputil: cache header normalization with @lru_cache instead of hand-rolling

Tornado is now py3-only so @lru_cache is always available.

Performance is about the same. Benchmark below. Python 3.7 on Linux.

before, cached:   0.9121252089971676
before, uncached: 13.358482279989403

after, cached:    0.9175888689933345
after, uncached:  11.085199063003529

```py
from time import perf_counter

names = [f'sOMe-RanDOM-hEAdeR-{i}' for i in range(1000)]

from tornado.httputil import _normalize_header
start = perf_counter()
for i in range(10000):
    # _normalize_header.cache_clear()
    for name in names:
        _normalize_header(name)
print(perf_counter() - start)

from tornado.httputil import _NormalizedHeaderCache
start = perf_counter()
_normalized_headers = _NormalizedHeaderCache(1000)
for i in range(10000):
    # _normalized_headers = _NormalizedHeaderCache(1000)
    for name in names:
        _normalized_headers[name]
print(perf_counter() - start)
```

Merge pull request #2692 from mivade/docs-blog-example-update

Update database backend reference

Merge pull request #2715 from mivade/template-optional-autoescape-typing

Mark Template autoescape kwarg as Optional

Merge pull request #2707 from remram44/patch-1

Strip documentation about removed argument

Mark Template autoescape kwarg as Optional

Strip documentation about removed argument

Update database backend reference

Merge pull request #2687 from bdarnell/req-bump

Bump version of twisted to pick up security fix

Merge pull request #2688 from bdarnell/relnotes603

Release notes for 6.0.3

Release notes for 6.0.3

Bump version of twisted to pick up security fix

Merge pull request #2686 from bdarnell/docs-py38-windows

docs: Add notice about WindowsSelectorEventLoop on py38

docs: Add notice about WindowsSelectorEventLoop on py38

Fixes #2608

Merge pull request #2684 from bdarnell/socket-error

netutil: Ignore EADDRNOTAVAIL when binding to localhost ipv6

test: Skip test_source_port_fail when running as root

Root is always allowed to bind to low port numbers, so we can't
simulate failure in this case. This is the last remaining failure when
running tests in docker.

netutil: Ignore EADDRNOTAVAIL when binding to localhost ipv6

This happens in docker with default configurations and is generally
harmless.

Fixes #2274

*: Modernize IO error handling

Where possible, replace use of errno with the exception hierarchy
available since python 3.3. Remove explicit handling of EINTR which
has been automatic since python 3.5

Merge pull request #2683 from bdarnell/cancelledexception-py38

gen: Adapt to py38 CancelledError changes

gen: Clean up docs for with_timeout

Mark CancelledError change as 6.0.3

ci: Re-enable nightly python

Fixes #2677

locks: Remove redundant CancelledError handling

CancelledError is now always considered "quiet" (and
concurrent.futures.CancelledError is no longer the same as
asyncio.CancelledError).

Merge pull request #2681 from encukou/gen-ignore-cancel

gen.with_timeout: Don't log CancelledError after timeout

Fix ReST syntax

gen.with_timeout: Don't log CancelledError after timeout

See also: commit a237a995a1d54ad6e07c1ecdf5103ff8f45073b5

mypy: Enable no_implicit_optional

"Implicit-optional" mode is on by default, but that default is intended to change in the indefinite future (python/peps#689, python/typing#275). Go ahead and change to the future explicit use of Optional.

Merge pull request #2679 from ploxiln/curl_no_decompress

curl_httpclient: fix disabled decompress_response

tests: run test_gzip for curl_httpclient also

move simple_httpclient test_gzip to the shared httpclient tests,
to test the decompress_response option for curl_httpclient as well

curl_httpclient: fix disabled decompress_response

by setting None (NULL) instead of "none" for ENCODING

reported by Andrey Oparin <andrey@edsd.com>

iostream: check that stream is open before trying to read (#2670)

Merge pull request #2673 from ploxiln/docs_build_quickfix

docs: conflict between sphinx-2.1, sphinxcontrib-asyncio

tests: allow failure on python nightly

seems to be due to a bunch of asyncio.exceptions.CancelledError

Revert "docs: remove sphinxcontrib-asyncio"

This reverts commit 71494a4db76b3ae458e5757d741bdd1aac255640.

docs: remove sphinxcontrib-asyncio

no longer needed since Sphinx-2.1 (and effectively conflicts with it)

docs: build with sphinx < 2.1

sphinx 2.1 adds an ":async:" option for py:method:: and py:function::
and it does not seem to interact well with sphinxcontrib-asyncio

Merge pull request #2653 from bdarnell/twisted-install

twisted: Restore the install() function

Merge pull request #2654 from bdarnell/deps

Bump dependency versions, including mypy

twisted: Restore the install() function

This function had more usage than I was aware of and we can preserve
the old behavior by making it an alias for asyncioreactor.install.

Fixes #2636

deps: Bump mypy to 0.701

maint: Bump maintainer requirements.txt versions

Drop autopep8, add sphinxcontrib-asyncio

Merge pull request #2646 from m-burst/patch-1

Speedup headers parsing

Speedup headers parsing

Replace `_CRLF_RE.split(headers)` with a simple `headers.split('\n')` with an additional check for `'\r'` in each line.
Add benchmark to measure performance impact of the change.
The benchmark results are as follows:
* split only: ~3x faster on CPython, 14-18x faster on PyPy
* full headers parse: ~1.3x faster on CPython, ~3-4.5x faster on PyPy

Merge pull request #2649 from javabrett/2648-LogFormatter-CRITICAL-color

Added color for logging.CRITICAL = 5 (Magenta).