bpo-45001: Make email date parsing more robust against malformed input (GH-27946)

Various date parsing utilities in the email module, such as
email.utils.parsedate(), are supposed to gracefully handle invalid
input, typically by raising an appropriate exception or by returning
None.

The internal email._parseaddr._parsedate_tz() helper used by some of
these date parsing routines tries to be robust against malformed input,
but unfortunately it can still crash ungracefully when a non-empty but
whitespace-only input is passed. This manifests as an unexpected
IndexError.

In practice, this can happen when parsing an email with only a newline
inside a ‘Date:’ header, which unfortunately happens occasionally in the
real world.

Here's a minimal example:

    $ python
    Python 3.9.6 (default, Jun 30 2021, 10:22:16)
    [GCC 11.1.0] on linux
    Type "help", "copyright", "credits" or "license" for more information.
    >>> import email.utils
    >>> email.utils.parsedate('foo')
    >>> email.utils.parsedate(' ')
    Traceback (most recent call last):
      File "<stdin>", line 1, in <module>
      File "/usr/lib/python3.9/email/_parseaddr.py", line 176, in parsedate
        t = parsedate_tz(data)
      File "/usr/lib/python3.9/email/_parseaddr.py", line 50, in parsedate_tz
        res = _parsedate_tz(data)
      File "/usr/lib/python3.9/email/_parseaddr.py", line 72, in _parsedate_tz
        if data[0].endswith(',') or data[0].lower() in _daynames:
    IndexError: list index out of range

The fix is rather straight-forward: guard against empty lists, after
splitting on whitespace, but before accessing the first element.

bpo-45011: Fix test_asyncio without C module _asyncio (GH-27968)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-44967: pydoc: return non-zero exit code when query is not found (GH-27868)

bpo-42238: [doc] Some more make suspicious false positives. (GH-27945)

bpo-45003: Change __div__ to __truediv__ in py3 language reference. (GH-27951)

bpo-45000: Update whatsnews about deleting __debug__ (GH-27956)

bpo-43853: Amend NEWS entry for latest changes in sqlite3 (GH-27922)

bpo-44524: Don't modify MRO when inheriting from typing.Annotated (GH-27841)

bpo-45000: Raise SyntaxError when try to delete __debug__ (GH-27947)

Automerge-Triggered-By: GH:pablogsal

bpo-44929: [Enum] Fix global repr (GH-27789)

* Fix typo in __repr__ code

* Add more tests for global int flag reprs

* use last module if multi-module string
  - when an enum's `__module__` contains several module names, only
     use the last one

Co-authored-by: Łukasz Langa <lukasz@langa.pl>
Co-authored-by: Ethan Furman <ethan@stoneleaf.us>

bpo-27334: Fix reference leak introduced by GH-26202 (GH-27942)

bpo-44946: Streamline operators and creation of ints for common case of single 'digit'. (GH-27832)

bpo-44990: Change layout of evaluation frames. "Layout B" (GH-27933)

Places the locals between the specials and stack. This is the more "natural" layout for a C struct, makes the code simpler and gives a slight speedup (~1%)

Format the Python-tokenize module and fix exit path (GH-27935)

bpo-37596: Make `set` and `frozenset` marshalling deterministic (GH-27926)

bpo-27334: roll back transaction if sqlite3 context manager fails to commit (GH-26202)

Co-authored-by: Luca Citi
Co-authored-by: Berker Peksag <berker.peksag@gmail.com>

bpo-44976: Lazy creation of sqlite3 result rows (GH-27884)

bpo-39452: Rewrite and expand __main__.rst (#26883)

Broadened scope of the document to explicitly discuss and differentiate between ``__main__.py`` in packages versus the ``__name__ == '__main__'`` expression (and the idioms that surround it), as well as ``import __main__``.

Co-authored-by: Géry Ogam <gery.ogam@gmail.com>
Co-authored-by: Éric Araujo <merwok@netwok.org>
Co-authored-by: Łukasz Langa <lukasz@langa.pl>

Add tests for the C tokenizer and expose it as a private module (GH-27924)

bpo-42064: Pass module state to `sqlite3` UDF callbacks (GH-27456)

- Establish common callback context struct
- Convert UDF callbacks to fetch module state from callback context

bpo-43826: Fix resource warning due to unclosed objects. (GH-25381)

bpo-34990: Treat the pyc header's mtime in compileall as an unsigned int (GH-19708)

Co-authored-by: Stéphane Wirtel <stephane@wirtel.be>

bpo-44690: Adopt binacii.a2b_base64's strict mode in base64.b64decode (GH-27272)

* Use binascii.a2b_base64 to validate b64decode input.
   This change leads to exception messages changes (mostly).
* Added more information to docstring of b64decode
* Added a reference to binascii.a2b_base64 in the docs

bpo-42560: simplify/merge architecture info in Tkinter docs (GH-27839)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>
Co-authored-by: E-Paine <63801254+E-Paine@users.noreply.github.com>

[doc] Fix typo c-api/exceptions.rst (GH-27847)

Co-authored-by: Tianqing Peng <pengtianqing@yimian.com.cn>

[doc] Added mailing list link for comp.lang.python (GH-27852)

bpo-42560: add warning to Tkinter docs about outdated pre-8.5 documentation online (GH-27836)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>
Co-authored-by: E-Paine <63801254+E-Paine@users.noreply.github.com>

bpo-44980: fix test_constructor to return None value (GH-27898)

bpo-42560: rewrite of Tkinter docs "life preserver" (GH-27842)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-44984: Rewrite test_null_strings in _testcapi (GH-27904)

Test also PyObject_Repr(NULL) and PyObject_Bytes(NULL).

bpo-38291: Update 3.10 WhatsNew with typing.{io|re} DeprecationWarning (GH-27872)

[doc] Fix typo in idle.rst (GH-27903)

intially -> initially

Fix bytes.__bytes__ to not truncate at a zero byte (GH-27902)

bpo-24234: Implement bytes.__bytes__ (GH-27901)

bpo-24234: implement complex.__complex__ (GH-27887)

Co-authored-by: Dong-hee Na <donghee.na92@gmail.com>

bpo-4442:  Document use of __new__ for subclasses of immutable types (GH-27866)

bpo-44957: Promote PEP 604 syntax in typing docs (GH-27833)

* Use "X | Y" instead of "Union" where it makes sense.
* Mention that "X | Y" is equivalent to "Union[X, Y]" in Union section.
* Remove "Optional[X]" as shorthand for "Union[X, None]" as the new
  shorthand is now "X | None".
* Mention that "Optional[X]" can be written as "X | None" in section
  about "Optional".

Co-authored-by: Ken Jin <28750310+Fidget-Spinner@users.noreply.github.com>

 bpo-42560: reorganize Tkinter docs modules section for clarity (GH-27840)

- move description of internal modules (_tkinter and tkinter.constants) from section intro to list of additional modules at end of section, as not most important info
- added missing ttk and tix here
- emphasized up front that most apps will need tkinter and ttk

bpo-42560: tweaks to intro of Tkinter docs- add macOS, drop ActiveState (GH-27835)

bpo-42560: rework external references in Tkinter docs (GH-27838)

- reorganized from two sections (tkinter vs. tcl/tk) into three (tkinter, tcl/tk, and books)
- main (recommended) tkinter docs have one tutorial (tkdocs) and one reference (shipman), added better descriptions
- dropped link to Tkinter page on wiki (suggestion by E. Paine; outdated, most material already linked to from python.org)
- replaced Tcl/Tk recent man pages and core dev home with single link to main Tcl/Tk page (which holds both of these)
- updated Modern Tkinter link to book page on TkDocs site (was Amazon link to old version), dropped description
- replaced Grayson book by Moore book (newer, covers ttk)
- changed Ousterhout ref to second edition, covers ttk
- dropped link to Welch book (old)

bpo-41322: Add unit tests for deprecation of test return values (GH-27846)

Also fix the traceback of warnings.

Remove unused UNKNOWN macros from cursor.h and prepare_protocol.h (GH-27885)

bpo-44978: allow Argument Clinic to handle __complex__ special methods (GH-27886)

bpo-44955: Always call stopTestRun() for implicitly created TestResult objects (GH-27831)

Method stopTestRun() is now always called in pair with method startTestRun()
for TestResult objects implicitly created in TestCase.run().
Previously it was not called for test methods and classes decorated with
a skipping decorator.

bpo-44940: Clarify the documentation of re.findall() (GH-27849)

Co-authored-by: Ken Jin <28750310+Fidget-Spinner@users.noreply.github.com>
Co-authored-by: Vedran Čačić <vedgar+github@gmail.com>

bpo-44968: Fix test_subprocess_wait_no_same_group in test_asyncio (GH-27870)

The code of the test was never executed because the test function
was unintentionally converted to a generator function.

bpo-44966: Fix out-of-date traceback message (GH-27867)

bpo-44965: Early exit for non-DML statements in sqlite3.Cursor.executemany() (GH-27865)

bpo-44524: Do not set _name of _SpecialForm without need (GH-27861)

Because setting non-empty _name affects behavior of other code.

In most cases __name__ can be derived from __origin__.__name__.

bpo-44926: `get_type_hints`: Add note about type aliases with forward refs (#27859)

bpo-44960: add regression test for geometric_mean with mixed int/floa… (#27856)

Co-authored-by: Mark Dickinson <dickinsm@gmail.com>

bpo-44954: Fix wrong result in float.fromhex corner case (GH-27834)

Fix reST markup in dataclasses.rst (GH-27843)

The signature of field() had an extraneous colon at the end, causing it
to appear all bold and without the module name.

bpo-41322: added deprecation warning for tests returning value!=None (GH-27748)

bpo-36384: [doc] Mention CVE-2021-29921 fix in 3.8.12 (GH-27824)

bpo-44830: [doc] Restore missing Mozilla devguide link (GH-27818)

bpo-44079: Strip superfluous statement cache from sqlite3.Connection (GH-25998)

bpo-44947: Refine the syntax error for trailing commas in import statements (GH-27814)

bpo-44874: deprecate Py_TRASHCAN_SAFE_BEGIN and Py_TRASHCAN_SAFE_END (GH-27693)

Co-authored-by: Victor Stinner <vstinner@python.org>
Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-44524: Fix cryptic TypeError message when trying to subclass special forms in `typing` (GH-27710)

This was a Python 3.9 regression.

bpo-44949: Fix test_readline auto history tests (#27813)

bpo-44852: Support filtering over warnings without a set message (GH-27793)

Additional improvements:

- messages which were compiled regular expressions aren't unpacked back into
  strings for unmatched warnings;

- removed unnecessary "if tokens:" check (there's one before the for loop);

- took `endswith` calculation out of the for loop.

bpo-44508: [Doc] Document failure mode for loop.call_soon_threadsafe (GH-27688)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

introduce omitted index default before using it (GH-27775)

bpo-44935: enable posix_spawn() on Solaris (GH-27795)

Enable posix_spawn() on Solaris

bpo-44698: Restore complex pow behaviour for small integral exponents (GH-27772)

bpo-44895: Introduce PYTHONDUMPREFSFILE variable for refcount dumping (GH-27767)

bpo-44889: Specialize LOAD_METHOD with PEP 659 adaptive interpreter (GH-27722)

Adds four new instructions:

* LOAD_METHOD_ADAPTIVE
* LOAD_METHOD_CACHED
* LOAD_METHOD_MODULE
* LOAD_METHOD_CLASS

bpo-42035: Enhance test_get_type_name() of _testcapi (GH-27649)

bpo-42035: Add PyType_GetQualName() to get a type's qualified name. (GH-27551)

bpo-44903: Removed othergui.rst and list of GUI frameworks (GH-27762)

bpo-38956: don't print BooleanOptionalAction's default twice (GH-27672)

Co-authored-by: Micky Yun Chan <michan@redhat.com>

bpo-44914: Add tests for some invariants of tp_version_tag (GH-27774)

Fix a SystemError in code.replace() (#27771)

While the comment said 'We don't bother resizing localspluskinds',
this would cause .replace() to crash when it happened.
(Also types.CodeType(), but testing that is tedious, and this tests all
code paths.)

bpo-44852: Support ignoring specific DeprecationWarnings wholesale in regrtest (GH-27634)

bpo-44900: Add five superinstructions. (GH-27741)

* LOAD_FAST LOAD_FAST
* STORE_FAST LOAD_FAST
* LOAD_FAST LOAD_CONST
* LOAD_CONST LOAD_FAST
* STORE_FAST STORE_FAST

bpo-44914: Maintain invariants of type version tags. (GH-27773)

* Do not invalidate type versions unnecessarily.

bpo-44895: skip test_no_hang_on_context_chain_cycle2 until the refleak is fixed (GH-27761)

bpo-44911: Fixed IsolatedAsyncioTestCase from throwing an exception on leaked tasks (GH-27765)

bpo-16580: [doc] Add examples to int.to_bytes and int.from_bytes (GH-27760)

* added code equivs. for to_bytes and from_bytes

Based on woparry's patch[1] from the relevant issue thread[2].

[1]: https://bugs.python.org/file30372/issue16580.patch
[2]: https://bugs.python.org/issue16580

Co-authored-by: Mark Dickinson <dickinsm@gmail.com>

bpo-44907: Update error messages in tutorial examples (GH-27755)

bpo-30077: Add support for Apple aifc/sowt pseudo-compression (GH-24449)

Co-authored-by: Toby Thurston <thurston@eml.cc>

bpo-36700: [doc] Update base64 RFC references to RFC 4648 (GH-27700)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-26228: [doc] Adapt PTY documentation updates from GH-4167 (GH-27754)

Co-authored-by: Cornelius Diekmann <c.diekmann@googlemail.com>

Added test case based on recommended test cases from RFC 4648 (GH-27747)

bpo-44891: Tests `id` preserving on `* 1` for `str` and `bytes` (GH-27745)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-44895: Temporarily add an extra gc.collect() call (GH-27746)

This is part of an investigation of a non-deterministic reference leak. While we're looking for the root cause, this is included temporarily so that CI doesn't fail on this particular issue. This enables it to find other regressions in the meantime, which would otherwise be shadowed by our known issue.

bpo-43392: Optimize repeated calls to `__import__()` (GH-24735)

Implements a two steps check in `importlib._bootstrap._find_and_load()` to avoid locking when the module has been already imported and it's ready.

---

Using `importlib.__import__()`, after this, does show a big difference:

Before:
```
$ ./python -c 'import timeit; print(timeit.timeit("__import__(\"timeit\")", setup="from importlib import __import__"))'
15.92248619502061
```

After:
```
$ ./python -c 'import timeit; print(timeit.timeit("__import__(\"timeit\")", setup="from importlib import __import__"))'
1.206068897008663
```

---

Update pegen to use the latest upstream developments (GH-27586)

bpo-44885: Correct the ast locations of f-strings with format specs and repeated expressions (GH-27729)

bpo-44890: Fix AMD build error (GH-27740)

bpo-44890: collect specialization stats if Py_DEBUG (GH-27731)

bpo-44878: Remove loop from interpreter. All dispatching is done by gotos. (GH-27727)

bpo-33930: Fix typo in the test name. (#27733)

bpo-33930: Fix typo in the test name. (GH-27733)

bpo-26228: Fix pty EOF handling (GH-12049)

On non-Linux POSIX platforms, like FreeBSD or macOS,
the FD used to read a forked PTY may signal its exit not
by raising an error but by sending empty data to the read
syscall. This case wasn't handled, leading to hanging
`pty.spawn` calls.

Co-authored-by: Reilly Tucker Siemens <reilly@tuckersiemens.com>
Co-authored-by: Łukasz Langa <lukasz@langa.pl>

Update test__opcode and _Py_GetSpecializationStats with recent specialization stat changes (GH-27728)

bpo-33479: Add architecture and threading model sections to Tkinter module docs (GH-27717)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>

bpo-44878: Remove the switch from the main interpreter loop when using computed gotos. (GH-27726)

* Refactor dispatch logic to make flow of control clearer. Moves lltrace and dxprofile instrumentation into DISPATCH macro.

* Remove switch in interpreter loop when using computed gotos. There is no need for two nearly-duplicate dispatch tables.

bpo-44878:  _PyEval_EvalFrameDefault readability improvements (GH-27725)

* Move a few variable declarations to point of definition.

* Factor out tracing of function entry into helper function.

Add .DS_Store on ignore (GH-27711)

Co-authored-by: Łukasz Langa <lukasz@langa.pl>