GH-109190: Copyedit 3.12 What's New: PEP 684 (#109657)

GH-109190: Copyedit 3.12 What's New: bytecode (LOAD_METHOD) (#109665)

bytecode: suppress reference to removed LOAD_METHOD

gh-106584: Fix exit code for unittest in Python 3.12 (#106588)

Co-authored-by: sunmy2019 <59365878+sunmy2019@users.noreply.github.com>
Co-authored-by: Nikita Sobolev <mail@sobolevn.me>

GH-109190: Copyedit 3.12 What's New: calendar (#109662)

Co-authored-by: Hugo van Kemenade <hugovk@users.noreply.github.com>

GH-109190: Copyedit 3.12 What's New: tokenize (#109663)

 GH-109190: Copyedit 3.12 What's New: Consistently show module names (#109664)

Consistently show module names

gh-109566: Fix typo in PCbuild/rt.bat (#109701)

gh-109702: Increase concurrent_futures deadlock timeout (#109703)

Replace SHORT_TIMEOUT with LONG_TIMEOUT in test_deadlock of
test_concurrent_futures.

gh-108996: fix and enable test_msvcrt (#109226)

* Add _testconsole.flush_console_input_buffer() function.
* test_kbhit(), test_getwch() and test_getwche() now call
  flush_console_input_buffer().
* Don't override sys.stdin anymore (not needed).

gh-104469: Disallow using Py_LIMITED_API with Py_BUILD_CORE (#109690)

Fix make check-c-globals: complete USE_LIMITED_C_API list of the
c-analyzer.

gh-108948: Skip test_tarfile.test_modes() on EFTYPE error (#109697)

On FreeBSD, regular users cannot set the sticky bit. Skip the test if
chmod() fails with EFTYPE error.

gh-109582: test_fork_signal_handling should wait for event (#109605)

Sometimes the child_handled event was missing because either
the child quits before it gets a chance to handle the signal,
or the parent asserts before the event notification is
delivered via IPC.  Synchronize explicitly to avoid this.

gh-109693: Remove pycore_atomic_funcs.h (#109694)

_PyUnicode_FromId() now uses pyatomic.h functions instead.

gh-108303: Update test_fractions for new Lib/test/mathdata/ (#109686)

GH-109190: Copyedit 3.12 What's New: PEP 701 (#109655)

GH-109190: Copyedit 3.12 What's New: Improved Error Messages (#109654)

gh-108303: Move all math files to `Lib/test/mathdata/` (#109512)

GH-109190: Copyedit 3.12 What's New: Typing PEPs (#109659)

GH-109190: Copyedit 3.12 What's New: PEP 709 (#109656)

gh-74481: Add missing debug function docs and constants to msvcrt (GH-109650)

gh-109613: _pystat_fromstructstat() checks for exceptions (#109618)

Fix os.stat() and os.DirEntry.stat(): check for exceptions.
Previously, on Python built in debug mode, these functions could
trigger a fatal Python error (and abort the process) when a function
succeeded with an exception set.

_pystat_fromstructstat() now exits immediately if an exception is
raised, rather only checking for exceptions at the end. It fix
following fatal error in fill_time():

    Fatal Python error: _Py_CheckSlotResult:
    Slot * of type int succeeded with an exception set

gh-109625: Move _ready_to_import() from test_import to support.import_helper (#109626)

GH-109209: Bump the minimum Sphinx version to 4.2 (#109210)

gh-109627: duplicated smalll exit blocks need to be assigned jump target labels (#109630)

gh-109408: Move Windows builds from Azure Pipelines PR to GitHub Actions (#109569)

Fix typos in docs and comments (#109619)

gh-109390: add dump_symtable utility under #if 0 (#109391)

Co-authored-by: Jelle Zijlstra <jelle.zijlstra@gmail.com>

gh-109054: Document configure variables (#109224)

gh-108973: Fix asyncio test_subprocess_consistent_callbacks() (#109431)

SubprocessProtocol process_exited() method can be called before
pipe_data_received() and pipe_connection_lost() methods. Document it
and adapt the test for that.

Revert commit 282edd7b2a74c4dfe1bfe3c5b1d30f9c21d554d6.
_child_watcher_callback() calls immediately _process_exited(): don't
add an additional delay with call_soon(). The reverted change didn't
make _process_exited() more determistic: it can still be called
before pipe_connection_lost() for example.

Co-authored-by: Davide Rizzo <sorcio@gmail.com>

gh-109559: Update unicodedata checksums for 15.1.0. (#109597)

Update unicodedata checksums for 15.1.0.

fixes gh-109559: Update `unicodedata` for Unicode 15.1.0 (GH-109560)

---------

Co-authored-by: Benjamin Peterson <benjamin@python.org>

gh-109543: Remove unnecessary hasattr check (#109544)

Also added a new test case covering the scenario I thought this
might be about.

gh-103053: Skip test_freeze_simple_script() on PGO build (#109591)

Skip test_freeze_simple_script() of test_tools.test_freeze if Python
is built with "./configure --enable-optimizations", which means with
Profile Guided Optimization (PGO): it just makes the test too slow.
The freeze tool is tested by many other CIs with other (faster)
compiler flags.

test.pythoninfo now gets also get_build_info() of
test.libregrtests.utils.

gh-90108: Disable LTO on _freeze_module and _testembed (#109581)

LTO optimization is nice to make Python faster, but _freeze_module
and _testembed performance is not important. Using LTO to build these
two programs make a whole Python build way slower, especially
combined with a sanitizer (like ASAN).

gh-109109: Expose retrieving certificate chains in SSL module (#109113)

Adds APIs to get the TLS certificate chains, verified or full unverified, from SSLSocket and SSLObject.

Co-authored-by: Gregory P. Smith [Google LLC] <greg@krypto.org>

gh-109033: Return filename with os.utime errors (#109034)

The filename was previously intentionally omitted from exception because
"it might confuse the user". Uncaught exceptions are not generally a
replacement for user-facing error messages, so obscuring this
information only has the effect of making the programmer's life more
difficult.

gh-76785: Use Pending Calls When Releasing Cross-Interpreter Data (gh-109556)

This fixes some crashes in the _xxinterpchannels module, due to a race between interpreters.

gh-109580: Skip test_perf_profiler on ASAN build (#109584)

Skip test_perf_profiler if Python is built with ASAN, MSAN or UBSAN
sanitizer. Python does crash randomly in this test on such build.

gh-108724: Fix _PySemaphore compile error on WASM (gh-109583)

Some WASM platforms have POSIX semaphores, but not sem_timedwait.

gh-108724: Add PyMutex and _PyParkingLot APIs (gh-109344)

PyMutex is a one byte lock with fast, inlineable lock and unlock functions for the common uncontended case.  The design is based on WebKit's WTF::Lock.

PyMutex is built using the _PyParkingLot APIs, which provides a cross-platform futex-like API (based on WebKit's WTF::ParkingLot).  This internal API will be used for building other synchronization primitives used to implement PEP 703, such as one-time initialization and events.

This also includes tests and a mini benchmark in Tools/lockbench/lockbench.py to compare with the existing PyThread_type_lock.

Uncontended acquisition + release:
* Linux (x86-64): PyMutex: 11 ns, PyThread_type_lock: 44 ns
* macOS (arm64): PyMutex: 13 ns, PyThread_type_lock: 18 ns
* Windows (x86-64): PyMutex: 13 ns, PyThread_type_lock: 38 ns

PR Overview:

The primary purpose of this PR is to implement PyMutex, but there are a number of support pieces (described below).

* PyMutex:  A 1-byte lock that doesn't require memory allocation to initialize and is generally faster than the existing PyThread_type_lock.  The API is internal only for now.
* _PyParking_Lot:  A futex-like API based on the API of the same name in WebKit.  Used to implement PyMutex.
* _PyRawMutex:  A word sized lock used to implement _PyParking_Lot.
* PyEvent:  A one time event.  This was used a bunch in the "nogil" fork and is useful for testing the PyMutex implementation, so I've included it as part of the PR.
* pycore_llist.h:  Defines common operations on doubly-linked list.  Not strictly necessary (could do the list operations manually), but they come up frequently in the "nogil" fork. ( Similar to https://man.freebsd.org/cgi/man.cgi?queue)

---------

Co-authored-by: Eric Snow <ericsnowcurrently@gmail.com>

gh-109496: Skip test_capi.test_decref_freed_object() on ASAN (#109573)

Skip test_decref_freed_object() of test_capi.test_misc if Python is
built with ASAN, MSAN or UBSAN sanitizers.

gh-109566: Run GHA and buildbot tests with --fail-rerun (#109567)

Misc itertool recipe improvements, mostly docstrings and comments (gh-109555)

gh-109485: Further improve `test_future_stmt` tests (#109486)

Add assertSyntaxError() which run tests with an additional docstring
and without docstring, and checks for the error message.

gh-109435: Add Doc/library/cmdline.rst (#109436)

Document modules providing a command-line interface (CLI).

no-issue: Fix typo TestContentTyopeHeader to TestContentTypeHeader (gh-109069)

gh-109125: Run mypy on `Tools/wasm` (#109126)

gh-109469: Silence compiler warnings on string comparisons in _testcapi (GH-109533)

gh-109546: Add more tests for formatting floats and fractions (GH-109548)

Fix error handling in _PySys_UpdateConfig() (GH-109524)

gh-102757: fix function signature mismatch for `functools.reduce` between code and documentation (#102759)

gh-109496: Detect Py_DECREF() after dealloc in debug mode (#109539)

On a Python built in debug mode, Py_DECREF() now calls
_Py_NegativeRefcount() if the object is a dangling pointer to
deallocated memory: memory filled with 0xDD "dead byte" by the debug
hook on memory allocators. The fix is to check the reference count
*before* checking for _Py_IsImmortal().

Add test_decref_freed_object() to test_capi.test_misc.

gh-109508: Fix libregrtest formatting of getcwd() (#109537)

gh-109371: Fix monitoring with instruction events set (gh-109385)

gh-108843: fix ast.unparse for f-string with many quotes (#108981)

gh-108303: Fix and move `badsyntax_pep3120.py` (#109513)

Co-authored-by: Alex Waygood <Alex.Waygood@Gmail.com>

gh-109408: Azure Pipelines: test 3.12 branch (#109453)

Docs: getopt is deprecated in Python 3.13 (#109438)

Fix a typo in c-analyzer (#109213)

Co-authored-by: sunmy2019 <59365878+sunmy2019@users.noreply.github.com>
Co-authored-by: Dale Collison <92315623+dcollison@users.noreply.github.com>

Fix extraneous backslashes in hashlib docs (#109468)

gh-109413: Improve mypy config for libregrtest (#109518)

Improve the mypy config file for libregrtest

gh-109408: Remove Ubuntu unit tests from Azure Pipelines (#109452)

gh-108511: Add C API functions which do not silently ignore errors (GH-109025)

Add the following functions:

* PyObject_HasAttrWithError()
* PyObject_HasAttrStringWithError()
* PyMapping_HasKeyWithError()
* PyMapping_HasKeyStringWithError()

gh-108303: Move all certificates to `Lib/test/certdata/` (#109489)

gh-109451: Fix wrong format specifier in logging documentation (GH-109465)

gh-109414: Add some basic information about venvs in the introduction. (GH-109440)

Co-authored-by: Victor Stinner <vstinner@python.org>

gh-109474: Update two Unix packaging URLs  (#109307)

update packaging URLs

fix a broken URL for fedora RPM packaging guide and fix a URL redirect for Slackware packaging guide.

GH-83417: Allow `venv` to add a `.gitignore` file to environments via a new `scm_ignore_file` parameter (GH-108125)

This feature is off by default via code but on by default via the CLI. The `.gitignore` file contains `*` which causes the entire directory to be ignored.

Co-authored-by: Adam Turner <9087854+AA-Turner@users.noreply.github.com>
Co-authored-by: Hugo van Kemenade <hugovk@users.noreply.github.com>

gh-106213: Make Emscripten trampolines work with JSPI (GH-106219)

There is a WIP proposal to enable webassembly stack switching which have been
implemented in v8:

https://github.com/WebAssembly/js-promise-integration

It is not possible to switch stacks that contain JS frames so the Emscripten JS
trampolines that allow calling functions with the wrong number of arguments
don't work in this case. However, the js-promise-integration proposal requires
the [type reflection for Wasm/JS API](https://github.com/WebAssembly/js-types)
proposal, which allows us to actually count the number of arguments a function
expects.

For better compatibility with stack switching, this PR checks if type reflection
is available, and if so we use a switch block to decide the appropriate
signature. If type reflection is unavailable, we should use the current EMJS
trampoline.

We cache the function argument counts since when I didn't cache them performance
was negatively affected.

Co-authored-by: T. Wouters <thomas@python.org>
Co-authored-by: Brett Cannon <brett@python.org>

gh-109096: Deprecate `http.server.CGIHTTPRequestHandler` (#109387)

Deprecate `http.server.CGIHTTPRequestHandler`.

Co-authored-by: Jelle Zijlstra <jelle.zijlstra@gmail.com>

GH-109373: Store metadata required for pystats comparison in the JSON (GH-109374)

gh-109350: Fix outdated captured output in unittest.mock documentation (#109353)

gh-109413: Fix some trivial mypy nitpicks in libregrtest (#109454)

gh-91960: Disable Cirrus CI for now (#109457)

Python is out of free credit and so all jobs are reported as failure.

Rename .cirrus.yml to .cirrus-DISABLED.yml to disable the job.

gh-109287: Desugar inst(X) to op(X); macro(X) = X (#109294)

This makes the internal representation in the code generator simpler: there's a list of ops, and a list of macros, and there's no special-casing needed for ops that aren't macros. (There's now special-casing for ops that are also macros, but that's simpler.)

Add missing `PyDoc_STR` calls (#109393)

In files:

* Modules/_ctypes/cfield.c
* Modules/_struct.c
* Objects/dictobject.c
* Objects/typevarobject.c
* Objects/unionobject.c

Fix date.__repr__() docstring (#109422)

Docs: Superseded modules: list only module names (#109439)

gh-109395: Remove skipped macOS builds from Azure Pipelines (#109400)

gh-108303: Move `test_future` into its own test_future_stmt subdir (#109368)

gh-109395: Remove skipped coverage job from Azure Pipelines (#109412)

gh-109425: regrtest decodes worker stdout with backslashreplace (#109428)

libregrtest now decodes stdout of test worker processes with the
"backslashreplace" error handler to log corrupted stdout, instead of
failing with an error and not logging the stdout.

gh-109375: Fix bug where pdb registers an alias without an associated command (#109376)

gh-109396: Fix test_socket.test_hmac_sha1() in FIPS mode (#109423)

Use a longer key: FIPS mode requires at least of at least 112 bits.
The previous key was only 32 bits.

gh-109418: Fix hypothesis strategy for b2a_roundtrip test (#109419)

gh-109413: libregrtest: Add and improve type annotations (#109405)

gh-101100: Fix sphinx warnings in `turtle.rst` (#109394)

gh-109219: propagate free vars through type param scopes (#109377)

Co-authored-by: Jelle Zijlstra <jelle.zijlstra@gmail.com>

gh-105658: fix excess trace events for except block ending with a conditional block (#109384)

dump readable opcode names in flowgraph debug utility (#109392)

Co-authored-by: Irit Katriel <1055913+iritkatriel@users.noreply.github.com>

gh-109402: Fix regrtest findtests() (#109403)

Check for the full module name in SPLITTESTDIRS, not the relative
module name.

gh-107298: Document PyMODINIT_FUNC macro (#109236)

Document PyMODINIT_FUNC macro.

Remove links to PyAPI_FUNC() and PyAPI_DATA() macros since they are
not documented. These macros should only be used to define the Python
C API. They should not be used outside Python code base.

gh-107782: Use _testcapi to test non-representable signatures (GH-109325)

Builtin functions and methods that have non-representable signatures today
will have representable signatures yesterday, and they will become unusable
for testing this feature.

So we need to add special functions and methods to the _testcapi module
that always have non-representable signatures.

Add missing PyDoc_STR to GenericAlias.__parameters__ (#108811)

Fix invocation of wasm_build.py for node (GH-109383)

GH-104584: Don't call executors from JUMP_BACKWARD (GH-109347)

GH-105848: Replace KW_NAMES + CALL with LOAD_CONST + CALL_KW (GH-109300)

gh-109341: Fix crash on compiling invalid AST including TypeAlias (#109349)

gh-109351: Fix crash when compiling AST with invalid NamedExpr (#109352)

gh-109156: Add tests for de-instrumenting instructions with instrumented lines (GH-109157)