]> git.ipfire.org Git - thirdparty/Python/cpython.git/commit
gh-108834: regrtest reruns failed tests in subprocesses (#108839)
authorVictor Stinner <vstinner@python.org>
Sun, 3 Sep 2023 21:37:15 +0000 (23:37 +0200)
committerGitHub <noreply@github.com>
Sun, 3 Sep 2023 21:37:15 +0000 (21:37 +0000)
commit31c2945f143c6b80c837fcf09a5cfb85fea9ea4c
treedf9d2918e92b8167db4bf66fe04c923d487e0977
parentc2ec174d243da5d2607dbf06c4451d0093ac40ba
gh-108834: regrtest reruns failed tests in subprocesses (#108839)

When using --rerun option, regrtest now re-runs failed tests
in verbose mode in fresh worker processes to have more
deterministic behavior. So it can write its final report even
if a test killed a worker progress.

Add --fail-rerun option to regrtest: exit with non-zero exit code
if a test failed pass passed when re-run in verbose mode (in a
fresh process). That's now more useful since tests can pass
when re-run in a fresh worker progress, whereas they failed
when run after other tests when tests are run sequentially.

Rename --verbose2 option (-w) to --rerun. Keep --verbose2 as a
deprecated alias.

Changes:

* Fix and enhance statistics in regrtest summary. Add "(filtered)"
  when --match and/or --ignore options are used.
* Add RunTests class.
* Add TestResult.get_rerun_match_tests() method
* Rewrite code to serialize/deserialize worker arguments as JSON
  using a new WorkerJob class.
* Fix stats when a test is run with --forever --rerun.
* If failed test names cannot be parsed, log a warning and don't
  filter tests.
* test_regrtest.test_rerun_success() now uses a marker file, since
  the test is re-run in a separated process.
* Add tests on normalize_test_name() function.
* Add test_success() and test_skip() tests to test_regrtest.
12 files changed:
Lib/test/bisect_cmd.py
Lib/test/libregrtest/cmdline.py
Lib/test/libregrtest/main.py
Lib/test/libregrtest/runtest.py
Lib/test/libregrtest/runtest_mp.py
Lib/test/libregrtest/utils.py
Lib/test/support/__init__.py
Lib/test/support/testresult.py
Lib/test/test_regrtest.py
Misc/NEWS.d/next/Tests/2023-09-03-02-01-55.gh-issue-108834.iAwXzj.rst [new file with mode: 0644]
Misc/NEWS.d/next/Tests/2023-09-03-06-17-12.gh-issue-108834.fjV-CJ.rst [new file with mode: 0644]
Misc/NEWS.d/next/Tests/2023-09-03-20-15-49.gh-issue-108834.Osvmhf.rst [new file with mode: 0644]