python / python/cpython

Reduce overhead of PyErr_CheckSignals

オープン
#157,746 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

interpreter-core performance type-feature
主要言語
Python
スター
77.2k
フォーク
35.9k
PR マージ指標
PR 指標を取得中

説明

Feature or enhancement

Proposal:

PyErr_CheckSignals() is the API long-running C loops use to stay interruptible. In the common case (no signal arrived) the call currently does, in order:

  1. _PyRunRemoteDebugger() (since gh-131591, 3.14): a call that fetches the interpreter config via _PyInterpreterState_GetConfig() before looking at the pending flag;
  2. _Py_ThreadCanHandleSignals(): _Py_IsMainThread() calls PyThread_get_thread_ident() and therefore pthread_self(), plus _Py_IsMainInterpreter();
  3. only then _PyErr_CheckSignalsTstate(), whose first line is the cheap is_tripped test that returns immediately.

That is about 100 instructions per call.

Proposal

Test the cheap flags first, without changing what is done when they are set:

  • _PyErr_CheckSignalsTstate() does the main-thread check itself, after its existing is_tripped test, so PyErr_CheckSignals() and the eval loop just call it; the handler-running body moves to an out-of-line helper so the early return stays cheap;
  • _PyRunRemoteDebugger() tests debugger_pending_call before fetching the config.
Results

Non-PGO build, pyperf:

Benchmark main branch
str(12345) 68.6 ns 56.8 ns: 1.21x faster
repr(list(range(100))) 3.06 us 2.36 us: 1.29x faster
', '.join(map(str, range(100))) 6.90 us 5.67 us: 1.22x faster
'%s=%r' % (k, v) 192 ns 177 ns: 1.08x faster
print(*range(100), file=f) 15.6 us 13.5 us: 1.16x faster
csv.writer: 100 rows of 10 ints 72.5 us 60.1 us: 1.21x faster
repr(dataclass with 5 fields) 805 ns 720 ns: 1.12x faster
a * b (10 x 10 digits) 159 ns 102 ns: 1.56x faster
a // c (10 // 2 digits) 151 ns 121 ns: 1.24x faster

Notes: the gain for the arithmetic cases are not too important, they can be handled directly as well. See https://github.com/python/cpython/issues/157742.

Has this already been discussed elsewhere?

Related: gh-131591, gh-133465

Has this already been discussed elsewhere?

No response given

Links to previous discussion of this feature:

No response

Linked PRs
  • gh-157748

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

まず PyErr_CheckSignals()、_PyErr_CheckSignalsTstate()、_PyRunRemoteDebugger() を読み、低コストなフラグチェックとシグナル処理の、記載された順序に注目してください。提案された動作とベンチマークを、リンクされた PR gh-157748 と比較してください。フラグが設定されている場合の動作を変更せずに、シグナルなしのパスがより低コストになれば Issue は完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
c, python
領域
performance
issue の種類
機能追加
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
明確に書かれている
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。