Feature request: per-tool `eager_input_streaming` so `assistant.tool_call_delta` fires early for Anthropic models
- 主要言語
- Java
- スター
- 10.5k
- フォーク
- 1.5k
- 平均マージ
- 1日 14時間
- マージ済み PR(30日)
- 129
説明
### What
The recently added `assistant.tool_call_delta` provides access to incremental tool call deltas. For recent OpenAI models (e.g. GPT 5.5), it works as expected to send deltas smoothly *as they are generated*. However, for Anthropic models (e.g. Claude Opus 4.8), the deltas arrive as a burst because Claude buffers them. Anthropic provided the `eager_input_streaming` flag for the expected behavior: https://platform.claude.com/docs/en/agents-and-tools/tool-use/fine-grained-tool-streaming#how-to-use-fine-grained-tool-streaming. But the SDK hasn't exposed this option yet.
#### Proposed Usage Example
```js
defineTool("my_tool", {
description,
parameters,
handler,
eagerInputStreaming: true, // or a different name
});
```
### Why
Responsiveness: for tools capable of handling partial arguments, this improves responsiveness when the whole response might take many seconds - sometimes minutes - to generate.
コントリビューションガイド
調査の方向性
まず assistant.tool_call_delta のフローと、提案されている defineTool の例で使用されている per-tool definition API を追跡し、その後 Anthropic model options がどこで送信されるかを調べます。Anthropic モデルで tool-call deltas が段階的に到着するようにする per-tool eager input streaming option が公開され、既存の動作を変更しないことが完了条件です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java, javascript
- 領域
- api, backend
- issue の種類
- 機能追加
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 静か
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 62/100