Feature request: per-tool `eager_input_streaming` so `assistant.tool_call_delta` fires early for Anthropic models
- Lenguaje dominante
- Java
- Estrellas
- 10.5k
- Forks
- 1.5k
- Merge medio
- 1 d 14 h
- PR fusionados (30 d)
- 129
Descripción
### What
The recently added `assistant.tool_call_delta` provides access to incremental tool call deltas. For recent OpenAI models (e.g. GPT 5.5), it works as expected to send deltas smoothly *as they are generated*. However, for Anthropic models (e.g. Claude Opus 4.8), the deltas arrive as a burst because Claude buffers them. Anthropic provided the `eager_input_streaming` flag for the expected behavior: https://platform.claude.com/docs/en/agents-and-tools/tool-use/fine-grained-tool-streaming#how-to-use-fine-grained-tool-streaming. But the SDK hasn't exposed this option yet.
#### Proposed Usage Example
```js
defineTool("my_tool", {
description,
parameters,
handler,
eagerInputStreaming: true, // or a different name
});
```
### Why
Responsiveness: for tools capable of handling partial arguments, this improves responsiveness when the whole response might take many seconds - sometimes minutes - to generate.
Guía de contribución
Línea de trabajo
Comienza rastreando el flujo de assistant.tool_call_delta y la API de definición por herramienta utilizada por el ejemplo propuesto de defineTool; después, inspecciona dónde se envían las opciones del modelo de Anthropic. Se considera terminado cuando se expone una opción de eager input streaming por herramienta y hace que los tool-call deltas lleguen incrementalmente para los modelos de Anthropic sin cambiar el comportamiento existente.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- java, javascript
- Área
- api, backend
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Tranquilo
- Claridad
- Bastante claro
- Aptitud para principiantes
- 62/100