getsentry / getsentry/sentry-python

Add instrumentation for Batch API

Đang mở
#5,814 1 bình luận 0 reaction 0 người được giao Xem trên GitHub
Improvement Python Spans
Ngôn ngữ chính
Python
Star
2.2k
Fork
669
Merge trung bình
1 ngày 40 phút
Pull request đã merge (30 ngày)
212

Mô tả

The OpenAI integration does not instrument the Batch API. Batch API usage is growing for cost-optimized bulk inference.

**Endpoints to instrument:**

* `openai.resources.Batches.create()` (sync + async)
* `openai.resources.Batches.retrieve()` (sync + async)
* `openai.resources.Batches.list()` (sync + async)
* `openai.resources.Batches.cancel()` (sync + async)

**Attributes to capture:**

* Batch ID
* Target endpoint (e.g. `/v1/chat/completions`)
* Batch status (validating, in_progress, completed, failed, etc.)
* Token usage from completed batches (input, output, total)
* Request/completion counts
* Follow OTel GenAI semantic conventions for span naming and attributes

**Reference:** [OpenAI integration compliance review](<../openai-integration-compliance-review.md>), Section 6

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.