getsentry / getsentry/sentry-python

Instrument `count_tokens` / `compute_tokens` methods

Đang mở
#5,829 1 bình luận 0 reaction 0 người được giao Xem trên GitHub
Improvement Python Spans
Ngôn ngữ chính
Python
Star
2.2k
Fork
669
Merge trung bình
1 ngày 1 giờ
Pull request đã merge (30 ngày)
213

Mô tả

## Problem

`Models.count_tokens` and `Models.compute_tokens` (and their async variants) make API calls but are not instrumented. They lack spans for latency and error monitoring.

* `count_tokens` works on both Gemini API and Vertex AI, returns `total_tokens` and `cached_content_token_count`
* `compute_tokens` is Vertex AI only, returns actual token IDs and bytes

## Files

* `sentry_sdk/integrations/google_genai/__init__.py` — `setup_once()` needs additional patches

## Acceptance Criteria

* `count_tokens` and `compute_tokens` calls produce spans
* Async variants are also instrumented
* Tests verify span creation and basic attributes

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.