Add a feature that automatically waits for a model provider's rate limit to e...
- Ngôn ngữ chính
- Không có dữ liệu ngôn ngữ
- Star
- 2.1k
- Fork
- 153
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
Add a feature that automatically waits for a model provider's rate limit to expire and retries the request instead of immediately failing.
---
| Field | Value |
| --- | --- |
| App version | 1.0.25 |
| OS | Windows 10.0.26200 |
| Theme | ABOLKOG |
| Path | /chat |
| Tenure | Week 2 |
Hướng dẫn đóng góp
Hướng nghiên cứu
Bắt đầu bằng cách lần theo đường đi của request /chat và xác định nơi xử lý các lỗi rate limit của model provider. Xác định provider truyền đạt thời gian trì hoãn trước khi retry như thế nào và các lần retry sẽ ảnh hưởng đến luồng request mà người dùng nhìn thấy ra sao; được coi là hoàn tất khi các request bị rate limit chờ rồi retry thay vì thất bại ngay lập tức, đồng thời vẫn giữ nguyên hành vi thất bại hiện có trong các trường hợp khác.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Lĩnh vực
- api
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Ít trao đổi
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 48/100