github / github/app

Add a feature that automatically waits for a model provider's rate limit to e...

Đang mở
#2,146 0 bình luận 0 reaction 0 người được giao Xem trên GitHub
Ngôn ngữ chính
Không có dữ liệu ngôn ngữ
Star
2.1k
Fork
153
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

Add a feature that automatically waits for a model provider's rate limit to expire and retries the request instead of immediately failing.

---
| Field | Value |
| --- | --- |
| App version | 1.0.25 |
| OS | Windows 10.0.26200 |
| Theme | ABOLKOG |
| Path | /chat |
| Tenure | Week 2 |

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

Bắt đầu bằng cách lần theo đường đi của request /chat và xác định nơi xử lý các lỗi rate limit của model provider. Xác định provider truyền đạt thời gian trì hoãn trước khi retry như thế nào và các lần retry sẽ ảnh hưởng đến luồng request mà người dùng nhìn thấy ra sao; được coi là hoàn tất khi các request bị rate limit chờ rồi retry thay vì thất bại ngay lập tức, đồng thời vẫn giữ nguyên hành vi thất bại hiện có trong các trường hợp khác.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Lĩnh vực
api
Loại issue
Tính năng
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Ít trao đổi
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
48/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.