Add a feature that automatically waits for a model provider's rate limit to e...
- Langage dominant
- Aucune donnée de langage
- Étoiles
- 2.1k
- Forks
- 153
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
Add a feature that automatically waits for a model provider's rate limit to expire and retries the request instead of immediately failing.
---
| Field | Value |
| --- | --- |
| App version | 1.0.25 |
| OS | Windows 10.0.26200 |
| Theme | ABOLKOG |
| Path | /chat |
| Tenure | Week 2 |
Guide de contribution
Ouvrir le guide de contribution
Piste de recherche
Commencez par suivre le chemin de la requête /chat et repérez où sont gérés les échecs de rate limit du fournisseur de modèle. Déterminez comment le fournisseur communique le délai avant une nouvelle tentative et comment les nouvelles tentatives doivent affecter le flux de requête visible par l’utilisateur ; le travail est considéré comme terminé lorsque les requêtes soumises à une limitation de débit attendent puis réessaient au lieu d’échouer immédiatement, tout en conservant le comportement d’échec existant dans les autres cas.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Domaine
- api
- Type d'issue
- Fonctionnalité
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Activité
- Calme
- Clarté
- Plutôt claire
- Accessibilité débutants
- 48/100