github / github/copilot-cli

Support auto-upgrading model selection when context fills (instead of compaction)

Ouverte
#3,530 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
area:context-memory area:models
Langage dominant
Shell
Étoiles
11.2k
Forks
1.9k
Merge moyen
14 h 16 min
PR mergées (30 j)
6

Description

### Describe the feature or problem you'd like to solve

Some of the models I have access to support multiple context window sizes. I want to start with the smaller context window, then upgrade to the next larger context window size for the same model type instead of compacting when the context fills up.

### Proposed solution

Add a configuration setting with similar placement to "continueOnAutoMode" - instead of triggering on rate limiting and switching to auto model, trigger on full context (which would normally compact) and switch to larger context version of same model if available, only compacting if already on the largest context available for that model.

### Example prompts or workflows

This would allow starting with a smaller context and seamlessly upgrading within the session if needed. Currently if I start with the smaller context and hit the limit, I have to manually switch then additionally prompt to attempt recovery of the context that was lost by compaction.

### Additional context

Under the premium requests model, smaller context was typically half the multiplier of larger context - I'm assuming that AI credits work similarly. If not, and larger context model scales credit usage based on the actual context used instead of the max, then this feature is unnecessary as I can just start with the larger context every time.

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

Commencez par lire la configuration continueOnAutoMode existante et le chemin context-full qui mène actuellement à la compaction. Suivez la manière dont sont représentées les variantes de plus grande taille de contexte du même type de modèle ; le travail est terminé lorsqu’un paramètre peut sélectionner la taille disponible suivante lorsque le contexte est épuisé et ne compacter qu’à la taille maximale.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
shell
Domaine
ai, cli
Type d'issue
Fonctionnalité
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
Calme
Clarté
À clarifier
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.