github / github/copilot-cli

Support auto-upgrading model selection when context fills (instead of compaction)

Aperta
#3,530 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
area:context-memory area:models
Lingua principale
Shell
Stelle
11.2k
Fork
1.9k
Merge medio
14h 16m
PR unite (30g)
6

Descrizione

### Describe the feature or problem you'd like to solve

Some of the models I have access to support multiple context window sizes. I want to start with the smaller context window, then upgrade to the next larger context window size for the same model type instead of compacting when the context fills up.

### Proposed solution

Add a configuration setting with similar placement to "continueOnAutoMode" - instead of triggering on rate limiting and switching to auto model, trigger on full context (which would normally compact) and switch to larger context version of same model if available, only compacting if already on the largest context available for that model.

### Example prompts or workflows

This would allow starting with a smaller context and seamlessly upgrading within the session if needed. Currently if I start with the smaller context and hit the limit, I have to manually switch then additionally prompt to attempt recovery of the context that was lost by compaction.

### Additional context

Under the premium requests model, smaller context was typically half the multiplier of larger context - I'm assuming that AI credits work similarly. If not, and larger context model scales credit usage based on the actual context used instead of the max, then this feature is unnecessary as I can just start with the larger context every time.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia leggendo la configurazione continueOnAutoMode esistente e il percorso context-full che attualmente porta alla compattazione. Traccia come vengono rappresentate le varianti con contesto più grande dello stesso tipo di modello; il lavoro è completo quando un'impostazione può selezionare la dimensione disponibile successiva all'esaurimento del contesto e compattare solo alla dimensione massima.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
shell
Ambito
ai, cli
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Tranquilla
Chiarezza
Da chiarire
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.