Allow disabling warning the model when AI credits are low
- Lingua principale
- Shell
- Stelle
- 11.2k
- Fork
- 1.9k
- Merge medio
- 14h 16m
- PR unite (30g)
- 6
Descrizione
### Describe the feature or problem you'd like to solve
I set `-max-ai-credits=30` and the model kept getting worried about using all the credits
### Proposed solution
Add an option to suppress whatever warnings are being injected to tell the model it is low on AI credits (or just remove it?).
### Example prompts or workflows
_No response_
### Additional context
I was testing with a local model, and passed `--max-ai-credits=30` (because 30 is the minimum value allowed). The model kept saying "The user is warning me there are only 30 AI credits left so I must be very efficient with my responses".
I can't tell exactly what text was being injected for the model (because when I exported the session there was no such text in there - presumably the export is not complete), but it was happening on every turn. For a local model the credits are not relevant, but even with a cloud model I think I would rather this information be hidden so it won't potentially taint how the model is working. If it runs out, I can `--resume` with another value.
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Inizia dalla gestione dell’opzione --max-ai-credits e segui il percorso fino al punto in cui gli avvisi di credito insufficiente vengono aggiunti al contesto del modello. L’issue non indica alcun file o test, quindi individua prima il percorso di iniezione degli avvisi e gli eventuali test CLI correlati; il lavoro è completato quando gli utenti possono sopprimere questi avvisi, mentre il limite di crediti esistente e il comportamento di ripresa continuano a funzionare.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- shell
- Ambito
- ai, cli
- Tipo di issue
- Funzionalità
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Tranquilla
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 48/100