CommandCodeAI / CommandCodeAI/command-code

Context Window Visual Reference.

Aperta
#348 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

p2
Lingua principale
Nessun dato sulla lingua
Stelle
4k
Fork
350
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Feature Description

A small indicator of available/used context window instead of the current implementation which uses Percentage of context used rather than raw numbers. Also the current context is hidden if usage is below 80%.

Use Case

Reason for asking such a feature:

  1. Sometimes adding and downloading skills can bloat the context window by a magnitude and degrade code quality and debugs. Being able to visually see the context windows is a blessing in disguise that can help tackle such issues.
  2. Prompting long contexts on a models can be heavy based on the task and its complexity, giving a model longer task even at smaller context left can degrade its code quality if it is already in the middle of a code. Having a reference of context window helps in planning the prompts a little bit better and in patches.

I’ve added some visual references to the minified code to get it working for me. I’d appreciate it if they could be used as a reference.

Scenario 1: < 80% token context usage

Image

Scenario 2: > 80% token context usage

Image
Additional Context

No response

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

La issue fornisce riferimenti visivi, ma non indica file, test o punti di ingresso. Per prima cosa individua la visualizzazione esistente della percentuale di utilizzo del contesto e conferma come viene calcolato l’utilizzo dei token; il lavoro è completo quando, in entrambi gli scenari di utilizzo descritti, vengono mostrati i numeri grezzi del contesto utilizzato e disponibile.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Ambito
ai, cli
Tipo di issue
Funzionalità
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Tranquilla
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.