Live model spending tracker (with consumed usage)

Aperta
#802 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
52/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Ambito
analytics, cli

Direzione di ricerca

Nell’issue non sono indicati file o test. Inizia individuando il tracker attivo della spesa dei modelli e la visualizzazione esistente dei prezzi in dollari, quindi traccia dove sono disponibili i dati sulla quota o sull’utilizzo consumato per ciascun modello. Il lavoro è completato quando, accanto alla spesa, viene mostrata la percentuale di quota consumata e vengono riflesse le diverse assegnazioni dei modelli.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Feature Description

Show percentage quota consumed in addition to net dollar pricing in the live model spending tracker.

Example

$1.1 spent (5.5% of your quota)
Or for a model with higher usage allotment (e.g. DS v4 Flash on CommandCode or Muse 1.3 on OpenCode):
$1.1 spent (1.8% of your quota)

Context

Pricing vs usage vs consumption is confusing even for the best of us. The pricing strategy is similar for both OpenCode and CommandCode. I believe reason for this might be model providers don't want the their model prices to be shown as lower than a given standard, Pure speculation from my end here though. So there are now two knobs to effectively control the same thing, (controlling how much inference your dollars get you), the model price and the usage allotment.

Solution

Just noticed this in opencode, would be pretty sweet to have in cmdc.

Image

I understand a pure pricing indicator though slightly helpful, doesn't fully resolve the confusion. For example, one might be puzzled why $1.1 spend consumes 6% of usage.

Show percentage quota consumed in addition to net dollar pricing.
$1.1 spent (5.5% of your quota)
Or for a model with more usage (for example DS v4 Flash on commandcode or Muse1.3 on Opencode)
$1.1 spent (1.8% of your quota)

Related Reddit thread: r/CommandCode - https://www.reddit.com/r/CommandCode/s/5T0zQXfXkE

How important is this to you?

Important for my workflow

Lingua principale
Nessun dato sulla lingua
Stelle
4k
Fork
350
Nessuna PR unita negli ultimi 30g

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di CommandCodeAI/command-code

Tutte le issue di CommandCodeAI/command-code

Issue simili

Altre issue su Data Visualization

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.