Live model spending tracker (with consumed usage)

Aberta
#802 0 comentários 0 reações 0 responsáveis Ver no GitHub

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
4/5
Tempo estimado
3-5 dias
Facilidade para iniciantes
52/100
Tipo de issue
Funcionalidade
Clareza
Razoavelmente clara
Status de atividade
Ativa
Domínio
analytics, cli

Direção de pesquisa

Nenhum arquivo ou teste é nomeado na issue. Comece localizando o rastreador ativo de gastos dos modelos e sua exibição existente de preços em dólares; em seguida, rastreie onde os dados de cota ou de uso consumido estão disponíveis para cada modelo. Considera-se concluído quando a porcentagem da cota consumida for exibida junto aos gastos e as diferentes alocações de cada modelo forem refletidas.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Feature Description

Show percentage quota consumed in addition to net dollar pricing in the live model spending tracker.

Example

$1.1 spent (5.5% of your quota)
Or for a model with higher usage allotment (e.g. DS v4 Flash on CommandCode or Muse 1.3 on OpenCode):
$1.1 spent (1.8% of your quota)

Context

Pricing vs usage vs consumption is confusing even for the best of us. The pricing strategy is similar for both OpenCode and CommandCode. I believe reason for this might be model providers don't want the their model prices to be shown as lower than a given standard, Pure speculation from my end here though. So there are now two knobs to effectively control the same thing, (controlling how much inference your dollars get you), the model price and the usage allotment.

Solution

Just noticed this in opencode, would be pretty sweet to have in cmdc.

Image

I understand a pure pricing indicator though slightly helpful, doesn't fully resolve the confusion. For example, one might be puzzled why $1.1 spend consumes 6% of usage.

Show percentage quota consumed in addition to net dollar pricing.
$1.1 spent (5.5% of your quota)
Or for a model with more usage (for example DS v4 Flash on commandcode or Muse1.3 on Opencode)
$1.1 spent (1.8% of your quota)

Related Reddit thread: r/CommandCode - https://www.reddit.com/r/CommandCode/s/5T0zQXfXkE

How important is this to you?

Important for my workflow

Linguagem predominante
Sem dados de linguagem
Estrelas
4k
Forks
350
Métricas de merge de PRs
Nenhum PR com merge em 30d

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de CommandCodeAI/command-code

Todas as issues de CommandCodeAI/command-code

Issues semelhantes

Mais issues de Data Visualization

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.