CommandCodeAI / CommandCodeAI/command-code

Error: 400 Input length ____ exceeds the maximum allowed input length of ____ tokens

Aperta
#652 4 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Lingua principale
Nessun dato sulla lingua
Stelle
4k
Fork
350
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Summary

When using the ~recently released "Laguna-s-2.1" model, which appears to do a considerable amount of 'thinking', I have regularly encountered the message "Error: 400 Input length ____ exceeds the maximum allowed input length of ____ tokens" (in many cases, with a very small minority :: <~100/100000'th overflow) after interacting with a project's code for awhile. Shortly thereafter, it will refuse to compact (yet still emit too large an input, thus rendering the 'task' effectively unable to complete). The first few such can usually be overcome by a manual /compact (which seems to compact more than the 'auto-compact' sort), followed by 'continue'. After which command, it fails to 'continue' even when 'compact' is claimed to have 'saved' hundreds of thousands of tokens. At which point I have to switch to DeepSeek-V4-Flash-0731 or similar to ~complete. Commands such as "/usage" do not appear to show useful information about the issue.

Expected Behavior

It would seem to me that if context is indeed irretrievably ~overstuffed, then that should be reflected by the /compact command

Actual Behavior

manual /compact claims to recover many tokens, yet overflow errors continue

Steps to reproduce the issue

As shown in report overview

Command Code Version

1.14.1

Operating System

macOS

Terminal/IDE

OSX 'Terminal' w / cmd

Shell

zsh

Session file (optional)

No response

Fix prompt (optional)

No response

Additional context

No response

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

Inizia riproducendo l’overflow in Command Code 1.14.1 su macOS Terminal con zsh, usando il modello Laguna-s-2.1 dopo un’interazione prolungata. Confronta il comportamento e i conteggi dei token riportati di /compact manuale, auto-compact, /usage e continue; il lavoro è completo quando la compattazione riflette accuratamente il contesto rimanente e previene errori ripetuti dovuti alla lunghezza dell’input.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
zsh
Ambito
ai, cli
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Attiva
Chiarezza
Da chiarire
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.