Auto mode using a safety classifier for tool calls

Aperta
#789 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
30/100
Tipo di issue
Funzionalità
Chiarezza
Da chiarire
Stato di attività
Attiva
Ambito
ai, cli

Direzione di ricerca

Non vengono indicati file, test o punti di ingresso concreti. Inizia individuando le modalità edit e plan esistenti e la funzionalità che consente di eseguire automaticamente i comandi approvati. Il lavoro sarebbe completato definendo un Auto Mode che valuti le chiamate agli strumenti con un classificatore di sicurezza configurabile dall’utente ed eviti approvazioni manuali non necessarie.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Feature Description

Instead of just having edit and plan modes, introduce a new mode called "Auto Mode". This would use an automatic safety classifier for things like bash commands and such, similar to what Claude Code has, so that users don't have to constantly babysit the harness when it's running commands. It would likely be powered by a cheap open source model, like DeepSeek V4 Flash or Qwen 3.8 Flash to keep costs low, but the classifier model should be able to be changed by the user at any point.

Use Case

Allows for users who are working to step back while the agent does its own thing, instead of having to manually accept bash commands and the like. There is already functionality for allowing the agent to run specific commands on its own, after it's been allowed, but I find that often doesn't work very well for one reason or another. In workflows where the user may be doing multiple things at once, it can get annoying to have to go back and allow things in order to stop the agent from hanging on a single bash command request for potentially minutes on end while the user isn't aware it's even there.

Additional Context

No response

How important is this to you?

Important for my workflow

Lingua principale
Nessun dato sulla lingua
Stelle
4k
Fork
350
Nessuna PR unita negli ultimi 30g

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di CommandCodeAI/command-code

Tutte le issue di CommandCodeAI/command-code

Issue simili

Altre issue su AI Infra & Agents

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.