github / github/copilot-cli

Copilot Lies!

Offen
#3,279 0 Kommentare 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
area:agents area:models
Vorherrschende Sprache
Shell
Sterne
11.2k
Forks
1.9k
Ø Merge
14 Std. 16 Min.
Gemergte PRs (30 T.)
6

Beschreibung

### Describe the bug

The agent emits verbal commitments about its future behavior — "from now on",
"I'll only X", "going forward", "every X will Y", "I'll be more careful" —
without any underlying action to enforce them (no rule written, no persistent
state changed, no tool call). The agent has no memory across turns, so these
phrases cannot change future behavior. The user receives a false signal of
alignment.

The pattern is most common after a user correction, where the phrasing
acknowledges the correction without addressing it.

Fix: every verbal commitment about future behavior must be paired with the
concrete enforcement action that makes it real (file write, persistent rule,
todo, code change, tool invocation) in the same turn. If no enforcement
action is possible, the agent must stop and raise a flag instead of emitting
the commitment.

### Affected version

_No response_

### Steps to reproduce the behavior

_No response_

### Expected behavior

_No response_

### Additional context

_No response_

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Der Issue nennt keine Dateien, Tests oder Einstiegspunkte. Beginne damit, den Pfad zur Verarbeitung von Agentenantworten sowie die vorhandenen Pfade zum Schreiben von Dateien, für persistente Regeln, Todos, Codeänderungen und Tool-Aufrufe zu finden. Als erledigt gilt die Aufgabe, wenn Zusagen für zukünftiges Verhalten nur mit einer Durchsetzung in derselben Runde ausgegeben werden oder der Agent ein Flag setzt, wenn eine Durchsetzung nicht verfügbar ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
shell
Bereich
ai, cli
Issue-Typ
Bug
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Ruhig
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.