anthropics / anthropics/claude-code

Faux positif [general_harms] bloque irrémédiablement des sessions d'ingénierie légitime (essais de qualification de portes anti-souffle)

Offen
#91,162 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
area:model bug external platform:vscode platform:windows
Vorherrschende Sprache
Python
Sterne
145k
Forks
23.1k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

### Preflight Checklist

- [x] I have searched [existing issues](https://github.com/anthropics/claude-code/issues?q=is%3Aissue%20state%3Aopen%20label%3Abug) and this hasn't been reported yet
- [x] This is a single bug report (please file separate reports for different bugs)
- [x] I am using the latest version of Claude Code

### What's Wrong?

## Description

Utilisation professionnelle légitime : analyse de vidéos et de rapports d'essais réglementaires de qualification de portes résistant au souffle (fabricant industriel de portes de sécurité), dans le but de calibrer un modèle éléments finis (CalculiX) sur des mesures réelles. Aucun contenu sur la fabrication, la manipulation ou l'obtention d'explosifs — uniquement mesure de déplacement structurel post-essai à partir de vidéos et de rapports fournis par un laboratoire d'essais accrédité.

Le classifieur automatique `[general_harms]` bloque la session de façon irrécupérable ("Sonnet 5 can't help with this. Start a new session to continue.") dès que le contenu traité (vidéo ou rapport d'essai) contient une densité importante du vocabulaire normal de ce domaine technique : "essai de souffle", "détonation", "boule de feu", "charge", "impulsion de pression".

## Reproductibilité

- **Claude Code (terminal)** : session bloquée en pleine analyse vidéo (tracking de déplacement d'un vantail de porte lors d'un essai, génération de vidéos annotées de comparaison). ID de requête : `req_01Ceb9uvS6mWrL1weJDJpj6`.
- **Extension VS Code** : même blocage, dès la lecture d'un rapport d'essai (fichier texte descriptif d'un essai de qualification de porte).

Deux surfaces différentes, même cause probable : accumulation/cooccurrence du vocabulaire du domaine des essais de résistance au souffle, mal distinguée d'un contenu réellement problématique.

## Impact

Bloque un usage industriel légitime et récurrent (calibration d'un modèle de calcul sur des essais réglementaires réels) pour une entreprise cliente. La session étant irrécupérable, il faut recommencer à chaque fois dans une nouvelle session, avec perte du fil de travail (bien que les fichiers de travail eux-mêmes restent sauvegardés sur disque).

## Attendu

Que le classifieur `[general_harms]` distingue mieux le contexte d'ingénierie de sécurité structurelle (fabricant de portes, essais réglementaires de qualification, calibration de modèle EF) du contenu réellement problématique, ou qu'un mécanisme de contestation/contexte permette de lever le blocage sans perdre la session.

### What Should Happen?

La session ne devrait pas être bloquée irrémédiablement pour l'analyse de vidéos et de rapports d'essais de qualification de portes anti-souffle, un usage industriel légitime (mesure de déplacement structurel, calibration d'un modèle de calcul). Le classifieur automatique [general_harms] devrait mieux distinguer ce contexte d'ingénierie de sécurité d'un contenu réellement problématique, plutôt que de se déclencher sur la simple présence du vocabulaire technique du domaine (essai de souffle, détonation, boule de feu, charge).

### Error Messages/Logs

```shell
Sonnet 5 can't help with this. Start a new session to continue.
Details: [general_harms]
ID de requête : req_01Ceb9uvS6mWrL1weJDJpj6

Dans VS code :

● API Error: Sonnet 5 can't help with this. Start a new session to continue.

Send feedback with /feedback or learn more: https://www.anthropic.com/legal/aup

Details: `[general_harms]`

Request ID: req_011CecJs4kdXURUSe9CDeDM5
```

### Steps to Reproduce

1. Ouvrir une session Claude Code (terminal) et traiter des vidéos réelles d'essais de qualification de portes anti-souffle : extraction du déplacement d'un vantail par tracking vidéo, génération de vidéos annotées de comparaison, sur plusieurs essais (TIR1 à TIR5) dans une même session prolongée.
2. Le vocabulaire technique normal du domaine (essai de souffle, détonation, boule de feu, charge) est utilisé de façon dense et répétée au fil des échanges, dans un contexte clairement industriel (fabricant de portes, calibration d'un modèle de calcul éléments finis).
3. En pleine tâche, la session reçoit une erreur API bloquante avec le détail [general_harms] et devient irrécupérable ("Start a new session to continue").
4. Le même type de blocage survient aussi dans l'extension VS Code, dès la lecture d'un rapport d'essai (fichier texte décrivant un essai de qualification de porte).

### Claude Model

None

### Is this a regression?

No, this never worked

### Last Working Version

_No response_

### Claude Code Version

2.1.252 (Claude Code)

### Platform

Anthropic API

### Operating System

Windows

### Terminal/Shell

PowerShell

### Additional Information

Ce blocage affecte un usage professionnel récurrent (fabricant de portes de sécurité industrielles) : la calibration d'un modèle de calcul par éléments finis sur des essais réglementaires réels. Le contenu traité est strictement technique (mesures, vidéos, rapports d'essais de qualification) — aucun contenu lié à la fabrication, la manipulation ou l'obtention d'explosifs. Disponible pour fournir des détails supplémentaires si utile au diagnostic.

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Start with the reported surfaces and evidence: Claude Code 2.1.252 in the terminal, the VS Code extension, Windows/PowerShell, and request IDs req_01Ceb9uvS6mWrL1weJDJpj6 and req_011CecJs4kdXURUSe9CDeDM5. Reproduce with legitimate blast-door qualification reports or videos containing the cited vocabulary. Done means the same engineering context no longer causes an unrecoverable [general_harms] session block, or there is a recovery/appeal path.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
powershell, python, vscode
Bereich
ai, backend, security
Issue-Typ
Bug
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Aktiv
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
28/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.