Azure / Azure/azure-sdk-for-python

Bug in QAEvaluator Evaluation Object

Offen
#43,149 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
AI Client customer-reported needs-team-attention question Service Attention
Vorherrschende Sprache
Python
Sterne
5.6k
Forks
3.4k
Ø Merge
2 T. 2 Std.
Gemergte PRs (30 T.)
213

Beschreibung

- azure-ai-evaluation:
- 1.11.0:
- MacOS:
- Python 3.11.9:

When using the QAEvaluator object the F1 threshold is defaulting to 3 when it should be 0.5. Not only that, it is passing below the threshold when only above the threshold should be passing

Run the QAEvaluator object on a simple example and it should come up.

The default threshold for F1 should be 0.5, and it should pass if the value is above the threshold (not below).

Image

Image

I tried to run this with setting the default in the object to 0.5 manually and it still defaulted to 3.0.

And Secondly, if your agent outputs happen to be just a string composed of numbers reading in from the jsonl file converts the column to integer and QAEvaluator will fail at a ".lower()" step.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne damit, das Problem mit einem einfachen QAEvaluator-Beispiel in azure-ai-evaluation zu reproduzieren, und überprüfe, wie der F1-Schwellenwert initialisiert wird und wie das Ergebnis verglichen wird. Verfolge außerdem den Fehler, wenn numerische JSONL-Strings den .lower()-Schritt erreichen; die Aufgabe ist abgeschlossen, wenn der Standardwert 0.5 ist, Werte darüber bestehen und numerische Eingaben dort nicht mehr fehlschlagen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
python
Bereich
machine-learning
Issue-Typ
Bug
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.