Azure / Azure/azure-sdk-for-python
Bug in QAEvaluator Evaluation Object
- Vorherrschende Sprache
- Python
- Sterne
- 5.6k
- Forks
- 3.4k
- Ø Merge
- 2 T. 2 Std.
- Gemergte PRs (30 T.)
- 213
Beschreibung
- azure-ai-evaluation:
- 1.11.0:
- MacOS:
- Python 3.11.9:
When using the QAEvaluator object the F1 threshold is defaulting to 3 when it should be 0.5. Not only that, it is passing below the threshold when only above the threshold should be passing
Run the QAEvaluator object on a simple example and it should come up.
The default threshold for F1 should be 0.5, and it should pass if the value is above the threshold (not below).
I tried to run this with setting the default in the object to 0.5 manually and it still defaulted to 3.0.
And Secondly, if your agent outputs happen to be just a string composed of numbers reading in from the jsonl file converts the column to integer and QAEvaluator will fail at a ".lower()" step.
Beitragsleitfaden
Rechercherichtung
Beginne damit, das Problem mit einem einfachen QAEvaluator-Beispiel in azure-ai-evaluation zu reproduzieren, und überprüfe, wie der F1-Schwellenwert initialisiert wird und wie das Ergebnis verglichen wird. Verfolge außerdem den Fehler, wenn numerische JSONL-Strings den .lower()-Schritt erreichen; die Aufgabe ist abgeschlossen, wenn der Standardwert 0.5 ist, Werte darüber bestehen und numerische Eingaben dort nicht mehr fehlschlagen.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python
- Bereich
- machine-learning
- Issue-Typ
- Bug
- Schwierigkeit
- 3/5
- Geschätzter Aufwand
- 1-2 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100