AlibabaResearch / AlibabaResearch/DAMO-ConvAI

Mislabeled dialog in SpokenWOZ test set?

Offen
#87 10 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
spokenwoz
Vorherrschende Sprache
Python
Sterne
1.6k
Forks
250
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Taking a look at and listening to the test set you released on the website, I found that dialog `SNG0646` is completely mislabeled.
I assume this is a mixup of some sort since the annotations are completely wrong, to the point that using the speech start and end times from the annotation leads to empty speech sequences, which leads to errors down the line.
Can you confirm this? Was this also the case in the numbers you report on the website?
How should this dialog be dealt with when reporting results?

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.