allenai / allenai/qasper-led-baseline

Answer type F1 calculation in the evaluator is different from the one on the model's forward pass

オープン
#14 コメント 0 件 リアクション 0 件 担当者 1 名 @pdasigi が担当を希望しています GitHub で見る
主要言語
Python
スター
61
フォーク
9
PR マージ指標
30日以内にマージされた PR はありません

説明

The forward pass computes F1 against each reference answer, and adds that F1 score to the reference answer type's bucket for computing type-wise F1: [here](https://github.com/allenai/qasper-led-baseline/blob/main/qasper_baselines/model.py#L104-L108)

Whereas, the official evaluator finds the reference closest to the prediction and adds the F1 to that reference answer type's bucket: [here](https://github.com/allenai/qasper-led-baseline/blob/main/scripts/evaluator.py#L114-L121)

The implementation in the forward pass is more sensible because the set of questions that contribute to each type's F1 will be independent of the model output. The evaluator needs to be fixed.

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。