allenai / allenai/qasper-led-baseline

Answer type F1 calculation in the evaluator is different from the one on the model's forward pass

Ouverte
#14 0 commentaires 0 réactions 1 personne assignée Réclamée par @pdasigi Voir sur GitHub
Langage dominant
Python
Étoiles
61
Forks
9
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

The forward pass computes F1 against each reference answer, and adds that F1 score to the reference answer type's bucket for computing type-wise F1: [here](https://github.com/allenai/qasper-led-baseline/blob/main/qasper_baselines/model.py#L104-L108)

Whereas, the official evaluator finds the reference closest to the prediction and adds the F1 to that reference answer type's bucket: [here](https://github.com/allenai/qasper-led-baseline/blob/main/scripts/evaluator.py#L114-L121)

The implementation in the forward pass is more sensible because the set of questions that contribute to each type's F1 will be independent of the model output. The evaluator needs to be fixed.

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.