allenai / allenai/ir_datasets

beir evaluation quirks

オープン
#219 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
documentation
主要言語
Python
スター
391
フォーク
58
PR マージ指標
30日以内にマージされた PR はありません

説明

**Dataset(s)**

- [beir/arguana](https://ir-datasets.com/beir.html#beir/arguana)
- [beir/quora](https://ir-datasets.com/beir.html#beir/quora) /dev /test

**Describe the proposed change**

This twitter thread points out some evaluation quirks when using these datasets: https://twitter.com/nandan__thakur/status/1603920955679551488

It's worth adding these details to the documentation page. Maybe it's important enough that it should also be logged when you load those datasets?

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。