bigscience-workshop / bigscience-workshop/evaluation
Add HANS to Full Benchmark
Aperta
few_shot
- Lingua principale
- Python
- Stelle
- 42
- Fork
- 24
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
use to test generalization to unseen task; maybe use FLEX?
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
La issue non indica file, test o punti di ingresso. Inizia individuando la configurazione del benchmark completo e qualsiasi integrazione esistente di FLEX, quindi determina come registrare HANS per la generalizzazione a task non visti. Il lavoro è completato quando HANS è incluso nel benchmark completo e il benchmark viene completato correttamente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python
- Ambito
- machine-learning
- Tipo di issue
- Funzionalità
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100