allenai / allenai/unifew

How to use UniFew with BERT pretrained model?

Aperta
#2 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
18
Fork
3
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Hi,

The results of UniFew on fewshot are very impressive. The current UniFew is using UnifiedQA pretrained model (T5 or BART based). Because our pretrained models are BERT-based, I have several questions:
1) Do you have plan to support UniFew with BERT (or RoBERTa) pretrained models?
2) If not, what's required to make UniFew to work with BERT-like pretrained models?
Thanks,
Liwei

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.