allenai / allenai/specter

Using trained model: which tokenizer?

Aperta
#38 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
592
Fork
58
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

I have trained a new model following the guildeline in `README.md`. The model was trained on **my own dataset** of scientific articles. Now, in order to use the trained model, I need a tokenizer. Which one should I use? Do I need to load the vocabulary from disk in case the vocabulary used during training is different from pretrained ones?

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.