AlibabaResearch / AlibabaResearch/AdvancedLiterateMachinery
训练文档理解时日文文字转token时出现很多[UNK],如何解决
Aperta
- Lingua principale
- C++
- Stelle
- 1.8k
- Fork
- 195
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
加载默认tokenizer 进行字符转换时，会出现部分字符为【UNK】
TOKENIZER = TOKENIZER = BertTokenizer.from_pretrained("bert-base-uncased", do_lower_case=True)
tokenizer = TOKENIZER
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Valutazione
Questa issue non è ancora stata valutata.