InternLM / InternLM/xtuner

如何扩展词汇表

Open
#840 0 comments 0 reactions 0 assignees View on GitHub
Dominant language
Python
Stars
5.2k
Forks
448
Avg merge
3d 15h
Merged PRs (30d)
26

Description

感谢贵团队的贡献!
最近在尝试训练一些垂直领域知识,其中会存在一些固定词汇。
在经过普通的训练之后,发现模型无法很好的记住那些固定词汇,因此,我想能不能扩展词汇表,让模型能够更好的记住、理解那些固定词汇。

Contributor guide

Open the contributing guide

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.