InternLM / InternLM/Tutorial

微调训练后,直接提问数据集问题,没有得到预期回答

Aberta
#377 1 comentário 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
2k
Forks
1.5k
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

按文档训练后,直接提问数据集问题,没有得到预期回答

![WechatIMG299](https://github.com/InternLM/tutorial/assets/20661962/c316461c-3b7d-4f0b-a322-87008431b773)
![WechatIMG300](https://github.com/InternLM/tutorial/assets/20661962/b36fc12b-8842-437b-a2e9-f9bc8458bdad)
![WechatIMG301](https://github.com/InternLM/tutorial/assets/20661962/c5d1a6f7-cc35-4b6a-81e1-8e547a89cb8b)
![WechatIMG307](https://github.com/InternLM/tutorial/assets/20661962/aef26a98-e414-4444-81ce-ef359e479829)
![WechatIMG309](https://github.com/InternLM/tutorial/assets/20661962/d4edcbbe-769e-4774-b99f-7c8081e059c1)
之前训练还加了参数deepspeed,也是一样对话结果,还以为是使用了这个参数影响,后面重新来了一遍跟文档一样的配置操作,仅仅区别只做了一轮训练

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Direção de pesquisa

Comece reproduzindo o fluxo de trabalho documentado de fine-tuning e compare a execução de uma época com a execução usando DeepSpeed. Use as capturas de tela anexadas e a configuração de treinamento para determinar se o conjunto de dados é aprendido e se o prompt de inferência corresponde ao formato de treinamento. O trabalho estará concluído quando a causa das respostas inesperadas for identificada e uma correção ou limitação verificada for registrada no tutorial.

Escrita pelo modelo de indexação a partir do texto da issue.

Avaliação

Stack de tecnologia
python
Domínio
machine-learning
Tipo de issue
Bug
Dificuldade
4/5
Tempo estimado
3-5 dias
Status de atividade
Estagnada
Clareza
Precisa de esclarecimento
Facilidade para iniciantes
25/100

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.