Does the OLMoE model and its code support customizing the MoE routing mechanism for fine-tuning?
Aberta
- Linguagem predominante
- Jupyter Notebook
- Estrelas
- 1.1k
- Forks
- 120
- Métricas de merge de PRs
- Nenhum PR com merge em 30d
Descrição
Does the open-sourced OLMoE model and its code support modifying the MoE routing mechanism for fine-tuning? If yes, could you please show me where is the source code located to enable modify the routing mechanism?
Guia de contribuição
Nenhum guia de contribuição indexado para este repositório
Avaliação
Esta issue ainda não foi avaliada.