allenai / allenai/OLMoE

Does the OLMoE model and its code support customizing the MoE routing mechanism for fine-tuning?

未關閉
#30 1 則留言 0 個 reaction 已指派 0 人 在 GitHub 檢視
主要語言
Jupyter Notebook
星號
1.1k
分支
120
PR 合併指標
30 天內沒有已合併 PR

描述

Does the open-sourced OLMoE model and its code support modifying the MoE routing mechanism for fine-tuning? If yes, could you please show me where is the source code located to enable modify the routing mechanism?

貢獻指南

這個儲存庫沒有索引到貢獻指南

評估

這個 Issue 還沒有評估資料。

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。