MegEngine/InferLLM
在 GitHub 查看a lightweight LLM model inference framework
- 星标
- 752
- 派生
- 94
- 开放的新手 issue
- 0
- 已索引 issue
- 40
- 主要语言
- C++
- 许可证
- Apache-2.0
- 最近 GitHub push
- 2024年4月7日
- 最近索引
- 2026年9月19日
- 贡献指南
- 没有贡献指南
- 行为准则
- 没有行为准则
- 新手标签
- 没有已索引的新手标签
- PR 合并指标
- 30 天内没有已合并 PR
-
难度 4/5 3-5 天 新手友好度 30/100
-
难度 4/5 3-5 天 新手友好度 25/100
-
有打算支持qwen吗 未关闭
难度 5/5 一周以上 新手友好度 25/100
-
难度 4/5 3-5 天 新手友好度 20/100
-
这个有windows的部署教程吗 未关闭
难度 3/5 1-2 天 新手友好度 35/100
-
难度 4/5 3-5 天 新手友好度 28/100
-
移植问题 未关闭
难度 5/5 一周以上 新手友好度 15/100
-
难度 5/5 一周以上 新手友好度 20/100
-
难度 4/5 3-5 天 新手友好度 30/100
-
chatglm3有计划支持吗？ 未关闭
难度 5/5 一周以上 新手友好度 15/100
-
arm 平台输出乱码 未关闭
难度 3/5 1-2 天 新手友好度 25/100
-
能否改为GPU辅助计算 未关闭
难度 4/5 3-5 天 新手友好度 25/100
-
难度 5/5 一周以上 新手友好度 15/100
-
难度 5/5 一周以上 新手友好度 25/100
-
难度 5/5 一周以上 新手友好度 20/100
-
难度 5/5 一周以上 新手友好度 10/100
-
make error 未关闭
难度 4/5 3-5 天 新手友好度 25/100
-
难度 4/5 3-5 天 新手友好度 28/100
-
难度 3/5 1-2 天 新手友好度 25/100
-
难度 5/5 一周以上 新手友好度 20/100
-
难度 5/5 一周以上 新手友好度 25/100
-
难度 5/5 一周以上 新手友好度 20/100
-
难度 5/5 一周以上 新手友好度 20/100
-
难度 4/5 3-5 天 新手友好度 25/100
-
在线程数>1时，会占满cpu核心 未关闭
难度 2/5 1-3 小时 新手友好度 35/100
-
make报错 未关闭
难度 2/5 1-3 小时 新手友好度 45/100
-
难度 4/5 3-5 天 新手友好度 20/100
-
难度 5/5 一周以上 新手友好度 20/100
-
isnan报错 未关闭
难度 1/5 1 小时以内 新手友好度 50/100
-
难度 5/5 一周以上 新手友好度 25/100
-
有实现思维树方式么 未关闭
难度 5/5 一周以上 新手友好度 20/100
-
更新的太慢了，求加速 未关闭
难度 5/5 一周以上 新手友好度 10/100
-
windows下面编译失败 未关闭
难度 3/5 1-2 天 新手友好度 45/100
-
难度 4/5 3-5 天 新手友好度 35/100
-
是否有计划优化GPU上的推理加速 未关闭
难度 5/5 一周以上 新手友好度 25/100
-
超参的理解是否是正确的？ 未关闭
难度 4/5 3-5 天 新手友好度 20/100
-
难度 5/5 一周以上 新手友好度 15/100
-
难度 4/5 3-5 天 新手友好度 35/100
-
难度 4/5 3-5 天 新手友好度 35/100
-
难度 5/5 一周以上 新手友好度 25/100