MegEngine/InferLLM
GitHub で見るa lightweight LLM model inference framework
- スター
- 752
- フォーク
- 94
- オープンの初心者向け issue
- 0
- 索引済み issue
- 40
- 主要言語
- C++
- ライセンス
- Apache-2.0
- 最終 GitHub push
- 2024年4月7日
- 最新の索引
- 2026年9月19日
- コントリビューションガイド
- コントリビューションガイドがありません
- 行動規範
- 行動規範がありません
- 初心者向けラベル
- 初心者向けラベルは索引されていません
- PR マージ指標
- 30日以内にマージされた PR はありません
-
SG2042 服务器 make 出错 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
-
无法加载模型bin或者guff模型 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
有打算支持qwen吗 オープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 20/100
-
这个有windows的部署教程吗 オープン
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 28/100
-
移植问题 オープン
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
-
chatglm3有计划支持吗？ オープン
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
-
arm 平台输出乱码 オープン
難易度 3/5 1〜2日 初心者へのやさしさ 25/100
-
能否改为GPU辅助计算 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 10/100
-
make error オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 28/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 25/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
希望可以封装openai兼容API オープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
没有支持最新的llama.cpp的格式吗 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
在线程数>1时，会占满cpu核心 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 35/100
-
make报错 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 45/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 20/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
isnan报错 オープン
難易度 1/5 1時間未満 初心者へのやさしさ 50/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
有实现思维树方式么 オープン
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
-
更新的太慢了，求加速 オープン
難易度 5/5 1週間以上 初心者へのやさしさ 10/100
-
windows下面编译失败 オープン
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
是否有计划优化GPU上的推理加速 オープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
超参的理解是否是正确的？ オープン
難易度 4/5 3〜5日 初心者へのやさしさ 20/100
-
python API support オープン
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
Optimize Arm Kernel オープン
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
Support more Model オープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100