MegEngine/InferLLM
Auf GitHub ansehena lightweight LLM model inference framework
- Sterne
- 752
- Forks
- 94
- Offene Anfänger-Issues
- 0
- Indexierte Issues
- 40
- Vorherrschende Sprache
- C++
- Lizenz
- Apache-2.0
- Letzter GitHub-Push
- 07.4.2024
- Zuletzt indexiert
- 19.9.2026
- Beitragsleitfaden
- Kein Beitragsleitfaden
- Verhaltenskodex
- Kein Verhaltenskodex
- Anfänger-Labels
- Keine Anfänger-Labels indexiert
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
-
SG2042 服务器 make 出错 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 30/100
-
无法加载模型bin或者guff模型 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
-
有打算支持qwen吗 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
-
在树莓派3b+上部署，出现无法打开模型的问题 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 20/100
-
这个有windows的部署教程吗 Offen
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100
-
在运行llama2-13b的时候出现以下问题 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 28/100
-
移植问题 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 30/100
-
chatglm3有计划支持吗？ Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100
-
arm 平台输出乱码 Offen
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 25/100
-
能否改为GPU辅助计算 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
-
【new feature】通义千问有没有计划支持 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
请问一下，这个是不是比python的性能更好？ Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 10/100
-
make error Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 28/100
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 25/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
希望可以封装openai兼容API Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
没有支持最新的llama.cpp的格式吗 Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
-
在线程数>1时，会占满cpu核心 Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 35/100
-
make报错 Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 45/100
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 20/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
isnan报错 Offen
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 50/100
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
-
有实现思维树方式么 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
-
更新的太慢了，求加速 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 10/100
-
windows下面编译失败 Offen
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 45/100
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
-
是否有计划优化GPU上的推理加速 Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
-
超参的理解是否是正确的？ Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 20/100
-
python API support Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 15/100
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
-
Optimize Arm Kernel Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
-
Support more Model Offen
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100