InternLM/lmdeploy
View on GitHubLMDeploy is a toolkit for compressing, deploying, and serving LLMs.
- Stars
- 8.1k
- Forks
- 748
- Open beginner issues
- 0
- Indexed issues
- 546
- Avg merge
- 6d 2h
- Merged PRs (30d)
- 54
- Dominant language
- Python
- License
- Apache-2.0
- Last GitHub push
- Sep 16, 2026
- Latest indexed
- Sep 17, 2026
- Contributing guide
- Contributing guide
- Code of conduct
- No code of conduct
- Beginner labels
- No beginner labels indexed
-
InternLM/lmdeploy#301 · 11 comments · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#322 · 5 comments · 0 reactions · 1 assignee ·
-
使用locust时发现的问题 Open
InternLM/lmdeploy#417 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#430 · 3 comments · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#476 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#479 · 6 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#498 · 0 comments · 0 reactions · 1 assignee ·
-
[Deploy Error] ValueError: If `eos_token_id` is defined, make sure that `pad_token_id` is defined. Open
InternLM/lmdeploy#522 · 3 comments · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#534 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#565 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#579 · 0 comments · 0 reactions · 1 assignee ·
-
精度损失很多 Open
InternLM/lmdeploy#617 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#621 · 5 comments · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#638 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#664 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#696 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#703 · 4 comments · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#704 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#731 · 3 comments · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#750 · 5 comments · 1 reaction · 1 assignee ·
-
InternLM/lmdeploy#815 · 9 comments · 2 reactions · 0 assignees ·
-
[Bug] 推理报错 Openv100
InternLM/lmdeploy#868 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#883 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#890 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#994 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1014 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1046 · 5 comments · 0 reactions · 0 assignees ·
-
RFC
InternLM/lmdeploy#1065 · 5 comments · 1 reaction · 0 assignees ·
-
InternLM/lmdeploy#1078 · 6 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1109 · 11 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1144 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1150 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1151 · 2 comments · 0 reactions · 1 assignee ·
-
微调后的模型回答带有很多重复[Bug] Open
InternLM/lmdeploy#1190 · 15 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1224 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1261 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#1305 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1327 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#1342 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1370 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1398 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1418 · 9 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1449 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1452 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#1454 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1460 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#1489 · 1 comment · 1 reaction · 0 assignees ·
-
InternLM/lmdeploy#1504 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#1509 · 5 comments · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#1514 · 8 comments · 0 reactions · 1 assignee ·