InternLM/lmdeploy
View on GitHubLMDeploy is a toolkit for compressing, deploying, and serving LLMs.
- Stars
- 8.1k
- Forks
- 748
- Open beginner issues
- 0
- Indexed issues
- 546
- Avg merge
- 6d 2h
- Merged PRs (30d)
- 54
- Dominant language
- Python
- License
- Apache-2.0
- Last GitHub push
- Sep 16, 2026
- Latest indexed
- Sep 17, 2026
- Contributing guide
- Contributing guide
- Code of conduct
- No code of conduct
- Beginner labels
- No beginner labels indexed
-
InternLM/lmdeploy#3551 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3553 · 5 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3554 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3557 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3558 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3565 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3568 · 0 comments · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#3569 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3571 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3576 · 3 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3583 · 3 comments · 0 reactions · 0 assignees ·
-
[Bug] 高并发下请求异常 Open
InternLM/lmdeploy#3585 · 6 comments · 1 reaction · 0 assignees ·
-
InternLM/lmdeploy#3586 · 1 comment · 0 reactions · 0 assignees ·
-
如何设置显存占比 Open
InternLM/lmdeploy#3588 · 1 comment · 1 reaction · 0 assignees ·
-
InternLM/lmdeploy#3594 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3595 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3612 · 3 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3616 · 14 comments · 0 reactions · 0 assignees ·
-
planned feature
InternLM/lmdeploy#3635 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3656 · 3 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3663 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3669 · 1 comment · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#3679 · 1 comment · 4 reactions · 0 assignees ·
-
InternLM/lmdeploy#3714 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3723 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3755 · 0 comments · 0 reactions · 0 assignees ·
-
pipeline中内部resize Open
InternLM/lmdeploy#3778 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3782 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3812 · 5 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3822 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3823 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3840 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3842 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3843 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3856 · 0 comments · 2 reactions · 0 assignees ·
-
InternLM/lmdeploy#3860 · 6 comments · 2 reactions · 0 assignees ·
-
InternLM/lmdeploy#3867 · 2 comments · 0 reactions · 1 assignee ·
-
backlog
InternLM/lmdeploy#3881 · 2 comments · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#3900 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3901 · 1 comment · 3 reactions · 0 assignees ·
-
InternLM/lmdeploy#3905 · 5 comments · 2 reactions · 1 assignee ·
-
InternLM/lmdeploy#3920 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3923 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3942 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3961 · 16 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3963 · 1 comment · 0 reactions · 0 assignees ·
-
backlog
InternLM/lmdeploy#3966 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#3967 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3972 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#3979 · 0 comments · 0 reactions · 0 assignees ·