InternLM/lmdeploy
View on GitHubLMDeploy is a toolkit for compressing, deploying, and serving LLMs.
- Stars
- 8.1k
- Forks
- 748
- Open beginner issues
- 0
- Indexed issues
- 546
- Avg merge
- 6d 2h
- Merged PRs (30d)
- 54
- Dominant language
- Python
- License
- Apache-2.0
- Last GitHub push
- Sep 16, 2026
- Latest indexed
- Sep 17, 2026
- Contributing guide
- Contributing guide
- Code of conduct
- No code of conduct
- Beginner labels
- No beginner labels indexed
-
InternLM/lmdeploy#2041 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2047 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2051 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2052 · 2 comments · 0 reactions · 0 assignees ·
-
v100
InternLM/lmdeploy#2055 · 10 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2058 · 5 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2070 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2073 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2075 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2076 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2079 · 6 comments · 0 reactions · 1 assignee ·
-
[Bug] 运行glm4-9b的时候报错 Open
InternLM/lmdeploy#2089 · 17 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2091 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2092 · 0 comments · 0 reactions · 0 assignees ·
-
How to delete pipe? Open
InternLM/lmdeploy#2093 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2094 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2099 · 2 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2115 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2116 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2118 · 8 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2121 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2127 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2130 · 0 comments · 0 reactions · 1 assignee ·
-
mllm
InternLM/lmdeploy#2142 · 13 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2148 · 5 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2167 · 1 comment · 0 reactions · 1 assignee ·
-
[Bug] Open
InternLM/lmdeploy#2178 · 0 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2179 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2190 · 5 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2197 · 9 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2213 · 1 comment · 0 reactions · 1 assignee ·
-
mllm
InternLM/lmdeploy#2216 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2222 · 0 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2243 · 9 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2250 · 10 comments · 1 reaction · 1 assignee ·
-
InternLM/lmdeploy#2265 · 9 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2271 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2272 · 10 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2281 · 7 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2282 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2287 · 1 comment · 2 reactions · 1 assignee ·
-
InternLM/lmdeploy#2302 · 5 comments · 0 reactions · 1 assignee ·
-
smooth 量化后推理性能没有提升 Open
InternLM/lmdeploy#2304 · 1 comment · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2305 · 3 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2309 · 4 comments · 0 reactions · 1 assignee ·
-
InternLM/lmdeploy#2310 · 4 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2317 · 2 comments · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2319 · 3 comments · 0 reactions · 1 assignee ·
-
多模态批处理 Open
InternLM/lmdeploy#2323 · 1 comment · 0 reactions · 0 assignees ·
-
InternLM/lmdeploy#2326 · 3 comments · 0 reactions · 1 assignee ·