alibaba/rtp-llm
View on GitHubRTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.
- Stars
- 1.3k
- Forks
- 275
- Open beginner issues
- 0
- Indexed issues
- 38
- Avg merge
- 3d 17h
- Merged PRs (30d)
- 33
- Dominant language
- Python
- License
- Apache-2.0
- Last GitHub push
- Sep 14, 2026
- Latest indexed
- Sep 14, 2026
- Contributing guide
- No contributing guide
- Code of conduct
- No code of conduct
- Beginner labels
- No beginner labels indexed
-
support Yi-Vl Open
alibaba/rtp-llm#23 · 5 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#25 · 2 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#63 · 2 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#71 · 3 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#74 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#84 · 1 comment · 2 reactions · 0 assignees ·
-
alibaba/rtp-llm#91 · 7 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#100 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#105 · 6 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#109 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#110 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#114 · 1 comment · 0 reactions · 0 assignees ·
-
[Doc] 多卡并行文档修改建议 Open
alibaba/rtp-llm#115 · 0 comments · 4 reactions · 0 assignees ·
-
alibaba/rtp-llm#120 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#124 · 3 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#130 · 1 comment · 2 reactions · 0 assignees ·
-
alibaba/rtp-llm#131 · 0 comments · 0 reactions · 0 assignees ·
-
最新代码源码编译报错 Open
alibaba/rtp-llm#132 · 5 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#135 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#136 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#137 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#138 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#139 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#140 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#141 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#281 · 2 comments · 0 reactions · 0 assignees ·
-
enhancement
alibaba/rtp-llm#304 · 0 comments · 0 reactions · 1 assignee ·
-
alibaba/rtp-llm#487 · 1 comment · 1 reaction · 0 assignees ·
-
alibaba/rtp-llm#489 · 3 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#588 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#854 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1047 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1064 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1066 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1161 · 1 comment · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1338 · 0 comments · 0 reactions · 0 assignees ·
-
Restore MLA smoke coverage for absorb_opt_len / decode_entrance / redundant_expert / hack_layer_num Open
alibaba/rtp-llm#1342 · 0 comments · 0 reactions · 0 assignees ·
-
alibaba/rtp-llm#1373 · 0 comments · 0 reactions · 0 assignees ·