anarchy-ai / anarchy-ai/LLM-VM
Custom batch decoding algorithm
未關閉
feat/enhancement
SWAG
- 主要語言
- Python
- 星號
- 490
- 分支
- 139
- PR 合併指標
- 30 天內沒有已合併 PR
描述
Implement parallel decoding for any model: https://arxiv.org/abs/2305.10427
貢獻指南
評估
這個 Issue 還沒有評估資料。