[tutorial] Detailed Tutorial for Supporting Qwen2.5VL SFT
Open
- Dominant language
- Python
- Stars
- 5.2k
- Forks
- 448
- Avg merge
- 3d 15h
- Merged PRs (30d)
- 26
Description
nice framework!
V1要支持qwen2.5vl的话,是不是需要
1. 在model/dense 下新建qwen2.py并写一套config
2. 在model/compose 下添加qwen2.5vl的相关代码,包括modeling_vision、modeling_projector、modeling_qwen2_5_vl、qwen2_5_vl_config等文件
我看到在v1/module下定义了一些算子,我是否需要在modeling中使用这些算子?直接把transformers的相关文件copy过来并不能直接使用么?恳请官方给一个简洁的教程,以供社区可以快速迁移使用新模型(包括qwen3vl moe等)并在这些模型的基础上做修改等
Contributor guide
Assessment
This issue has not been assessed yet.