InternLM / InternLM/xtuner

[tutorial] Detailed Tutorial for Supporting Qwen2.5VL SFT

Open
#1,120 6 comments 6 reactions 0 assignees View on GitHub
Dominant language
Python
Stars
5.2k
Forks
448
Avg merge
3d 15h
Merged PRs (30d)
26

Description

nice framework!
V1要支持qwen2.5vl的话,是不是需要
1. 在model/dense 下新建qwen2.py并写一套config
2. 在model/compose 下添加qwen2.5vl的相关代码,包括modeling_vision、modeling_projector、modeling_qwen2_5_vl、qwen2_5_vl_config等文件

我看到在v1/module下定义了一些算子,我是否需要在modeling中使用这些算子?直接把transformers的相关文件copy过来并不能直接使用么?恳请官方给一个简洁的教程,以供社区可以快速迁移使用新模型(包括qwen3vl moe等)并在这些模型的基础上做修改等

Contributor guide

Open the contributing guide

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.