modelscope / modelscope/DiffSynth-Studio
怎么进行多卡推理呢
Đang mở
Chưa có ai nhận issue này.
- Ngôn ngữ chính
- Python
- Star
- 13.1k
- Fork
- 1.3k
- Merge trung bình
- 13 giờ 12 phút
- Pull request đã merge (30 ngày)
- 45
Mô tả
examples/wanvideo/model_inference/Wan2.1-VACE-14B.py
这个脚本怎么多卡批量推理呢，单卡可以顺利跑通，自己尝试写了个多卡脚本但是问题太多，有可以借鉴的方案吗？
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Hướng nghiên cứu
Bắt đầu với examples/wanvideo/model_inference/Wan2.1-VACE-14B.py và xác nhận cách gọi đường dẫn suy luận trên một card duy nhất của nó. Điều tra các entry point hiện có trong repository cho suy luận multi-card hoặc batch, nếu có, và xác định hoàn thành khi có một phương pháp suy luận multi-card theo batch có thể tái lập cho script này.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- python
- Lĩnh vực
- distributed-systems, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 25/100