huggingface / huggingface/diffusers

Support MuLan, a plug-and-play language adapter to adapt existing diffusion model for up to 110+ languages without additional training

Đang mở
#7,948 2 bình luận 3 reaction 0 người được giao Xem trên GitHub
community-examples contributions-welcome stale
Ngôn ngữ chính
Python
Star
34.5k
Fork
7.3k
Merge trung bình
3 ngày 3 giờ
Pull request đã merge (30 ngày)
91

Mô tả

### Model/Pipeline/Scheduler description

```diff
# pip install mulankit
from diffusers import StableDiffusionPipeline
+ import mulankit

pipe = StableDiffusionPipeline.from_pretrained('Lykon/dreamshaper-8')
+ pipe = mulankit.transform(pipe, 'mulanai/mulan-lang-adapter::sd15_aesthetic.pth')
image = pipe('一只蓝色的🐶 in the 바다').images[0]
```

|一只蓝色的 🐶 in the 바다 (Dreamshaper-8)| レゴシュワルツェネッガー (SDXL-lightning)| 一只可爱的猫头鹰 (MVDream) | 海浪风景 (AnimateDiff) |
|--- | ---| --- | --- |
| ![image](https://github.com/huggingface/diffusers/assets/26198430/b17cc59c-c05d-45fe-bbb5-6608b42d11b4) | ![image](https://github.com/huggingface/diffusers/assets/26198430/9c179e96-214f-4118-8cc8-997c4dbfdec4) | ![image](https://github.com/huggingface/diffusers/assets/26198430/e54521d8-db8f-4603-b7be-4542ab77d11f) | ![image](https://github.com/huggingface/diffusers/assets/26198430/f526469b-b886-4051-b37f-558703dba631)|

MuLan supports

- Base models: Stable Diffusion 1.5, 2.1, XL, Pixart-Alpha/Sigma.
- Downstream models: ControlNet, LCM, LoRA, finetuned models and etc.
- Video models: AnimateDiff.
- 3D models: MVDream.

### Open source status

- [X] The model implementation is available.
- [X] The model weights are available (Only relevant if addition is not a scheduler).

### Provide useful links for the implementation

https://github.com/mulanai/MuLan
https://huggingface.co/mulanai/mulan-lang-adapter

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

Start with the StableDiffusionPipeline example and review the MuLan implementation at https://github.com/mulanai/MuLan and its weights at Hugging Face. Determine how support should cover the listed base, downstream, video, and 3D models. Done means MuLan can be integrated through diffusers for the described multilingual generation cases.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
python, pytorch
Lĩnh vực
ai, machine-learning
Loại issue
Tính năng
Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
35/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.