huggingface / huggingface/diffusers

Tuning-Free Noise Rectification for High Fidelity Image-to-Video Generation

Abierto
#7,333 15 comentarios 1 reacción 0 asignados Ver en GitHub
community-examples contributions-welcome stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

### Model/Pipeline/Scheduler description

Applying pretrained Text-to-Video (T2V) Diffusion models to Image-to-video (I2V) generation tasks using SDEdit often results in low source image fidelity in open domains. This method achieves high source image fidelity in output videos through supplementing more precise source image information using noise interpolation during early denoising steps, resulting in a simple-to-implement, tuning-free, and plug-and-play implementation. The experimental results demonstrate the effectiveness in improving the source image fidelity of generated videos when applied to I2V generation using SDEdit with several different T2V models.

### Open source status

- [ ] The model implementation is available.
- [ ] The model weights are available (Only relevant if addition is not a scheduler).

### Provide useful links for the implementation

Website: https://noise-rectification.github.io/
Paper: https://arxiv.org/pdf/2403.02827.pdf

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza con el artículo enlazado y el sitio web del proyecto para comprender el método de interpolación de ruido y sus puntos de integración necesarios. El issue no menciona archivos ni pruebas, así que primero identifica el punto de entrada relevante del modelo SDEdit de image-to-video, la pipeline o el scheduler en diffusers. El trabajo terminado debe incluir la implementación del modelo y, cuando corresponda, los pesos del modelo.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
computer-vision, machine-learning
Tipo de issue
Nueva funcionalidad
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
25/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.