huggingface / huggingface/diffusers

Dream 7B

Abierto
#12,017 2 comentarios 0 reacciones 0 asignados Ver en GitHub
stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

### Model/Pipeline/Scheduler description

https://hkunlp.github.io/blog/2025/dream/

> In short, Dream 7B:
>
> - consistently outperforms existing diffusion language models by a large margin;
> - matches or exceeds top-tier Autoregressive (AR) language models of similar size on the general, math, and coding > abilities;
> - demonstrates strong planning ability and inference flexibility that naturally benefits from the diffusion modeling.

Basically a new SotA diffusion-based LLM. It would be great to introduce LLMs to the library's roster.

### Open source status

- [x] The model implementation is available.
- [x] The model weights are available (Only relevant if addition is not a scheduler).

### Provide useful links for the implementation

**Team**: Jiacheng Ye*, Zhihui Xie*, Lin Zheng*, Jiahui Gao*, Zirui Wu, Xin Jiang, Zhenguo Li, and Lingpeng Kong.
**Affiliations**: The University of Hong Kong, Huawei Noah’s Ark Lab

[Base HF Link](https://huggingface.co/Dream-org/Dream-v0-Base-7B)
[Instruction-tuned HF Link](https://huggingface.co/Dream-org/Dream-v0-Instruct-7B)
[Codebase](https://github.com/HKUNLP/Dream)

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza con la base de código de Dream enlazada y las páginas de modelos Base e Instruction-tuned de Hugging Face para entender la implementación y los pesos disponibles. La tarea estará terminada cuando los modelos Dream 7B se incorporen a la biblioteca diffusers y se admita su uso documentado.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
machine-learning
Tipo de issue
Nueva funcionalidad
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.