anarchy-ai / anarchy-ai/LLM-VM

Implement FSDP for training large datasets

Abierto
#218 1 comentario 0 reacciones 0 asignados Ver en GitHub
feat/enhancement
Lenguaje dominante
Python
Estrellas
490
Forks
139
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

Definition of done:
Implement training large models using FSDP to accelerate training on large datasets.

Reference: https://pytorch.org/blog/introducing-pytorch-fully-sharded-data-parallel-api/

Guía de contribución

Abrir la guía de contribución

Evaluación

Este issue todavía no se ha evaluado.

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.