请问有没有 GPT2-ML 预训练模型，希望结合 DTR 进行微调
Abierto
Nadie ha tomado este issue todavía.
question
- Lenguaje dominante
- Python
- Estrellas
- 306
- Forks
- 96
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
## 请求
实现MegEngine实现GPT2-ML(https://github.com/imcaspar/gpt2-ml)
## 任务描述
实验项目微调GPT2-ML，由于GPU资源不足（RTX 3060-12GB）无法调试，通过【机器之心】得知MegEngine1.4 DTR技术解决了动态图显存优化的问题，想请问有没有参考教程让我们能通过DTR实现对GPT2-ML的微调
## 目标
采用MegEngine实现的GPT2-ML模型，通过DTR进行微调
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Línea de trabajo
Comienza revisando el proyecto GPT2-ML enlazado en el issue y la documentación o los ejemplos de MegEngine DTR. Se considera completado cuando se proporcione una implementación de GPT2-ML en MegEngine junto con un tutorial de referencia para ajustarlo con DTR bajo las restricciones de hardware indicadas.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python
- Área
- ai, machine-learning
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 25/100