allenai / allenai/OLMo

Process get stuck at buling training data loader during Stage 2 training.

Aberta
#864 1 comentário 0 reações 0 responsáveis Ver no GitHub
type/question
Linguagem predominante
Python
Estrelas
6.7k
Forks
797
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

### ❓ The question

As titled.
I'm able to run stage 1 pretraining smoothly, but when running stage 2, my code is stuck at running [this function](https://github.com/allenai/OLMo/blob/f3dff833c880add075b123df9ddc31423086ef31/olmo/data/__init__.py#L127) for over 30 mins.

Guia de contribuição

Abrir o guia de contribuição

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.