AI-Hypercomputer / AI-Hypercomputer/maxtext

Regression: HF JSONL training halts early with

オープン
#2,147 コメント 4 件 リアクション 0 件 担当者 1 名 @aireenmei が担当を希望しています GitHub で見る
bug
主要言語
Python
スター
2.4k
フォーク
607
平均マージ
2日 19時間
マージ済み PR(30日)
158

説明

### Bug report

@aireenmei

I keep getting an error related to running out of shards. Training is halted early, and gives the error:
“Run out of shards on host 0, shard 256 is not available”
followed by StopIteration → “You may have run out of training data.”

Setup:
- MaxText @ main (Aug 2025)
- TPU v5-32 (8 hosts)
- dataset_type=hf, streaming JSONL from GCS
- 256 shards matched by: hf_train_files='gs://mybucket/train*.jsonl'
(files named train_aa.jsonl … train_jo.jsonl)
- Command: `python -m MaxText.train ... hf_path=json hf_data_dir= hf_train_files='gs://…/train*.jsonl' ...`

I think this is a regression, because earlier this did run until none of the workers had any data.

### Logs/Output

_No response_

### Environment Information

_No response_

### Additional Context

_No response_

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。