LR becomes 0 when resumed from SaveState using Resume

LR becomes 0 when resumed from SaveState using Resume.
it happened when using cosine_with_restarts.

日本語で失礼します。
lr_scheduler_num_cycles=3、cosine_with_restartで4エポック学習。2epoch後とラストでSAVE作成しました。

last stateからresumeして同じ設定で再開実行したところ4エポック全部LRが0になりました。
2エポック後からresumeした場合は1.5回分LRが増減してその後LRは0となりました。

cosine_with_restarts使用時に現在ステップが総ステップ数を超えるとLR0を返す挙動をしているのでしょうか？
Last Stateから再開する場合はLR増加して欲しいです

Start by reproducing training with cosine_with_restarts, saving after two epochs and at the end, then resuming through SaveState and Resume. Inspect how the scheduler handles the current step beyond the total step count. Done means resumed training follows the expected learning-rate cycle instead of returning a learning rate of 0.

Written by the indexing model from the issue text.