Akegarasu / Akegarasu/lora-scripts

中断训练后恢复训练时epoch计数不对

Aperta
#644 4 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
6.1k
Fork
699
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

第二次中断训练后从save state继续第三次训练的时候,epoch计数会无视train_state.json里的记录数据并以第二次开始训练的数量作为第三次训练的起始计数, 并非从第一次开始算起的全局计数,不知道计数不对会不会对学习率的调度产生影响。

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.