alipay / alipay/PainlessInferenceAcceleration

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Aperta
#46 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
370
Fork
23
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.