alipay / alipay/PainlessInferenceAcceleration

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Ouverte
#46 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Python
Étoiles
370
Forks
23
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.