alipay / alipay/PainlessInferenceAcceleration

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Abierto
#46 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Lenguaje dominante
Python
Estrellas
370
Forks
23
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

请问解决了训推不一致的问题吗?即生成的token概率和 transformer生成的token概率不一致

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Evaluación

Este issue todavía no se ha evaluado.

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.