AI-Hypercomputer / AI-Hypercomputer/JetStream
Question about producing the logits from Jetstream (context and generated output) like gather_all_token_logits in TRTLLM
Abierto
- Lenguaje dominante
- Python
- Estrellas
- 457
- Forks
- 67
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
Any example to set it up? Thanks
Guía de contribución
Evaluación
Este issue todavía no se ha evaluado.