AI-Hypercomputer / AI-Hypercomputer/JetStream
Question about producing the logits from Jetstream (context and generated output) like gather_all_token_logits in TRTLLM
Ouverte
- Langage dominant
- Python
- Étoiles
- 457
- Forks
- 67
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
Any example to set it up? Thanks
Guide de contribution
Ouvrir le guide de contribution
Évaluation
Cette issue n'a pas encore été évaluée.