AI-Hypercomputer / AI-Hypercomputer/JetStream
Question about producing the logits from Jetstream (context and generated output) like gather_all_token_logits in TRTLLM
Offen
- Vorherrschende Sprache
- Python
- Sterne
- 457
- Forks
- 67
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
Any example to set it up? Thanks
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.