AI-Hypercomputer / AI-Hypercomputer/JetStream
Question about producing the logits from Jetstream (context and generated output) like gather_all_token_logits in TRTLLM
Aberta
- Linguagem predominante
- Python
- Estrelas
- 457
- Forks
- 67
- Métricas de merge de PRs
- Nenhum PR com merge em 30d
Descrição
Any example to set it up? Thanks
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.