AI-Hypercomputer / AI-Hypercomputer/JetStream

Question about producing the logits from Jetstream (context and generated output) like gather_all_token_logits in TRTLLM

未关闭
#153 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
主要语言
Python
星标
457
派生
67
PR 合并指标
30 天内没有已合并 PR

描述

Any example to set it up? Thanks

贡献指南

打开贡献指南

评估

这个 Issue 还没有评估数据。

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。