longformer infer speed?

未关闭

#171 创建于 2021年2月26日 3 条评论 0 个 reaction 已指派 0 人在 GitHub 查看

描述

with model.half() can only got 10qbs per 2080ti with sequence length 1024 (12 layers)

did I miss something?

I try to infer with onnxruntime, but got an ScatterND error while session run

这个仓库没有索引到贡献指南

这个 Issue 还没有评估数据。