longformer infer speed?
Đang mở
- Ngôn ngữ chính
- Python
- Star
- 2.2k
- Fork
- 285
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
with model.half() can only got 10qbs per 2080ti with sequence length 1024 (12 layers)
did I miss something?
I try to infer with onnxruntime, but got an ScatterND error while session run
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Đánh giá
Issue này chưa được đánh giá.