AnswerDotAI / AnswerDotAI/gpu.cpp
Support for 4bit or 8bit tensor
未关闭
- 主要语言
- C++
- 星标
- 4k
- 派生
- 199
- 平均合并
- 2 分钟
- 30 天内合并 PR
- 3
描述
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
贡献指南
这个仓库没有索引到贡献指南
评估
这个 Issue 还没有评估数据。