AnswerDotAI / AnswerDotAI/gpu.cpp
Support for 4bit or 8bit tensor
Ouverte
- Langage dominant
- C++
- Étoiles
- 4k
- Forks
- 199
- Merge moyen
- 2 min
- PR mergées (30 j)
- 3
Description
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Évaluation
Cette issue n'a pas encore été évaluée.