AnswerDotAI / AnswerDotAI/gpu.cpp
Support for 4bit or 8bit tensor
Abierto
- Lenguaje dominante
- C++
- Estrellas
- 4k
- Forks
- 199
- Merge medio
- 2 min
- PR fusionados (30 d)
- 3
Descripción
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Evaluación
Este issue todavía no se ha evaluado.