AnswerDotAI / AnswerDotAI/gpu.cpp
Support for 4bit or 8bit tensor
未關閉
- 主要語言
- C++
- 星號
- 4k
- 分支
- 199
- 平均合併
- 2 分鐘
- 30 天內合併 PR
- 3
描述
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
貢獻指南
這個儲存庫沒有索引到貢獻指南
研究方向
沒有指定檔案、測試或進入點。首先釐清預期的 4-bit 與 8-bit 張量表示方式以及範例的預期範圍，接著找出相關的張量與 GPU 計算進入點；完成內容應包含一個可運作的範例，用來展示所要求的降低後記憶體頻寬。
由索引模型根據 Issue 內容生成。
評估
- 技術堆疊
- cpp
- 領域
- hpc, performance
- Issue 類型
- 功能
- 難度
- 5/5
- 預估耗時
- 一週以上
- 活躍度
- 停滯
- 描述清晰度
- 需要釐清
- 新手友好度
- 25/100