AnswerDotAI / AnswerDotAI/gpu.cpp
Support for 4bit or 8bit tensor
オープン
- 主要言語
- C++
- スター
- 4k
- フォーク
- 199
- 平均マージ
- 2分
- マージ済み PR(30日)
- 3
説明
Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
ファイル、テスト、エントリーポイントのいずれも指定されていません。まず、意図されている4-bitおよび8-bitのテンソル表現と、例に期待される範囲を明確にし、その後、関連するテンソルおよびGPU計算のエントリーポイントを特定してください。完了時には、要求された削減後のメモリ帯域幅を実証する動作する例を含める必要があります。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- cpp
- 領域
- hpc, performance
- issue の種類
- 機能追加
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 25/100