How to choose between models for the 512GB max m3ultra
オープン
- 主要言語
- C
- スター
- 22.4k
- フォーク
- 2.1k
- 平均マージ
- 1日 3時間
- マージ済み PR（30日）
- 4
説明
I can see there is different prefill and tokens/sec but how much smarter is pro-imatrix vs q4-imatrix? also how about q2-q4-imatrix? any insight is much appreciated.
コントリビューションガイド
評価
この issue はまだ評価されていません。