Clouditera / Clouditera/SecGPT
SecGPT完整版量化问题
Open
- Dominant language
- Python
- Stars
- 3.1k
- Forks
- 370
- PR merge metrics
- No merged PRs in 30d
Description
SecGPT完整版过大，SecGPT-mini效果不尽人意，所以想通过llama的convert进行量化，导出了一个27G的q4_0的bin文件，运行的发现模型幻觉严重，基本上只会说数据集的原始素材，是否能量化出一个介于完整跟mini版中间的medium版本，十分感谢
Contributor guide
No contributing guide indexed for this repository
Assessment
This issue has not been assessed yet.