1 Star 0 Fork 0

modelee / wizard-mega-13B-GPTQ

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
quantize_config.json 158 Bytes
一键复制 编辑 原始数据 按行查看 历史
Tom Jobbins 提交于 2023-08-21 12:40 . Update for Transformers GPTQ support
{
"bits": 4,
"group_size": 128,
"damp_percent": 0.01,
"desc_act": false,
"sym": true,
"true_sequential": true,
"model_file_base_name": "model"
}
1
https://gitee.com/modelee/wizard-mega-13B-GPTQ.git
git@gitee.com:modelee/wizard-mega-13B-GPTQ.git
modelee
wizard-mega-13B-GPTQ
wizard-mega-13B-GPTQ
main

搜索帮助