AutoGPTQ

AutoGPTQ+ 关注

文章：0|问答：0|关注：0

暂无介绍

7回答
98浏览
AutoGPTQ [BUG]在安装源代码时，Windows 11操作系统遇到了一个问题 AutoGPTQ
Windows gwbalxhn3个月前浏览 (98)3个月前
1回答
51浏览
AutoGPTQ [BUG] Quant with alpaca AutoGPTQ
其他 m1m5dgzv3个月前浏览 (51)3个月前
1回答
58浏览
AutoGPTQ 当我设置use_marlin=True时出现的错误信息 AutoGPTQ
其他 11dmarpk3个月前浏览 (58)3个月前
4回答
55浏览
AutoGPTQ 量化LoRa羊驼(带有适配器的模型) AutoGPTQ
其他 vshtjzan4个月前浏览 (55)4个月前
9回答
62浏览
AutoGPTQ 它是否支持Chatglm-6b模型？希望支持Chatglm 6b, AutoGPTQ
其他 nbnkbykc4个月前浏览 (62)4个月前
8回答
61浏览
AutoGPTQ GPTQ支持MPT模型 AutoGPTQ
其他 e5njpo684个月前浏览 (61)4个月前
5回答
64浏览
AutoGPTQ CUDA推理：当group_size = 1024且desc_act为False时出现问题(Triton不受影响), AutoGPTQ
其他 4si2a6ki4个月前浏览 (64)4个月前
8回答
57浏览
AutoGPTQ 添加 pre_layer 参数和预编译的轮子 AutoGPTQ
其他 628mspwn4个月前浏览 (57)4个月前
1回答
57浏览
AutoGPTQ Error when quantizing GPT2-XL AutoGPTQ
其他 xwmevbvl4个月前浏览 (57)4个月前
8回答
63浏览
AutoGPTQ 无法完成因式分解，因为输入不是正定的, AutoGPTQ
其他 y4ekin9u4个月前浏览 (63)4个月前
1回答
60浏览
AutoGPTQ [特性]为 https://huggingface.co/BlinkDL/rwkv-4-raven 添加支持, AutoGPTQ
其他 63lcw9qa4个月前浏览 (60)4个月前
4回答
129浏览
AutoGPTQ [BUG] 运行时错误："LayerNormKernelImpl"未为'Half'实现 AutoGPTQ
其他 h6my8fg24个月前浏览 (129)4个月前
3回答
58浏览
AutoGPTQ TypeError: forward() 缺少一个必需的位置参数：'hidden_states'[BUG] ? AutoGPTQ
其他 wnrlj8wa4个月前浏览 (58)4个月前
5回答
56浏览
AutoGPTQ为什么没有量化lm_head层？ AutoGPTQ
其他 eqqqjvef4个月前浏览 (56)4个月前
1回答
61浏览
[特性]将vllm扩展的Marlin内核回溯移植到autogptq, AutoGPTQ
其他 hiz5n14c4个月前浏览 (61)4个月前
6回答
66浏览
AutoGPTQ Llama-3 8B指令量化为8位，在transformers模型的generate()中输出乱码，但在vLLM中正常工作？ AutoGPTQ
其他 3bygqnnd4个月前浏览 (66)4个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 3个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前