AutoGPTQ

AutoGPTQ+ 关注

文章：0|问答：0|关注：0

暂无介绍

7回答
135浏览
AutoGPTQ [BUG]在安装源代码时，Windows 11操作系统遇到了一个问题 AutoGPTQ
Windows gwbalxhn4个月前浏览 (135)4个月前
1回答
58浏览
AutoGPTQ [BUG] Quant with alpaca AutoGPTQ
其他 m1m5dgzv4个月前浏览 (58)4个月前
1回答
75浏览
AutoGPTQ 当我设置use_marlin=True时出现的错误信息 AutoGPTQ
其他 11dmarpk4个月前浏览 (75)4个月前
4回答
58浏览
AutoGPTQ 量化LoRa羊驼(带有适配器的模型) AutoGPTQ
其他 vshtjzan4个月前浏览 (58)4个月前
9回答
67浏览
AutoGPTQ 它是否支持Chatglm-6b模型？希望支持Chatglm 6b, AutoGPTQ
其他 nbnkbykc5个月前浏览 (67)5个月前
8回答
68浏览
AutoGPTQ GPTQ支持MPT模型 AutoGPTQ
其他 e5njpo685个月前浏览 (68)5个月前
5回答
67浏览
AutoGPTQ CUDA推理：当group_size = 1024且desc_act为False时出现问题(Triton不受影响), AutoGPTQ
其他 4si2a6ki5个月前浏览 (67)5个月前
8回答
58浏览
AutoGPTQ 添加 pre_layer 参数和预编译的轮子 AutoGPTQ
其他 628mspwn5个月前浏览 (58)5个月前
1回答
70浏览
AutoGPTQ Error when quantizing GPT2-XL AutoGPTQ
其他 xwmevbvl4个月前浏览 (70)4个月前
8回答
67浏览
AutoGPTQ 无法完成因式分解，因为输入不是正定的, AutoGPTQ
其他 y4ekin9u5个月前浏览 (67)5个月前
1回答
63浏览
AutoGPTQ [特性]为 https://huggingface.co/BlinkDL/rwkv-4-raven 添加支持, AutoGPTQ
其他 63lcw9qa4个月前浏览 (63)4个月前
4回答
112浏览
AutoGPTQ [BUG] 运行时错误："LayerNormKernelImpl"未为'Half'实现 AutoGPTQ
其他 h6my8fg25个月前浏览 (112)5个月前
3回答
72浏览
AutoGPTQ TypeError: forward() 缺少一个必需的位置参数：'hidden_states'[BUG] ? AutoGPTQ
其他 wnrlj8wa4个月前浏览 (72)4个月前
5回答
59浏览
AutoGPTQ为什么没有量化lm_head层？ AutoGPTQ
其他 eqqqjvef4个月前浏览 (59)4个月前
1回答
63浏览
[特性]将vllm扩展的Marlin内核回溯移植到autogptq, AutoGPTQ
其他 hiz5n14c4个月前浏览 (63)4个月前
6回答
71浏览
AutoGPTQ Llama-3 8B指令量化为8位，在transformers模型的generate()中输出乱码，但在vLLM中正常工作？ AutoGPTQ
其他 3bygqnnd5个月前浏览 (71)5个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前