AutoGPTQ

AutoGPTQ+ 关注

文章：0|问答：0|关注：0

暂无介绍

7回答
325浏览
AutoGPTQ [BUG]在安装源代码时，Windows 11操作系统遇到了一个问题 AutoGPTQ
Windows gwbalxhn8个月前浏览 (325)8个月前
1回答
163浏览
AutoGPTQ [BUG] Quant with alpaca AutoGPTQ
其他 m1m5dgzv8个月前浏览 (163)8个月前
1回答
151浏览
AutoGPTQ 当我设置use_marlin=True时出现的错误信息 AutoGPTQ
其他 11dmarpk8个月前浏览 (151)8个月前
4回答
134浏览
AutoGPTQ 量化LoRa羊驼(带有适配器的模型) AutoGPTQ
其他 vshtjzan9个月前浏览 (134)9个月前
9回答
158浏览
AutoGPTQ 它是否支持Chatglm-6b模型？希望支持Chatglm 6b, AutoGPTQ
其他 nbnkbykc9个月前浏览 (158)9个月前
8回答
144浏览
AutoGPTQ GPTQ支持MPT模型 AutoGPTQ
其他 e5njpo689个月前浏览 (144)9个月前
5回答
146浏览
AutoGPTQ CUDA推理：当group_size = 1024且desc_act为False时出现问题(Triton不受影响), AutoGPTQ
其他 4si2a6ki9个月前浏览 (146)9个月前
8回答
122浏览
AutoGPTQ 添加 pre_layer 参数和预编译的轮子 AutoGPTQ
其他 628mspwn9个月前浏览 (122)9个月前
1回答
131浏览
AutoGPTQ Error when quantizing GPT2-XL AutoGPTQ
其他 xwmevbvl9个月前浏览 (131)9个月前
8回答
141浏览
AutoGPTQ 无法完成因式分解，因为输入不是正定的, AutoGPTQ
其他 y4ekin9u9个月前浏览 (141)9个月前
1回答
147浏览
AutoGPTQ [特性]为 https://huggingface.co/BlinkDL/rwkv-4-raven 添加支持, AutoGPTQ
其他 63lcw9qa9个月前浏览 (147)9个月前
4回答
250浏览
AutoGPTQ [BUG] 运行时错误："LayerNormKernelImpl"未为'Half'实现 AutoGPTQ
其他 h6my8fg29个月前浏览 (250)9个月前
3回答
147浏览
AutoGPTQ TypeError: forward() 缺少一个必需的位置参数：'hidden_states'[BUG] ? AutoGPTQ
其他 wnrlj8wa9个月前浏览 (147)9个月前
5回答
142浏览
AutoGPTQ为什么没有量化lm_head层？ AutoGPTQ
其他 eqqqjvef9个月前浏览 (142)9个月前
1回答
154浏览
[特性]将vllm扩展的Marlin内核回溯移植到autogptq, AutoGPTQ
其他 hiz5n14c9个月前浏览 (154)9个月前
6回答
147浏览
AutoGPTQ Llama-3 8B指令量化为8位，在transformers模型的generate()中输出乱码，但在vLLM中正常工作？ AutoGPTQ
其他 3bygqnnd9个月前浏览 (147)9个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 8个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 8个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 8个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 8个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 7个月前