首页
问答库
知识库
教程库
标签
AI工具箱
登录
注册
投稿
text-generation-inference 是否有计划支持GPTQ?
tzxcd3kk
于 2个月前
发布在
其他
关注(0)
|
答案(1)
|
浏览(71)
功能请求
当前版本尚不支持GPTQ。请问有没有相关的时间表?
动机
量化
你的贡献
如果需要,可以帮助编写代码
text-generation-inference
来源:
https://github.com/huggingface/text-generation-inference/issues/445
关注
举报
1
条答案
按热度
按时间
e0uiprwp
1#
是的,一旦合并了pr
#438
,GPT-Q将得到支持。
赞(0)
分享
回复(0)
举报  
2个月前
首页
上一页
1
下一页
末页
我来回答
相关问题
查看更多
热门标签
更多
Java
query
python
Node
开发语言
request
Util
数据库
Table
后端
算法
Logger
Message
Element
Parser
最新问答
更多
xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1)
发布于
21天前
xxl-job 不能和nacos兼容?
回答(3)
发布于
21天前
xxl-job 任务执行完后无法结束,日志一直转圈
回答(3)
发布于
21天前
xxl-job-admin页面上查看调度日志样式问题
回答(1)
发布于
21天前
xxl-job 参数512字符限制能否去掉
回答(1)
发布于
21天前
1条答案
按热度按时间e0uiprwp1#
是的,一旦合并了pr #438,GPT-Q将得到支持。