inference

inference+ 关注

文章：0|问答：3|关注：0

暂无介绍

2回答
57浏览
inference QUESTION: Encoutering libcudart.so.12: cannot open shared object file: No such file or directory inference
其他 eqzww0vc5个月前浏览 (57)5个月前
2回答
98浏览
inference 问题：部署0.10.1版本的Docker qwen1.5-32B时，出现一直感叹号的情况，不知道是推理问题还是qwen问题, inference
Docker s4n0splo5个月前浏览 (98)5个月前
3回答
65浏览
inference 大批量请求后服务直接卡死 inference
其他 btxsgosb5个月前浏览 (65)5个月前
1回答
63浏览
inference 在Rocm5.6/py310/pytorch2.1.2环境中，Xinf无法识别AMD GPU, inference
其他 e3bfsja25个月前浏览 (63)5个月前
2回答
65浏览
inference ChatGLM3-128k 模型实际最大输出被限制在了 4096 inference
其他 ufj5ltwl5个月前浏览 (65)5个月前
2回答
59浏览
inference v10.2.post1,命令行BUG,默认执行pytorch格式模型 inference
其他 6psbrbz95个月前浏览 (59)5个月前
1回答
51浏览
inference BUG: ImportError: 无法从 'typing_extensions' 导入 'Union' (/usr/local/lib/python3.10/dist-packages/typing_extensions.py) inference
Python yhived7q5个月前浏览 (51)5个月前
1回答
51浏览
inference GLM4-9B-chat模型推理报错 inference
其他 x33g5p2x5个月前浏览 (51)5个月前
1回答
60浏览
inference qwen-vl开启Steam模式失败 inference
其他 kpbpu0085个月前浏览 (60)5个月前
2回答
62浏览
inference ColBert/ColBertv2的支持 inference
其他 s4chpxco5个月前浏览 (62)5个月前
2回答
54浏览
inference GLM-4V 模型显存使用量计算bug inference
其他 axzmvihb5个月前浏览 (54)5个月前
3回答
66浏览
inference 安装llama-cpp-python cuda 推理加速支持时，提示"找不到nvcc,请设置CUDAToolkit_ROOT," inference
Python edqdpe6u5个月前浏览 (66)5个月前
5回答
126浏览
inference QUESTION: How to deploy as extensible docker image inference
Docker p4tfgftt5个月前浏览 (126)5个月前
4回答
99浏览
Xinference Dify集成问题 inference
其他 1qczuiv06个月前浏览 (99)6个月前
2回答
74浏览
[BUG] 使用Xinference启动自定义模型时出现错误[BUG] inference
其他 fiei3ece6个月前浏览 (74)6个月前
2回答
65浏览
inference 模型已经下载完成，启动时出现ServerClosed错误 inference
其他 webghufk6个月前浏览 (65)6个月前
1回答
68浏览
inference ENH: daemon mode inference
其他 332nm8kg6个月前浏览 (68)6个月前
1回答
76浏览
inference ENH: Implement a load balancer inference
其他 ut6juiuv6个月前浏览 (76)6个月前
1回答
94浏览
inference 问题：worker无法通过PodIP连接到supervisor 翻译结果：Worker无法通过PodIP连接到supervisor inference
其他 9nvpjoqh6个月前浏览 (94)6个月前
1回答
75浏览
DOC: add doc about xinference_client inference
其他 izj3ouym6个月前浏览 (75)6个月前
1回答
83浏览
inference FEAT: 支持代码GeeX4 inference
其他 h5qlskok6个月前浏览 (83)6个月前
5回答
266浏览
调用/v1/chat/completions接口，使用jmeter 10并发进行压测，压测1分钟后xinference挂了，xinference版本为0.11.3, inference
其他 ssgvzors6个月前浏览 (266)6个月前
4回答
91浏览
inference 当推理Gemma-2时，响应重复, inference
其他 11dmarpk6个月前浏览 (91)6个月前
2回答
115浏览
如何使用BAAI/bge-reranker-v2-minicpm-layerwise rerank模型调用xinferenceapi inference
其他 nlejzf6q6个月前浏览 (115)6个月前
1回答
112浏览
inference BUG 无法加载ChatTTS模型 inference
其他 sd2nnvve6个月前浏览 (112)6个月前
4回答
74浏览
【Bug】在xinference主界面的UI中，自定义模型板块中的PyTorch类型选项缺少自定义量化的设置,目前只能通过代码注册模型, inference
其他 yrdbyhpb6个月前浏览 (74)6个月前
2回答
67浏览
inference 请问书生InternVL2什么时候可以支持？谢谢, inference
其他 gfttwv5a6个月前浏览 (67)6个月前
1回答
82浏览
inference 支持阿里巴巴语音识别模型：SenseVoice inference
其他 3okqufwl6个月前浏览 (82)6个月前
2回答
137浏览
安装完成后，运行xinference-local --host 0.0.0.0 --port 9997报错, inference
其他 bvjveswy6个月前浏览 (137)6个月前
1回答
62浏览
inference 支持阿里巴巴文字转语音模型：CosyVoice,支持多种音色以及复刻音色, inference
其他 piv4azn76个月前浏览 (62)6个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前