inference

inference+ 关注

文章：0|问答：3|关注：0

暂无介绍

1回答
51浏览
inference rerank结果中返回的document为空 inference
其他 sc4hvdpw5个月前浏览 (51)5个月前
4回答
43浏览
inference QUESTION inference
其他 wljmcqd85个月前浏览 (43)5个月前
1回答
47浏览
inference 无法安装Orion-14B-Chat-RAG inference
其他 ih99xse15个月前浏览 (47)5个月前
1回答
56浏览
inference QUESTION 如何在容器启动时自动加载指定模型 inference
其他 qgelzfjb5个月前浏览 (56)5个月前
2回答
76浏览
inference Docker镜像需要安装flash-attn, inference
Docker dpiehjr45个月前浏览 (76)5个月前
2回答
53浏览
inference 能否指定 GPU 运行？ inference
其他 qgzx9mmu5个月前浏览 (53)5个月前
1回答
38浏览
inference 考虑让用户指定模型路径(来自本地计算机)或下载仓库(hf或modelscope中的自定义仓库)以构建内置模型, inference
其他 mccptt675个月前浏览 (38)5个月前
1回答
49浏览
inference 建议增加界面n_ctx参数配置,Qwen1.5-14B-Chat-GGUF模型默认小显存无法运行 inference
其他 dxpyg8gm5个月前浏览 (49)5个月前
3回答
42浏览
inference BUG: 使用Xinferrence启动qwe1.5-14b-GGUF失败，但在纯llama_cpp python中运行正常, inference
Python v64noz0r5个月前浏览 (42)5个月前
2回答
38浏览
inference BUG: qwen1.5 gptq int8 errored inference
其他 cgh8pdjw5个月前浏览 (38)5个月前
1回答
72浏览
inference 有docker部署embedding的示例吗 inference
Docker vbopmzt15个月前浏览 (72)5个月前
3回答
47浏览
问题：使用xinference作为后台服务时，无法同时让多人进行提问, inference
其他 xesrikrc5个月前浏览 (47)5个月前
2回答
54浏览
inference 支持FunASR inference
其他 qvtsj1bj5个月前浏览 (54)5个月前
2回答
47浏览
inference Qwen-Audio支持 inference
其他 scyqe7ek5个月前浏览 (47)5个月前
1回答
42浏览
问题：Xinference.core.worker 4040错误，无法加载模型chatglm3-1-0, inference
其他 cigdeys35个月前浏览 (42)5个月前
1回答
41浏览
xinference.model.audio.whisper 64759 警告：将忽略对 whisper 转录的提示, inference
其他 jdg4fx2g5个月前浏览 (41)5个月前
2回答
38浏览
inference BUG:音频模型无法在魔搭社区下载 inference
其他 7xllpg7q5个月前浏览 (38)5个月前
1回答
39浏览
inference qwen1.5-7b多卡启动报错 inference
其他 ejk8hzay5个月前浏览 (39)5个月前
1回答
46浏览
inference 自定义模型Yi-6b，原本是base模型微调后成chat模型，运行后无法进行对话，提示：提示model_revision=None is not for chat. inference
其他 ozxc1zmp5个月前浏览 (46)5个月前
2回答
45浏览
inference 在使用qwen1.5聊天模型时，没有向vllm添加停用词, inference
其他 hfsqlsce5个月前浏览 (45)5个月前
1回答
52浏览
inference 功能需求 inference
其他 nimxete25个月前浏览 (52)5个月前
3回答
39浏览
inference 请问可以将lora纳入网页部署的选择内容吗？ inference
其他 wwodge7n5个月前浏览 (39)5个月前
1回答
42浏览
inference UI界面的注册自定义模型，模型参数无法输出0.5、1.8这些参数，希望下个版本修复 inference
其他 jaql4c8m5个月前浏览 (42)5个月前
2回答
41浏览
inference KV cache 的大小是哪里控制的？ inference
其他 lx0bsm1f5个月前浏览 (41)5个月前
5回答
124浏览
成功自定义部署本地模型，但在使用LangChain中的Xinference工具时，模型无法给出正常的回答, inference
其他 lndjwyie5个月前浏览 (124)5个月前
4回答
38浏览
inference 在使用vllm运行模型失败时出现一直占用gpu问题(The gpu occupied problem occurred when the model failed to run using vllm) inference
其他 cnh2zyt35个月前浏览 (38)5个月前
2回答
38浏览
inference 是否支持注册本地文生图模型或音频模型？ inference
其他 toiithl65个月前浏览 (38)5个月前
2回答
48浏览
inference 运行时错误：[地址=0.0.0.0:43266,进程ID=897] CUDA错误：无效参数,CUDA内核错误可能会在其他API调用中异步报告，因此下面的堆栈跟踪可能不正确,为了调试，请考虑传递CUDA_LAUNCH_BLOCKING=1,使用TORCH_USE_CUDA_DSA编译以启用设备端Assert, inference
其他 bfnvny8b5个月前浏览 (48)5个月前
3回答
43浏览
inference 容器化部署和本地部署，运行结果不一致 inference
其他 wmtdaxz35个月前浏览 (43)5个月前
1回答
346浏览
当运行可传递关系的查询时，grakn如何计算规则？ sql inference vaticle-typedb vaticle-typeql
Java jbose2ul2021-08-13浏览 (346)2021-08-13

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 3个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前