ollama 获取模型信息的简单方法?

20jt8wwn  于 2个月前  发布在  其他
关注(0)|答案(4)|浏览(36)

是否有简单的方法获取模型信息?我想知道任何模型的上下文大小窗口,最好是从端点API中获取。
如果无法从端点API中获取此信息,我希望为此功能做出贡献,但我不确定每个模型中该信息的位置。对于此事的建议将不胜感激。谢谢!

wkftcu5l

wkftcu5l1#

我发现的一个问题是,当你在终端运行一个模型时,你可以在运行serve命令的终端窗口中看到所有的模型信息。尽管我同意——这应该是以一种更优雅的方式获得的。

6mzjoqzu

6mzjoqzu2#

我想要获取一个可拉取的模型列表。如果你可以从注册表中拉取并推送到注册表,你不应该能看到注册表中的内容吗?

jyztefdp

jyztefdp3#

我想要一个远程命令列表,以查看可用的可能模型。

rqdpfwrv

rqdpfwrv4#

我已经使用了一个带有--list-remote选项的叉子,它从ollama.ai/library中拉取模型并将它们解析到CLI中。我发现它很有用(尽管不是必需的),并添加了一个PR,以防社区想要将其升级。

相关问题