是否有简单的方法获取模型信息?我想知道任何模型的上下文大小窗口,最好是从端点API中获取。如果无法从端点API中获取此信息,我希望为此功能做出贡献,但我不确定每个模型中该信息的位置。对于此事的建议将不胜感激。谢谢!
wkftcu5l1#
我发现的一个问题是,当你在终端运行一个模型时,你可以在运行serve命令的终端窗口中看到所有的模型信息。尽管我同意——这应该是以一种更优雅的方式获得的。
6mzjoqzu2#
我想要获取一个可拉取的模型列表。如果你可以从注册表中拉取并推送到注册表,你不应该能看到注册表中的内容吗?
jyztefdp3#
我想要一个远程命令列表,以查看可用的可能模型。
rqdpfwrv4#
我已经使用了一个带有--list-remote选项的叉子,它从ollama.ai/library中拉取模型并将它们解析到CLI中。我发现它很有用(尽管不是必需的),并添加了一个PR,以防社区想要将其升级。
--list-remote
4条答案
按热度按时间wkftcu5l1#
我发现的一个问题是,当你在终端运行一个模型时,你可以在运行serve命令的终端窗口中看到所有的模型信息。尽管我同意——这应该是以一种更优雅的方式获得的。
6mzjoqzu2#
我想要获取一个可拉取的模型列表。如果你可以从注册表中拉取并推送到注册表,你不应该能看到注册表中的内容吗?
jyztefdp3#
我想要一个远程命令列表,以查看可用的可能模型。
rqdpfwrv4#
我已经使用了一个带有
--list-remote
选项的叉子,它从ollama.ai/library中拉取模型并将它们解析到CLI中。我发现它很有用(尽管不是必需的),并添加了一个PR,以防社区想要将其升级。