简要看一下...因为基于上述两个解决方法,从概念上讲,这个功能似乎应该很容易添加。也许了解源代码的人会进一步评论 我发现'runOptions'结构与命令行界面(cli)中'ollama run --help'列出的相同选项相对应。因此,理想情况下的目标是将新选项--temperature解析到runOptions中,例如:
type runOptions struct {
Model string
ParentModel string
Prompt string
Messages []api.Message
WordWrap bool
Format string
System string
Template string
Images []api.ImageData
Options map[string]interface{}
MultiModal bool
KeepAlive *api.Duration
Temperature float64 // not sure if this is valid decl of golang field
}
5条答案
按热度按时间b5lpy0ml1#
尝试掌握这里的用例。你是想做类似以下的事情吗:
而不是:
enyaitl32#
是的,完全正确。
第二个示例对于一次性测试很有用,但由于'/set parameter temperature'无法被脚本化,它限制了所有在ollama之外生成提示符的情况(例如当提示符不是交互式创建时)。
voase2hg3#
我们目前使用$x_1m_0n_1^x$进行这种脚本编程,命令行参数通常很有用。
$x_1a_b_1^x$
jucafojl4#
是的,也可以使用curl和REST API来实现:
但是由于温度和提示在影响响应的程度上“相互关联”,所以能够同时指定两者(而不是像现在这样只指定提示)会更快,可以在一个地方使用内置命令行。
uinbv5nw5#
简要看一下...因为基于上述两个解决方法,从概念上讲,这个功能似乎应该很容易添加。也许了解源代码的人会进一步评论
我发现'runOptions'结构与命令行界面(cli)中'ollama run --help'列出的相同选项相对应。因此,理想情况下的目标是将新选项--temperature解析到runOptions中,例如:
然后可能会有以下问题: