ollama 为"只读"模式添加环境变量

fnatzsnv  于 4个月前  发布在  其他
关注(0)|答案(3)|浏览(36)

当作为服务器运行时,Ollama当前将所有Ollama功能暴露为an API。如果作为公共API运行,API维护者可能只想暴露Ollama的生成和模型列表功能,以便他们的端点是“只读”的,而不是可以改变服务器状态的其他端点(推送、拉取、删除等)。我们可以设想一个环境变量,如OLLAMA_READ_ONLY,以实现上述目标。

56lgkhnf

56lgkhnf2#

你可能在服务器周围运行一些其他基础设施,而不仅仅是将裸露的ollama服务器放在互联网上。你不能在其前面运行一个代理吗?然后对那些改变服务器状态的端点进行空值或需要认证吗?

wyyhbhjk

wyyhbhjk3#

我同意,这是推荐的做法。
但是我们不会阻止用户仅仅暴露原始的Ollama API,我宁愿有一种"一个环境变量"的方式来使其只读,而不是要求每个人设置一个代理。

相关问题