Spring Boot中，我想动态调用参数，但它限制得太死了：
@Bean
public ChatLanguageModel myCustomChatModel() {
return OpenAiChatModel.builder()
.apiKey("dynamically ")
.stop(dynamically )
.topP(dynamically )
.temperature(dynamically )
.modelName("dynamically ").build();
}
7条答案
按热度按时间jckbn6z71#
我也在考虑这个问题。
AiServicez9ju0rcb2#
@lbjfish@Kugaaa,请问您能描述一下您的使用场景吗？为什么需要在运行时更改参数？
@Kugaaa,是的，这个想法是为了让每个使用场景/客户等都有不同的
AiService/ChatLanguageModel示例，以实现SRP。z4bn682m3#
相关：#1190 (评论)
ef1yzkbh4#
对于我们的使用案例来说，这是一个非常需要的功能。
@langchain4j 我们的使用者有能力使用不同的模型(例如 gpt-3.5、gpt-4、gpt-4o,并使用不同的API密钥)。
nukf8bse5#
我仍然不清楚为什么更改参数更有意义，而不仅仅是创建一个新的
ChatLanguageModel。gpnt7bae6#
我脑海中有一个使用案例：自动启用JSON模式以提取结构化数据。如果
ChatLanguageModel示例没有启用它，并且AI服务方法返回一个POJO,我们可以自动启用JSON模式以提高正确输出的概率。6ojccjat7#
这确实有道理。