在拥有56GB RAM和16GB GPU的机器上运行。使用OPENAI作为PROXY LLM。 Jmeter 板聊天运行时间过长，一直在运行多个查询(有时同一个查询多次)。
如何改进？GPU仍然显示可用的VRAM。