我认为使用函数调用可以让LLM输出结构化输出。
我的初步想法是用户可以添加他们想要的具体结构，例如：

{
'Belief‘: ...
"Desire": ...
"Intention": ...}

并且他们需要描述每个部分需要输出的内容。例如：{"Belief": "what's your belief"}。同时，用户还需要指定何时需要结构化输出。最后，用户还需要指定哪个角色需要结构化输出。最终的输入可能是

{
    "assistant": [
        "when you need to help the task",
        {
            "Belief": "what's your Belief",
            "Desire": "what's your desire",
            "Intention": "what's your Intention"
        }
    ]
}

我们为角色扮演类添加一个接口，该接口发送此消息。然后助手将输出结构化输出。我们将在代理中构建一个函数调用。
我们将以如下格式构建参数：

{
    "type": "object",
    "properties": {
        "Believe": {
            "type": "string",
            "description": "What's your Believe?",
        },
        "Desire": {
            "type": "string",
            "description": "What do you desire?",
        },
        "Intention": {
            "type": "string",
            "description": "What's your Intention?",
        }
    },
    "required": ["Believe", "Desire", "Intention"],
}

然后我们将有以下函数调用：

money_call = OpenAIFunction(
    func=generate_text,
    name="generte_text",
    description="USER GIVEN",
    parameters=USER GIVEN,
)

可以使用以下方式生成generate_text函数：

def generate_function(strings):
    params = ', '.join(strings)
    
    dict_entries = ', '.join(f'"{s}": {s}' for s in strings)
    
    code = f"""
def generated_function({params}):
    return {{{dict_entries}}}
"""
    local_vars = {}
    exec(code, globals(), local_vars)
    
    return local_vars['generated_function']

通过这种方式，代理的输出可能是结构化的

太好了，@yitianlian!使用函数调用是与当前多代理系统所采用的方法不同的另一种方式。然而，我们需要推理来解释它为什么比多代理所做的事情更好。
此外，我不确定您是否考虑了问题描述中的"使用现有工具":"有一些开源工具，如Outlines和Instructor,它们试图提供结构化的输出。然而，将这些工具与LLM集成可能需要额外的努力，并且可能不会无缝衔接。"
因此，我认为类似的任务/问题已经被其他开源项目完成，您对此有何看法？我只是想避免重复造轮子。如果您无法做出决定，您可以询问@lightaime。谢谢。

我之前使用过工具Instructor来帮助我结构化模型的输出。在我看来，与函数调用相比，它有两个缺点：

1. Instructor 需要特定的代理来结构化输出，因为这个工具是用来从提示中提取信息的。这可能会造成成本。
2. 如果输入提示没有包含所有信息，它会抛出一个错误，这是不稳定的。
   关于Outlines,我没有使用过，抱歉。所以我会和@lightaime讨论一下。

好的，结论很好，期待你的进步：)