什么是AI代理
代理是一个被赋予目标和实现目标的工具的模型。普通助理只需通过文字回复即可。代理可以自己决定采取什么步骤,调用工具(例如,搜索数据库,发送请求,计算),得到结果并进一步朝着目标前进。也就是说,代理人不仅会说话,而且还通过他可用的工具来行动。
代理与聊天机器人有何不同?
聊天机器人在对话中一次回答一个问题。代理分几个步骤处理任务:计划、执行、检查结果,并在必要时重复。主要区别在于自主权和工具的使用权。当机器人需要人类手动引导时,代理可以自己完成一系列步骤。
代理可以做什么以及在哪里使用
代理用于将任务分为多个步骤并且需要操作而不仅仅是文本的情况:从不同来源收集和构建信息,处理访问系统的请求流,执行多步骤例程。与函数调用相结合,代理使用真实的、新鲜的数据,而不是发明它。
边界和风险
代理很强大,但复杂性也会带来损失。成本和延迟随着步骤数量的增加而增加,错误不断累积(早期步骤的失误会破坏整个链条),并且未经验证的不可逆转的操作是危险的。因此,代理人被赋予了最低限度的权利,不可逆转的事情通过人工确认传递,并且他的工作被记录下来。自主需要控制。
当不需要代理时
最常见的错误是构建一个代理,一个好的提示或一个简单的链就足够了。每个额外的代理都会增加成本、延迟和故障点。从简单的解决方案开始,仅在角色或并发确实需要时才增加复杂性。默认是一个好的代理,而不是一群。