1. LLM作为知识宝库:LLM基于海量的互联网数据进行训练,并定期更新(即GPT-3、GPT-3.5、GPT-4、GPT-4o等)。
2. 涌现能力:随着LLM的发展,它们展现出小型模型中不具备的能力。
这是否意味着我们已经达到了人类水平的智能,即我们所说的AGI?Gartner将AGI定义为一种能够在广泛的任务和领域中理解、学习和应用知识的AI形式。通往AGI的道路还很漫长,其中一个关键障碍是LLM训练的自回归性质,这种性质基于过去的序列来预测单词。作为AI研究的先驱之一,Yann LeCun指出,由于自回归性质,LLM可能会偏离准确答案,因此,LLM存在几个局限性:
• 知识有限:尽管训练数据庞大,但LLM缺乏最新的世界知识。
• 推理能力有限:LLM的推理能力有限,如Subbarao Kambhampati所指,LLM是优秀的知识检索者,但不是优秀的推理者。
• 缺乏动态性:LLM是静态的,无法访问实时信息。
为了克服LLM的挑战,需要一种更先进的方法,这就是智能体变得至关重要的地方。
智能体来救场
AI中智能体的概念已经发展了二十多年,其实施方式也随时间而变化。如今,人们在LLM的语境下讨论智能体。简而言之,智能体就像是应对LLM挑战的瑞士军刀:它可以帮助我们进行推理,提供从互联网获取最新信息的手段(解决LLM的动态性问题),并且可以自主地完成任务。以LLM为支柱,智能体正式包含工具、记忆、推理(或规划)和行动组件。
AI智能体的组件
• 工具使智能体能够访问外部信息,无论是来自互联网、数据库还是API,从而收集必要的数据。
• 记忆可以是短期的或长期的。智能体使用暂存记忆来暂时保存来自各种来源的结果,而聊天历史则是长期记忆的一个例子。
• 推理器使智能体能够有条不紊地思考,将复杂任务分解为可管理的子任务,以便有效处理。
• 行动:智能体根据其环境和推理结果采取行动,通过反馈迭代地适应和解决问题。ReAct是迭代执行推理和行动的常用方法之一。
智能体擅长什么?
智能体在处理复杂任务时表现出色,尤其是在角色扮演模式下,能够利用LLM增强的性能。例如,在撰写博客时,一个智能体可能专注于研究,而另一个则负责写作——每个智能体都处理一个特定的子目标,这种多智能体方法适用于许多现实问题。
角色扮演有助于智能体专注于特定任务以实现更大的目标,通过明确定义提示的各个部分(如角色、指令和上下文)来减少幻觉。由于LLM的性能取决于结构良好的提示,因此各种框架都将这一过程形式化。接下来我们将讨论这样一个框架——CrewAI,它提供了一种结构化的方法来定义角色扮演。
多智能体与单智能体
以使用单智能体的检索增强生成(RAG)为例,这是一种有效的方法,通过利用索引文档中的信息来增强LLM处理特定领域查询的能力,然而,单智能体RAG也有其自身的局限性,如检索性能或文档排名。多智能体RAG通过为文档理解、检索和排名部署专用智能体来克服这些局限性。
在多智能体场景中,智能体以不同的方式协作,类似于分布式计算模式:顺序、集中、分散或共享消息池。CrewAI、Autogen和langGraph+langChain等框架支持通过多智能体方法解决复杂问题。在本文中,我使用CrewAI作为参考框架来探索自主工作流管理。
工作流管理:多智能体系统的一个用例
大多数工业流程都涉及工作流管理,无论是贷款处理、营销活动管理还是DevOps。实现特定目标需要顺序或循环的步骤。在传统方法中,每个步骤(例如贷款申请验证)都需要人工来执行繁琐且单调的任务,即手动处理每个申请并进行验证,然后再进入下一步。
每个步骤都需要该领域专家的输入。在使用CrewAI的多智能体设置中,每个步骤都由一个由多个智能体组成的团队来处理。例如,在贷款申请验证中,一个智能体可能通过背景检查(如驾驶证等文件)来验证用户的身份,而另一个智能体则验证用户的财务信息。
这就引出了一个问题:一个团队(包含多个顺序或层级结构的智能体)能否处理所有贷款处理步骤?虽然理论上可行,但这会使团队变得复杂,需要大量的临时记忆,并增加目标偏离和幻觉的风险。一种更有效的方法是将每个贷款处理步骤视为一个独立的团队,将整个工作流视为一个团队节点图(使用langGraph等工具)顺序或循环运行。
由于LLM仍处于智能发展的早期阶段,因此无法完全自主地管理整个工作流。在关键阶段需要人工参与进行最终用户验证。例如,在团队完成贷款申请验证步骤后,需要人工监督来验证结果。随着时间的推移,随着对AI的信任增加,某些步骤可能会变得完全自主。目前,基于AI的工作流管理起着辅助作用,简化了繁琐的任务并减少了整体处理时间。
生产挑战
将多智能体解决方案投入生产可能会面临几个挑战。
• 规模:随着智能体数量的增加,协作和管理变得具有挑战性。各种框架提供了可扩展的解决方案——例如,Llamaindex采用事件驱动的工作流来大规模管理多智能体。
• 延迟:由于任务迭代执行,需要多次调用LLM,因此智能体性能往往会产生延迟。受管理的LLM(如GPT-4o)由于隐式护栏和网络延迟而速度较慢。自托管的LLM(具有GPU控制)在解决延迟问题方面非常有用。
• 性能和幻觉问题:由于LLM的概率性质,智能体的性能可能会因每次执行而异。像输出模板化(例如JSON格式)和在提示中提供充足示例等技术有助于减少响应的可变性。通过训练智能体可以进一步减少幻觉问题。
最后的思考
正如Andrew Ng所指出的,智能体是AI的未来,并将与LLM一起不断发展。多智能体系统将在处理多模态数据(文本、图像、视频、音频)和应对日益复杂的任务方面取得进展。虽然AGI和完全自主的系统仍在未来,但多智能体将填补LLM和AGI之间的当前空白。
企业网D1net(www.d1net.com):
国内主流的to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。