AI智能体：关键概念及其如何克服LLM局限性

随着大型语言模型（LLM）的日益强大，一种被称为“智能体”的新型软件应运而生，旨在增强LLM的功能。本文将介绍智能体的关键概念及其如何补充LLM。

自从基于GPT 3.5的ChatGPT首次发布以来，大型语言模型已经逐渐演变和成熟。一些近期发布的模型，如GPT-4o、Gemini Pro和Claude Opus，甚至展示了高级推理能力。开放语言模型的领域也在快速发展，许多LLM的变体已经发布供私人环境使用。在推理和回答复杂问题方面，一些开放语言模型，如Mistral和Llama 3，与商业模型相当。这些发展推动了智能体的趋势。

什么是智能体？

智能体是一种自主软件实体，它利用LLM的语言处理能力执行广泛的任务，超越了简单的文本生成和理解。这些智能体通过加入与数字环境互动、决策并基于从LLM中获取的语言理解执行动作的机制，扩展了LLM的功能。

在操作系统的上下文中，可以将LLM视为内核，而智能体视为程序。

智能体依赖LLM执行推理，同时通过增加新功能来扩展LLM的功能。

LLM存在若干局限性，智能体试图克服这些局限。让我们来看看其中的一些限制。

LLM的局限性

LLM没有记忆 类似于REST API调用，调用LLM是完全无状态的。与LLM的每次交互都是独立的，这意味着模型本质上不会记住之前的交流或基于先前的对话进行构建。这种局限性影响了长期互动的连续性和连贯性，因为模型无法利用历史上下文来指导未来的响应。LLM的无状态性质要求每个输入都必须是完全自包含的，这导致在扩展使用情况下出现重复或脱节的互动。
LLM调用是同步的 LLM以同步方式操作，这意味着它们顺序地处理和响应每个输入，一次一个。这种同步操作意味着模型必须完成对给定输入的响应，然后才能处理下一个输入。在需要实时互动或同时处理多个查询的场景中，这种顺序处理可能是一种限制，因为它不能固有地并行处理不同的输入。
LLM可能会产生幻觉 LLM可能会产生幻觉，即模型生成的内容在事实上不正确或无意义。这种现象的发生是因为LLM在互联网上的海量数据集上训练，从中学习模式和关联，而不是事实准确性。因此，它们可能会捏造细节或自信地呈现虚假信息，制造出知识的错觉。
LLM不能访问互联网 LLM无法浏览网页或调用网络服务，因此它们仅限于训练时的数据，无法实时检索或验证来自在线源的信息。这种限制意味着它们的响应仅基于内嵌的已有知识，可能不够及时或上下文相关。因此，LLM无法提供最新的新闻更新、访问最新的研究或从动态在线数据库中提取数据，这使得它们在需要最新信息的任务中效果不佳。
LLM在数学方面表现不佳 LLM在处理数学任务时通常表现不佳，尤其是需要精确计算或复杂问题解决的任务。这种局限性是因为LLM主要设计用于理解和生成基于大量文本数据集模式的自然语言。虽然它们可以执行简单的算术运算和遵循基本的数学规则，但它们在解决更复杂的数学问题或确保多步计算的准确性方面能力有限。它们通常缺乏执行高级数学操作所需的结构化逻辑推理。
LLM的输出具有非确定性 LLM的输出在数据格式和结构上表现出非确定性，这意味着相同的输入每次处理时可能会产生不同的输出。这种可变性源于LLM底层算法的概率性质，这些算法根据学习到的模式从一系列可能的响应中进行选择，而不是基于确定性规则。因此，输出的格式和结构可能会有所不同，使得在需要一致性结果的应用中实现一致性变得具有挑战性，特别是自动报告生成、表单填充或数据提取等应用。

智能体如何增强LLM？

智能体弥合了传统软件开发工具和LLM之间的差距，从而帮助解决或缓解上述一些局限性。

例如，通过集成网页浏览和代码执行环境等工具，智能体可以在LLM分析并生成详细响应之前，将现实世界的数据与复杂的计算相结合。

图片来源：The New Stack

在操作系统的上下文中，可以将LLM视为内核，而智能体视为程序。Shell由智能体执行所需的工具和支持服务组成。智能体通过连接完成任务所需的工具和外部服务，增强了LLM的功能。

让我们了解智能体在增强LLM能力中的角色。

记忆和上下文保留 与无状态且不保留先前交互记忆的LLM不同，智能体可以集成记忆机制以记住过去的交互并在其基础上进行构建。这使智能体能够在长期互动中保持连续性和连贯性，利用历史上下文来指导未来的响应。这种能力通过创建更加个性化和上下文相关的互动来提升用户体验。
异步和并行处理 虽然LLM以同步和顺序方式处理输入，但智能体可以同时管理多个任务并进行异步操作。这种并行处理能力使智能体能够更有效地处理实时互动，提高在需要同时处理多个查询或任务的场景中的效率和响应能力。
事实核查和实时信息访问 智能体可以通过整合实时数据验证和外部信息源访问来减轻LLM幻觉的问题。通过连接互联网或特定数据库，智能体可以验证LLM生成的信息，确保其准确性并减少错误或误导性输出的发生。这使得智能体在需要最新和精确信息的应用中尤其有价值。
增强的数学能力 智能体可以集成专门的数学引擎或软件来处理复杂的计算和问题解决任务，弥补LLM在数学方面的弱点。这种集成使智能体能够执行精确和可靠的数学操作，扩展其在技术和科学领域的实用性。
一致的输出格式 为了解决LLM输出的非确定性，智能体可以实施后处理步骤以标准化响应的格式和结构。例如，它们可以强制LLM输出始终以JSON或XML格式呈现。通过确保数据呈现的一致性，智能体可以在需要统一性的应用中提高输出的可靠性，如报告生成和数据提取。
基于角色的互动 智能体通过利用记忆和个性化功能，增强了与LLM的基于角色的互动，创造出更加量身定制和吸引人的用户体验。通过在多次互动中保持上下文，智能体可以调整响应以符合用户的偏好、历史和对话风格，模拟出一致的角色。这种个性化方法不仅提升了用户满意度，还使智能体能够提供更相关和上下文感知的帮助。智能体可以根据用户反馈和过去的互动动态调整其行为，使对话更加自然和人性化。

LLM已经显著发展，例如GPT-4o和Gemini 1.5。然而，它们仍然是无状态的，顺序处理输入，可能会产生幻觉，缺乏实时数据访问，在复杂数学问题上表现不佳，并且输出具有非确定性。

智能体通过集成记忆机制、管理任务的异步处理和实时信息验证来增强LLM的功能，从而提高其准确性和连贯性。它们还集成了专门的数学引擎并标准化输出格式，使其在各种应用中更加可靠和高效。