🦸🏻#6: 剖析在智能体工作流中的作用
探索剖析如何塑造角色、意识和决策
🔳 Turing Post 在 🤗 Hugging Face 上驻扎 -> 点击关注！
引言
在人工智能智能体的动态世界中，**剖析（profiling）、知识**和**记忆**紧密交织，塑造着这些系统如何感知、适应并响应其环境和任务。剖析——在智能体设计中很少被单独归类——是智能体静态能力与动态适应性之间的桥梁，其基础是预设知识和更具适应性的记忆系统。它是智能代理能够创建与其交互的环境、用户和任务的详细“画像”的机制。通过综合智能体“已知”（预设知识）和“记忆”（历史和实时数据），剖析驱动着细致的决策、个性化交互和无缝任务执行。然后你再加入**推理和规划、反思、行动和沟通**——瞧——整个智能体工作流就完成了。
在本期中，**我们将深入探讨近期和早期研究论文，这些论文对“智能体剖析”的概念提供了引人入胜的视角。**剖析应被视为智能体工作流中一个独特且关键的核心组成部分，因为它充当着人机沟通的至关重要层。我们将重点介绍一些被遗忘已久的研究，并探索它们如何为当代方法提供信息。准备好了吗？我们开始吧。
本期内容包括什么？
- 剖析：理解周围的世界以及如何行动
- 1. 我是谁？智能体化身
- 2. 我做什么？智能体行为 (BDI 模型)
- 3. 我在哪里？智能体环境
- 4. 我有多好？智能体性能
- 5. 我能走多远？智能体资源
- 剖析：智能行为的基础*
- 总结性思考*
- 撰写本文所使用的资源（所有链接都在该部分中）*
对于本文中散布的拟人化术语，我们深表歉意——让我们同意它们都带引号。 （在“资源”部分，我们提供了一篇关于拟人化的论文，这是对话系统设计的必读之作。）
📨 如果您想直接在收件箱中收到我们的文章，请在此订阅
剖析：理解周围的世界以及如何行动
“剖析（Profiling）”并不是一个非常常见的术语，但我们希望坚持使用它，因为它完美地概括了智能体为了了解其环境和自身在其中的角色所需完成的一切。剖析是观察、分析和解释智能体操作环境的过程。这不仅仅限于识别物理或数字环境——剖析还包括评估性能指标和理解行为模式，从而创建一种多维意识，使智能体能够智能地行动。简而言之，剖析就是关于意识。我们如何解开这种意识呢？通过提出所有正确的问题 →
我是谁？智能体化身
在他们富有洞察力的论文《生成式智能体：人类行为的交互式模拟物》中，斯坦福大学和谷歌的研究人员使用了“智能体化身”一词，它代表了生成式智能体在虚拟沙盒世界中的视觉和交互式实体，将其模拟行为与可观察的行动和对话联系起来。
这个剖析，这个化身，赋予了智能体其“性格”并定义了其角色，从而决定了它的行为。
2. 我做什么？智能体行为 (BDI 模型)
理解智能体行为始于探索智能系统如何平衡即时反应与长期目标。**信念-欲望-意图 (BDI)** 模型提供了一种有影响力的方法来设计能够深思熟虑、规划和适应的智能体。该模型将智能体决策分为三个核心心理状态：
- **信念**：智能体对世界的了解或假设。
- **欲望**：智能体试图实现的目标或结果。
- **意图**：智能体为追求其欲望而承诺的计划。
BDI 模型的哲学根源可追溯到 **Michael Bratman** 及其 1987 年的著作《意图、计划与实践理性》。Bratman 将意图引入作为信念和欲望之间的关键联系，强调理性智能体如何随着时间协调其行动，同时适应新的信息和环境。
从哲学到实践
Bratman 的理论见解启发了研究人员 **Anand Rao** 和 **Michael Georgeff** 在 20 世纪 90 年代早期进行了进一步发展。他们在《情境推理系统验证的模型理论方法》一作中将 BDI 模型形式化为一个计算框架，为构建能够在动态环境中运行的理性智能体创建了结构。他们的工作旨在：
- 在不确定性下模拟决策。
- 平衡**反应性**（响应即时变化）与**深思熟虑**（追求长期目标）。
- 在保持行为逻辑一致性的同时实现适应性。
虽然 BDI 并非智能体唯一的框架，但其对心理状态表征和理性决策结构化的关注，已对学术研究和实际应用产生了影响。
情境推理与承诺
Rao 和 Georgeff 扩展了该模型，以解决**情境推理**的复杂性，其中智能体在不断变化和不可预测的环境中运行。他们引入了智能体在可能世界的分支路径中导航的思想，这些选择由其信念、行动和环境不确定性所塑造。
他们工作的核心是**承诺**的概念，它决定了智能体如何坚持追求目标：
- **盲目承诺**：坚持直到成功或失败确定。
- **专一承诺**：坚持除非实现目标不可能。
- **开放式承诺**：适应变化的欲望或信念。
这些区别使智能体能够在决心和灵活性之间取得平衡，这是在现实世界场景中有效运作的关键方面。
验证与多智能体系统
随着智能体开始处理安全关键应用，验证其行为的能力变得至关重要。Rao 和 Georgeff 引入了**分支时间 BDI 逻辑**，以确保智能体遵守特定属性，例如实现目标或避免有害结果。他们的方法实现了高效的**模型检查**，为验证智能体行为提供了线性或多项式时间复杂度。
Wooldridge 和 Jennings 后来在其开创性著作《智能体：理论与实践》中，将 BDI 框架扩展到**多智能体系统**，强调了协调、谈判和合作等社交能力。这一演变反映了智能体工作流日益复杂的特性，其中智能体不仅与环境交互，还相互交互，经常共享信念并协作以实现重叠目标。
虽然 BDI 只是众多方法中的一种，但其对理性和决策制定的强调为理解和设计智能体行为提供了宝贵的视角。它阐明了智能体不仅能行动，还能围绕其行动进行推理，以实现有意义的目标。
行为剖析侧重于根据历史数据和观察到的模式来理解和预测行为。这是创建在交互中感觉更少机械化、更直观的智能体的关键一步。例如，推荐引擎会剖析用户的浏览历史，以建议他们可能喜欢的产品。类似地，虚拟助手根据用户输入预测多步任务中的下一步。
- **实际工具**：行为剖析已在 AutoGPT 和 BabyAGI 等现代系统中找到了实际应用。这些平台利用历史数据和高级算法使智能体更具适应性和响应性。例如：
- **AutoGPT**：剖析用户提供的目标并迭代地完善其行为。
- **BabyAGI**：从先前的任务完成情况中学习，以优化未来的任务执行。
3. 我在哪里？智能体环境
智能体并非在真空中行动/表现。环境剖析成为智能体设计的核心。如果不能清晰地理解周围环境，智能体就无法有效地解释或与其环境交互。无论是在物理世界中，如天空中的无人机，还是在数字空间中，如金融交易算法，环境剖析都提供了它们运作所需的态势感知。
最常用的框架之一（在大学中教授）是 **PEAS** – **Performance measure（性能指标）、Environment（环境）、Actuators（执行器）和 Sensors（传感器）** 的缩写。它是一个简单而强大的框架，用于人工智能中分解智能体在其世界中的运作方式。该术语由 **Stuart Russell** 和 **Peter Norvig** 在他们的教科书《人工智能：现代方法》中引入。
PEAS 回答四个关键问题：
- **目标是什么？** 这是**性能指标**。什么定义了智能体的成功？例如，吸尘机器人性能的衡量标准可能是地板清洁程度和能源使用效率。对于自动驾驶汽车，则是安全性、燃油效率和准时到达。
- **智能体在哪里运作？** 这就是**环境**。是整洁的家，杂乱的仓库，还是繁忙的城市街道？理解环境至关重要，因为它定义了智能体将面临的挑战。
- **它如何作用于世界？** 这些是**执行器**，也就是智能体用来实现目标的工具。Roomba 使用轮子和刷子进行清洁，而聊天机器人通过生成文本来“行动”。
- **它如何感知世界？** 这就是**传感器**，它们为智能体提供有关其环境的信息。对于吸尘器，传感器检测污垢并避开障碍物。对于自动驾驶汽车，则是摄像头、激光雷达和 GPS，提供关于周围环境的持续更新。
这是交易算法的 PEAS：
4. 我有多好？智能体性能
是的，性能是 PEAS 的第一个字母，但自从生成式人工智能兴起以来，性能评估和基准测试已发展成为一个成熟的产业，推动了人工智能研究和开发的创新和竞争。然而，它们也已成为研究人员和实践者共同的持久难题。为什么？因为虽然像 MMLU 或 HumanEval 这样的基准提供了共同的衡量标准，但它们往往过分简化了人工智能智能体性能的细微现实。
Kapoor 等人关于《重要的 AI 智能体》的研究直接触及了这种紧张关系。他们的论文揭示了基准有时如何激励狭隘的优化而非更广泛的能力，从而制造出一种卓越的幻象。例如，像 STeP 这样的系统利用 WebArena 中特定于基准的模式，而不是展示真正的理解——这是一个基准被滥用而非真正反映实用性的明显案例。同样，论文中探讨的成本-准确性权衡突出显示了排行榜如何倾向于优先考虑炫目的性能指标，同时忽略了计算和现实世界的可行性。
这个日益增长的“基准测试行业”创造了一个悖论：它在推动快速进步的同时，也引发了一场追求可能无法转化为实际效果的最高指标的竞赛。Kapoor 等人呼吁整合成本效率指标并采用标准化、可复现的实践，这是解决这一难题的关键一步——使基准测试行业更符合人工智能部署和创新的实际目标。
5. 我能走多远？智能体资源
资源监控对于智能体至关重要，它使智能体能够评估其计算、网络和物理限制。通常，环境剖析始于资源监控。此过程为决策提供信息，确保智能体有效地适应动态环境。现代 AI 智能体必须仔细平衡其能力与可用资源，以维持最佳性能。这种监控远不止简单的容量检查——它是一个复杂的指标、阈值和动态调整系统，可确保在不同负载下平稳运行。
核心资源指标
- 计算资源
- 内存管理：智能体跟踪 RAM 使用情况和内存分配模式，实施垃圾回收策略以防止内存泄漏并保持响应能力
- 处理能力：监控 CPU/GPU 利用率、线程管理和处理队列长度，以防止瓶颈
- 存储需求：跟踪 I/O 操作、缓存效率和存储容量，以优化数据访问模式
- 网络资源
- API 管理：监控速率限制、配额使用和请求延迟，以防止服务中断
- 带宽利用率：跟踪数据传输速率和网络拥塞，以优化通信效率
- 连接健康状况：监控网络稳定性和错误率，以确保可靠运行
- **物理资源**（针对具身智能体）
- 电源管理：电池电量、充电周期和能耗模式
- 硬件健康：传感器校准、执行器磨损和组件温度
- 环境影响：资源消耗足迹和效率指标
剖析在智能行为中的作用
**剖析**不仅仅是技术上的必要性——它是连接智能体**知识、记忆、推理和行动**的**连接组织**。通过描绘智能体的身份、行为、环境、性能和资源，剖析为智能、情境感知系统奠定了基础。它将静态工具转化为动态协作者，能够进行细致的决策和有意义的交互。
总结
随着智能体变得越来越复杂，它们的各个组件必须无缝协作，以确保精确性、适应性和有意义的交互。**剖析使智能体能够理解其目的，而知识加深了它们的专业技能，记忆存储了它们的经验，推理和规划指导了它们的策略，反思完善了它们的过程，行动则将它们的决策变为现实**。这些相互关联的元素构成了智能体工作流的支柱，推动了人工智能从僵硬的工具向动态协作系统的演变。
在接下来的几期中，我们将继续单独剖析智能体系统和工作流的核心组成部分，探索每个部分如何促进智能体的创建。从复杂的内存系统设计到战略性的推理和规划能力，我们将揭示塑造人工智能未来的最新创新和挑战。
站在技术创新和以人为本的设计的交汇点，随着生成式人工智能的加速发展，人工智能智能体的可能性是巨大的。通过对其核心组件的深思熟虑的整合，这些系统有望改变我们互动、学习和共同实现目标的方式。
撰写本文所使用的资源：
- 基于大型语言模型的用户行为模拟，作者：Wang 等人（2023 年 6 月提交，2024 年 2 月最后修订）
- 海市蜃楼。关于对话系统中的拟人化
- 生成智能体：人类行为的交互式模拟物
- 斯图尔特·拉塞尔和彼得·诺维格著《人工智能：现代方法》（这是本书中介绍 PEAS 的章节智能体）
- 《意图、计划与实践理性》，作者：Michael Bratman
- 重要的 AI 智能体，作者：Kapoor 等人。
感谢您的阅读！📨 如果您想直接在收件箱中收到我们的文章，请在此订阅