Neuro SAN 即您所需的一切

社区文章 发布于 2025 年 6 月 17 日

作者:迪帕克·辛格

欢迎阅读我们对 Neuro SAN 的重点介绍,这是一个数据驱动的多智能体编排框架,正在革新智能系统。它非常适合机器学习工程师、架构师、产品经理和充满好奇的学生,让我们直接开始吧!

多智能体编排简介

多智能体编排框架通过协调专业 AI 智能体来解决复杂任务,克服了单智能体设置的局限性,并允许进行复杂的定制和增量扩展,这两者都是业务 AI 赋能的要求。来自 Cognizant AI Lab 的 Neuro-SAN 通过采用完全数据驱动的配置方法,将编排提升到更实用和强大的水平,从而实现声明式定义而非硬编码逻辑。

Neuro-SAN 的核心概念与设计

Neuro SAN 通过数据配置文件(HOCON 格式)编排 LLM 驱动的智能体,降低了非编码人员的入门门槛。其强大的编排能力允许采用 AAOSA 协议,从而实现智能体之间任务的动态去中心化路由。智能体可以自然地通信,根据角色特定的专业知识委派任务。

主要功能

  • 数据驱动配置: 无需代码,只需配置文件。
  • 分层智能体: 智能体之间分层委派。
  • 编码工具: 智能体无缝集成确定性 Python 函数,将自然语言推理与确定性计算相结合。
  • 灵活部署: 可嵌入运行,也可通过独立的 HTTP/gRPC 服务器运行。

高层架构:

image/png

技术优势与独特功能

自适应智能体通信与协调 (AAOSA)

AAOSA(自适应智能体导向软件架构)允许智能体以健壮且面向未来的方式动态地自路由查询,在无需中央监督的情况下增强灵活性和效率,从而保证了封装性和可扩展性。

安全数据交换 (Sly-Data)

智能体使用 `sly_data`,这是一种用于敏感数据的受保护数据通道,绝不会将其暴露给 LLM 或自然语言提示,从而确保数据安全和隐私。通过使用这种机制,多个智能体可以处理同一数据结构的不同方面,而无需通过其 LLM 完整传输数据,从而节省了宝贵的上下文空间,并减少了在需要严格和结构化数据语法时出现幻觉和回忆错误的易感性。

编码工具与外部集成

Neuro SAN 支持通过易于定义的 Python 工具集成外部 API、服务(例如 Agentforce、Agentspace)和其他框架(例如 MCP、A2A)。

动态网络创建

内置的智能体网络设计器元智能体网络可根据用户描述自动创建新的智能体配置,从而加快原型开发速度。

智能体特定上下文与日志记录

每个智能体都有量身定制的上下文和设置。丰富的日志记录提供了智能体交互和工具执行的透明视图,便于调试和系统审计。

工具与外部集成

Neuro SAN 智能体调用编码工具,如数据库查询、API 或复杂计算。一个编码工具示例(`AccountantSly`)演示了如何在智能体通信中保持有状态的交互。

class AccountantSly(CodedTool):
    def invoke(self, args, sly_data):
        running_cost = float(sly_data.get("running_cost", 0.0))
        updated_running_cost = running_cost + 3.0
        sly_data["running_cost"] = updated_running_cost
        return {"running_cost": updated_running_cost}

这种模式确保了安全、确定性的操作以及 LLM 驱动的推理。

可扩展性与开发者支持

Neuro SAN 具有高度适应性。

  • LLM 无关: 使用 hocon 配置文件,无需代码即可轻松切换或添加 OpenAI、Anthropic 或本地模型等模型。
  • 云与环境无关: 随处部署——容器、本地或云端。
  • 开发者工具: 丰富的 Neuro-SAN 日志、实时调试和内置测试工具简化了开发和故障排除。
  • 安全与治理: 通过配置明确定义数据流策略,确保符合企业安全标准。

运行时与性能

Neuro SAN 专为可伸缩性而设计,利用 Python 的异步特性高效协调多个智能体,实现响应式、并发的智能体通信。它可以轻松进行水平扩展,并与企业级可观察性系统(ELK、Prometheus、AWS CloudWatch)良好集成,确保在高并发场景下性能流畅。

日志、跟踪与可观察性

Neuro-SAN 提供智能体工作流的详细跟踪,捕获交互、工具调用和指标。与可观察性平台的集成提供实时监控和警报。

[2025-05-15 22:46:21]: "token_accounting": {"time_taken_in_seconds": 18.29955291748047, "total_cost": 0.041325, "successful_requests": 6.0, "completion_tokens": 1097.0, "total_tokens": 13815.0, "prompt_tokens": 12718.0}

[2025-05-15 22:46:26]: airline_policy (NeuroSan): {"origin": ["Airline 360 Assistant", "Baggage_Handling", "Checked_Baggage", "ExtractDocs"]}

实时示例:“音乐迷专业版 Sly”

概述

一个智能体网络在回答音乐相关查询的同时,通过 Accountant 编码工具跟踪成本,并使用 sly_data 安全地管理状态。

快速设置

git clone https://github.com/cognizant-ai-lab/neuro-san-studio
cd neuro-san-studio
python -m venv .venv && source .venv/bin/activate
pip install -r requirements.txt
export OPENAI_API_KEY="your-key"
python -m run

通过 http://127.0.0.1:4173 访问,选择智能体网络并直接交互。

nsflow client home-page

nsflow 客户端主页

与 music_nerd_pro_sly 智能体的交互示例:

人类输入:谁写了歌曲 Yellow Submarine?

{
  "answer": "The song 'Yellow Submarine' was written by Paul McCartney 
  and John Lennon of The Beatles. It was primarily sung by Ringo Starr 
  and appeared on their 1966 album 'Revolver'",
  "running_cost": "3.0"
}

Neuro SAN 维护上下文,无缝更新成本,并在后台安全处理状态。

Interaction with music_nerd_pro_sly agent

与 music_nerd_pro_sly 智能体的交互

与其他框架的比较

image/png

总结

Neuro SAN 提供了一个易于配置、高度灵活、安全的编排框架,能够轻松扩展复杂的多智能体系统。无论您是构建复杂的企业应用程序还是快速 AI 原型,Neuro SAN 都能为您提供自信编排多智能体解决方案所需的一切。立即试用 Neuro-SAN!

参考:

GitHub — cognizant-ai-lab/neuro-san-studio: 展示 Neuro-SAN 的基本演示

GitHub — cognizant-ai-lab/neuro-san: 智能体网络的 NeuroAI 系统

GitHub — cognizant-ai-lab/nsflow: NeuroSan Flow

长篇版本链接:长篇 Neuro SAN 即您所需的一切 — 一个数据驱动的多智能体编排框架

社区

注册登录 发表评论