Observers 介绍:通过轻量级 SDK 实现 Hugging Face 数据集的 AI 可观测性
社区文章 发布于 2024 年 11 月 21 日
我们很高兴推出 Observers,这是一个功能强大且灵活的库,旨在为生成式 AI 交互带来透明度和洞察力。了解和跟踪您的模型至关重要——这正是 Observers 助您实现的目标。
🚀 Observers 是什么?
Observers 是一个开源的 Python SDK,为生成式 AI API 提供全面的可观测性。我们的库使以下操作变得简单:
- 跟踪和记录与 AI 模型的交互
- 在多个后端存储观测数据
- 轻松查询和分析您的 AI 交互
🌟 为什么选择 Observers?
- 透明度:跟踪每一次 AI 交互
- 灵活性:支持多种提供商和存储
- 易用性:最少配置,最大洞察力
- 开源:社区驱动的开发
📦 快速安装
入门很简单。只需使用 pip
pip install observers
✨ 主要功能
1. 灵活的 Observers
- 封装任何兼容 OpenAI 的 LLM 提供商
- 支持多种 AI 模型交互
- 最少配置要求
- 更多功能即将推出!
2. 强大的存储
将您的 AI 交互存储在各种后端中
- Hugging Face 数据集
- DuckDB
- Argilla
- 更多功能即将推出!
🔍 快速示例
import os
from observers.observers.models.openai import wrap_openai
from openai import OpenAI
api_key = os.environ["HF_TOKEN"]
openai_client = OpenAI(
base_url="https://api-inference.huggingface.co/v1/",
api_key=api_key
)
client = wrap_openai(openai_client)
response = client.chat.completions.create(
model="Qwen/Qwen2.5-Coder-32B-Instruct",
messages=[{"role": "user", "content": "Tell me a joke."}]
)
🗃️ 轻松进行数据探索
无论您喜欢在 DuckDB 中进行 SQL 查询,还是喜欢 Hugging Face 数据集查看器,Observers 都能让您的交互数据易于访问和查询。
DuckDB 查询
> duckdb store.db
> SELECT * FROM openai_records LIMIT 10;
Hugging Face 数据集
Argilla
🤝 贡献
您对 AI 可观测性充满热情吗?我们欢迎在 GitHub 上做出贡献!
🔜 即将推出
- 更多存储后端
- 增强的筛选功能
- 高级分析工具
准备好为您的 AI 交互带来清晰度了吗?立即开始使用 Observers!