Observers 介绍:通过轻量级 SDK 实现 Hugging Face 数据集的 AI 可观测性

社区文章 发布于 2024 年 11 月 21 日

我们很高兴推出 Observers,这是一个功能强大且灵活的库,旨在为生成式 AI 交互带来透明度和洞察力。了解和跟踪您的模型至关重要——这正是 Observers 助您实现的目标。

🚀 Observers 是什么?

Observers 是一个开源的 Python SDK,为生成式 AI API 提供全面的可观测性。我们的库使以下操作变得简单:

  • 跟踪和记录与 AI 模型的交互
  • 在多个后端存储观测数据
  • 轻松查询和分析您的 AI 交互

🌟 为什么选择 Observers?

  • 透明度:跟踪每一次 AI 交互
  • 灵活性:支持多种提供商和存储
  • 易用性:最少配置,最大洞察力
  • 开源:社区驱动的开发

📦 快速安装

入门很简单。只需使用 pip

pip install observers

✨ 主要功能

1. 灵活的 Observers

  • 封装任何兼容 OpenAI 的 LLM 提供商
  • 支持多种 AI 模型交互
  • 最少配置要求
  • 更多功能即将推出!

2. 强大的存储

将您的 AI 交互存储在各种后端中

  • Hugging Face 数据集
  • DuckDB
  • Argilla
  • 更多功能即将推出!

🔍 快速示例

import os
from observers.observers.models.openai import wrap_openai
from openai import OpenAI

api_key = os.environ["HF_TOKEN"]
openai_client = OpenAI(
    base_url="https://api-inference.huggingface.co/v1/", 
    api_key=api_key
)

client = wrap_openai(openai_client)

response = client.chat.completions.create(
    model="Qwen/Qwen2.5-Coder-32B-Instruct",
    messages=[{"role": "user", "content": "Tell me a joke."}]
)

🗃️ 轻松进行数据探索

无论您喜欢在 DuckDB 中进行 SQL 查询,还是喜欢 Hugging Face 数据集查看器,Observers 都能让您的交互数据易于访问和查询。

DuckDB 查询

> duckdb store.db
> SELECT * FROM openai_records LIMIT 10;

Hugging Face 数据集

Hugging Face Datasets

Argilla

Argilla

🤝 贡献

您对 AI 可观测性充满热情吗?我们欢迎在 GitHub 上做出贡献!

🔜 即将推出

  • 更多存储后端
  • 增强的筛选功能
  • 高级分析工具

准备好为您的 AI 交互带来清晰度了吗?立即开始使用 Observers!

🐞 GitHub 存储库

社区

注册登录 以发表评论