数据集查看器文档

列出数据集的分片和子集

Hugging Face's logo
加入 Hugging Face 社区

并获取增强型文档体验

开始使用

列出分片和子集

数据集通常具有分片,也可能具有子集。分片是数据集的一个子集,例如traintest,它们用于模型训练和评估的不同阶段。子集(也称为配置)是包含在更大数据集中的子数据集。子集在多语言语音数据集中尤其常见,因为每种语言可能都有一个不同的子集。如果您有兴趣详细了解分片和子集,请查看关于“分片和子集”的概念指南

split-configs-server

本指南向您展示如何使用数据集查看器的/splits端点以编程方式检索数据集的分片和子集。也欢迎您使用PostmanRapidAPIReDoc试用它。

/splits端点接受数据集名称作为其查询参数。

Python
JavaScript
cURL
import requests
headers = {"Authorization": f"Bearer {API_TOKEN}"}
API_URL = "https://datasets-server.huggingface.co/splits?dataset=ibm/duorc"
def query():
    response = requests.get(API_URL, headers=headers)
    return response.json()
data = query()

端点响应是一个 JSON,其中包含数据集的分片和子集列表。例如,ibm/duorc数据集有六个分片和两个子集。

{
  "splits": [
    { "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "train" },
    { "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "validation" },
    { "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "test" },
    { "dataset": "ibm/duorc", "config": "SelfRC", "split": "train" },
    { "dataset": "ibm/duorc", "config": "SelfRC", "split": "validation" },
    { "dataset": "ibm/duorc", "config": "SelfRC", "split": "test" }
  ],
  "pending": [],
  "failed": []
}
< > 在 GitHub 上更新