列出分片和子集
数据集通常具有分片,也可能具有子集。分片是数据集的一个子集,例如train
和test
,它们用于模型训练和评估的不同阶段。子集(也称为配置)是包含在更大数据集中的子数据集。子集在多语言语音数据集中尤其常见,因为每种语言可能都有一个不同的子集。如果您有兴趣详细了解分片和子集,请查看关于“分片和子集”的概念指南!
本指南向您展示如何使用数据集查看器的/splits
端点以编程方式检索数据集的分片和子集。也欢迎您使用Postman、RapidAPI或ReDoc试用它。
/splits
端点接受数据集名称作为其查询参数。
Python
JavaScript
cURL
import requests
headers = {"Authorization": f"Bearer {API_TOKEN}"}
API_URL = "https://datasets-server.huggingface.co/splits?dataset=ibm/duorc"
def query():
response = requests.get(API_URL, headers=headers)
return response.json()
data = query()
端点响应是一个 JSON,其中包含数据集的分片和子集列表。例如,ibm/duorc数据集有六个分片和两个子集。
{
"splits": [
{ "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "train" },
{ "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "validation" },
{ "dataset": "ibm/duorc", "config": "ParaphraseRC", "split": "test" },
{ "dataset": "ibm/duorc", "config": "SelfRC", "split": "train" },
{ "dataset": "ibm/duorc", "config": "SelfRC", "split": "validation" },
{ "dataset": "ibm/duorc", "config": "SelfRC", "split": "test" }
],
"pending": [],
"failed": []
}