Hub 文档
图像数据集
并获得增强的文档体验
开始使用
图像数据集
本指南将向您展示如何使用图像文件配置数据集存储库。您可以在此图像数据集示例集合中找到相应的存储库示例。
具有受支持结构和文件格式的数据集在其 Hub 页面上会自动拥有数据集查看器。
只要您在元数据文件（metadata.csv/metadata.jsonl/metadata.parquet）中包含此信息，有关图像的附加信息（例如字幕或用于对象检测的边界框）就会自动加载。
此外，图像可以位于 Parquet 文件中或遵循WebDataset格式的 TAR 存档中。
仅图像
如果您的数据集仅包含一个图像列，则可以直接将图像文件存储在根目录中
my_dataset_repository/
├── 1.jpg
├── 2.jpg
├── 3.jpg
└── 4.jpg或子目录中
my_dataset_repository/
└── images
├── 1.jpg
├── 2.jpg
├── 3.jpg
└── 4.jpg同时支持多种格式，包括 PNG、JPEG、TIFF 和 WebP。
my_dataset_repository/
└── images
├── 1.jpg
├── 2.png
├── 3.tiff
└── 4.webp如果您有多个拆分，可以将图像放入相应命名的目录中
my_dataset_repository/
├── train
│ ├── 1.jpg
│ └── 2.jpg
└── test
├── 3.jpg
└── 4.jpg有关更多信息和按拆分组织数据的其他方法，请参阅文件名和拆分。
附加列
如果您想包含有关数据集的其他信息，例如文本字幕或边界框，请将其作为 `metadata.csv` 文件添加到您的存储库中。这使您可以快速创建用于不同计算机视觉任务的数据集，例如文本字幕或对象检测。
my_dataset_repository/
└── train
├── 1.jpg
├── 2.jpg
├── 3.jpg
├── 4.jpg
└── metadata.csv您的 `metadata.csv` 文件必须包含一个 `file_name` 列，该列将图像文件与其元数据链接起来
file_name,text
1.jpg,a drawing of a green pokemon with red eyes
2.jpg,a green and yellow toy with a red nose
3.jpg,a red and white ball with an angry look on its face
4.jpg,a cartoon ball with a smile on its face您也可以使用JSONL文件 `metadata.jsonl`
{"file_name": "1.jpg","text": "a drawing of a green pokemon with red eyes"}
{"file_name": "2.jpg","text": "a green and yellow toy with a red nose"}
{"file_name": "3.jpg","text": "a red and white ball with an angry look on its face"}
{"file_name": "4.jpg","text": "a cartoon ball with a smile on its face"}对于更大的数据集，或者如果您对高级数据检索功能感兴趣，可以使用Parquet文件 `metadata.parquet`。
相对路径
元数据文件必须与所链接的图像位于同一目录中，或位于任何父目录中，如下例所示
my_dataset_repository/
└── train
├── images
│ ├── 1.jpg
│ ├── 2.jpg
│ ├── 3.jpg
│ └── 4.jpg
└── metadata.csv在这种情况下，`file_name` 列必须是图像的完整相对路径，而不仅仅是文件名
file_name,text
images/1.jpg,a drawing of a green pokemon with red eyes
images/2.jpg,a green and yellow toy with a red nose
images/3.jpg,a red and white ball with an angry look on its face
images/4.jpg,a cartoon ball with a smile on it's face元数据文件不能放在包含图像的目录的子目录中。
更一般地，任何名为 `file_name` 或 `*_file_name` 的列都应包含图像的完整相对路径。
图像分类
对于图像分类数据集，您也可以使用简单设置：使用目录命名图像类别。将图像文件存储在如下目录结构中
my_dataset_repository/
├── green
│ ├── 1.jpg
│ └── 2.jpg
└── red
├── 3.jpg
└── 4.jpg使用此结构创建的数据集包含两列：`image` 和 `label`（值为 `green` 和 `red`）。
您还可以提供多个拆分。为此，您的数据集目录应具有以下结构（有关更多信息，请参阅文件名和拆分）
my_dataset_repository/
├── test
│ ├── green
│ │ └── 2.jpg
│ └── red
│ └── 4.jpg
└── train
├── green
│ └── 1.jpg
└── red
└── 3.jpg您可以在YAML 配置中禁用 `label` 列的自动添加。如果您的目录名没有特殊含义，请在 README 标头中设置 `drop_labels: true`
configs:
- config_name: default # Name of the dataset subset, if applicable.
drop_labels: true大规模数据集
WebDataset 格式
WebDataset 格式非常适合大规模图像数据集（例如，请参见 timm/imagenet-12k-wds）。它由包含图像及其元数据的 TAR 档案组成，并针对流式传输进行了优化。如果您有大量图像并希望获得用于大规模训练的流式数据加载器，这将非常有用。
my_dataset_repository/
├── train-0000.tar
├── train-0001.tar
├── ...
└── train-1023.tar要创建 WebDataset TAR 存档，请创建一个包含要存档的图像和元数据文件的目录，然后使用 `tar` 命令创建 TAR 存档。每个存档的通常大小约为 1GB。确保每个图像和元数据对共享相同的文件前缀，例如
train-0000/
├── 000.jpg
├── 000.json
├── 001.jpg
├── 001.json
├── ...
├── 999.jpg
└── 999.json请注意，为了用户方便并启用数据集查看器，Hub 中托管的每个数据集都会自动转换为 Parquet 格式，最大可达 5GB。有关更多信息，请参阅Parquet 格式文档。
Parquet 格式
您可以将图像和元数据嵌入到Parquet文件中，而不是上传单独的文件。如果您有大量图像，或者要嵌入多个图像列，或者要在同一文件中存储有关图像的其他信息，这会很有用。Parquet 也适用于存储原始字节等数据，而 JSON/CSV 不支持这些数据。
my_dataset_repository/ └── train.parquet
可以使用 `pandas` 或 `datasets` 库创建包含图像数据的 Parquet 文件。要在 `pandas` 中创建包含图像数据的 Parquet 文件，您可以使用pandas-image-methods和 `df.to_parquet()`。在 `datasets` 中，您可以将列类型设置为 `Image()` 并使用 `ds.to_parquet(...)` 方法或 `ds.push_to_hub(...)`。您可以在此处找到有关在 `datasets` 中加载图像数据集的指南。
或者，您可以手动设置使用其他工具创建的 Parquet 图像类型。首先，确保您的图像列是*结构体*类型，其中包含用于图像数据的二进制字段 `"bytes"` 和用于图像文件名或路径的字符串字段 `"path"`。然后，您应该直接在 README 标头中的 YAML 中指定列的特征类型，例如
dataset_info:
features:
- name: image
dtype: image
- name: caption
dtype: string请注意，建议对小型图像（每张图像小于 1MB）和小型行组（每个行组 100 行，这是 `datasets` 用于图像的）使用 Parquet。对于大型图像，建议使用 WebDataset 格式，或共享原始图像文件（可选地带元数据文件，并遵循存储库建议和存储及文件数量限制）。
< > 在 GitHub 上更新