参数

• images (ImageInput) — 要预处理的图像或图像批次。期望单个图像或批次图像的像素值范围为 0 到 255。如果传入的图像像素值在 0 到 1 之间，请将 do_rescale=False。
• annotations (AnnotationType 或 list[AnnotationType], 可选) — 与图像或图像批次关联的注释列表。如果注释用于目标检测，则注释应是一个字典，包含以下键：
  • “image_id” (int): 图像 ID。
  • “annotations” (list[Dict]): 图像的注释列表。每个注释应是一个字典。图像可以没有注释，在这种情况下，列表应为空。如果注释用于分割，则注释应是一个字典，包含以下键：
  • “image_id” (int): 图像 ID。
  • “segments_info” (list[Dict]): 图像的分割列表。每个分割应是一个字典。图像可以没有分割，在这种情况下，列表应为空。
  • “file_name” (str): 图像的文件名。
• return_segmentation_masks (bool, 可选, 默认为 self.return_segmentation_masks) — 是否返回分割掩码。
• masks_path (str 或 pathlib.Path, 可选) — 包含分割掩码的目录路径。
• do_resize (bool, 可选, 默认为 self.do_resize) — 是否调整图像大小。
• size (dict[str, int], 可选, 默认为 self.size) — 调整大小后图像的 (height, width) 维度大小。可用选项包括：
  • {"height": int, "width": int}: 图像将调整到精确的 (height, width) 大小。不保留纵横比。
  • {"shortest_edge": int, "longest_edge": int}: 图像将调整到最大大小，同时保留纵横比，并将最短边小于或等于 shortest_edge，最长边小于或等于 longest_edge。
  • {"max_height": int, "max_width": int}: 图像将调整到最大大小，同时保留纵横比，并将高度小于或等于 max_height，宽度小于或等于 max_width。
• resample (PILImageResampling, 可选, 默认为 self.resample) — 调整图像大小时使用的重采样过滤器。
• do_rescale (bool, 可选, 默认为 self.do_rescale) — 是否重新缩放图像。
• rescale_factor (float, 可选, 默认为 self.rescale_factor) — 重新缩放图像时使用的比例因子。
• do_normalize (bool, 可选, 默认为 self.do_normalize) — 是否对图像进行归一化。
• do_convert_annotations (bool, 可选, 默认为 self.do_convert_annotations) — 是否将注释转换为模型期望的格式。将边界框从 (top_left_x, top_left_y, width, height) 格式转换为 (center_x, center_y, width, height) 格式并转换为相对坐标。
• image_mean (float 或 list[float], 可选, 默认为 self.image_mean) — 图像归一化时使用的平均值。
• image_std (float 或 list[float], 可选, 默认为 self.image_std) — 图像归一化时使用的标准差。
• do_pad (bool, 可选, 默认为 self.do_pad) — 是否填充图像。如果为 True，将用零填充图像的底部和右侧。如果提供了 pad_size，图像将填充到指定的尺寸。否则，图像将填充到批次中的最大高度和宽度。
• format (str 或 AnnotationFormat, 可选, 默认为 self.format) — 注释的格式。
• return_tensors (str 或 TensorType, 可选, 默认为 self.return_tensors) — 要返回的张量类型。如果为 None，将返回图像列表。
• data_format (ChannelDimension 或 str, 可选, 默认为 ChannelDimension.FIRST) — 输出图像的通道维度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。
  • 未设置: 使用输入图像的通道维度格式。
• input_data_format (ChannelDimension 或 str, 可选) — 输入图像的通道维度格式。如果未设置，则从输入图像推断通道维度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE: 图像格式为 (height, width)。
• pad_size (dict[str, int], 可选) — 填充图像的尺寸 {"height": int, "width" int}。必须大于任何为预处理提供的图像尺寸。如果未提供 pad_size，图像将填充到批次中的最大高度和宽度。

参数

• outputs (DetrObjectDetectionOutput) — 模型的原始输出。
• threshold (float, 可选) — 保留目标检测预测的分数阈值。
• target_sizes (torch.Tensor 或 list[tuple[int, int]], 可选) — 形状为 (batch_size, 2) 的张量，或包含批次中每张图像的目标尺寸（高，宽）的元组列表（tuple[int, int]）。如果留空，预测将不会被调整大小。
• top_k (int, 可选, 默认为 100) — 在阈值过滤之前，只保留前 k 个边界框。

一个字典列表，每个字典包含模型预测的批处理中每张图像的分数、标签和框。

参数

• images (Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]) — 要预处理的图像。期望单个或批处理图像，像素值范围为 0 到 255。如果传入的图像像素值介于 0 到 1 之间，请设置 do_rescale=False。
• annotations (AnnotationType 或 list[AnnotationType], 可选) — 与图像或图像批次关联的标注列表。如果标注用于目标检测，标注应为包含以下键的字典：
  • “image_id” (int)：图像 ID。
  • “annotations” (list[Dict])：图像的标注列表。每个标注应为一个字典。图像可以没有标注，在这种情况下列表应为空。如果标注用于分割，标注应为包含以下键的字典：
  • “image_id” (int)：图像 ID。
  • “segments_info” (list[Dict])：图像的片段列表。每个片段应为一个字典。图像可以没有片段，在这种情况下列表应为空。
  • “file_name” (str)：图像的文件名。
• masks_path (str 或 pathlib.Path, 可选) — 包含分割掩码的目录路径。
• do_resize (bool, 可选) — 是否调整图像大小。
• size (dict[str, int], 可选) — 描述模型的最大输入维度。
• default_to_square (bool, 可选) — 如果尺寸为整数，是否在调整大小后默认使用方形图像。
• resample (Union[PILImageResampling, F.InterpolationMode, NoneType]) — 如果调整图像大小，要使用的重采样过滤器。可以是枚举 PILImageResampling 之一。仅在 do_resize 设置为 True 时有效。
• do_center_crop (bool, 可选) — 是否对图像进行中心裁剪。
• crop_size (dict[str, int], 可选) — 应用 center_crop 后输出图像的尺寸。
• do_rescale (bool, 可选) — 是否重新缩放图像。
• rescale_factor (Union[int, float, NoneType]) — 如果 do_rescale 设置为 True，则按此重新缩放因子调整图像大小。
• do_normalize (bool, 可选) — 是否归一化图像。
• image_mean (Union[float, list[float], NoneType]) — 用于归一化的图像均值。仅在 do_normalize 设置为 True 时有效。
• image_std (Union[float, list[float], NoneType]) — 用于归一化的图像标准差。仅在 do_normalize 设置为 True 时有效。
• do_convert_rgb (bool, 可选) — 是否将图像转换为 RGB。
• return_tensors (Union[str, ~utils.generic.TensorType, NoneType]) — 如果设置为 `pt`，则返回堆叠张量，否则返回张量列表。
• data_format (~image_utils.ChannelDimension, 可选) — 仅支持 ChannelDimension.FIRST。为了与慢速处理器兼容而添加。
• input_data_format (Union[str, ~image_utils.ChannelDimension, NoneType]) — 输入图像的通道维度格式。如果未设置，则从输入图像推断通道维度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：图像为 (num_channels, height, width) 格式。
  • "channels_last" 或 ChannelDimension.LAST：图像为 (height, width, num_channels) 格式。
  • "none" 或 ChannelDimension.NONE：图像为 (height, width) 格式。
• device (torch.device, 可选) — 处理图像的设备。如果未设置，则从输入图像推断设备。
• disable_grouping (bool, 可选) — 是否禁用按大小对图像进行分组以单独而非批处理它们。如果为 None，则如果图像在 CPU 上，则设置为 True，否则设置为 False。此选择基于经验观察，详情请参阅：https://github.com/huggingface/transformers/pull/38157
• format (str, 可选, 默认为 AnnotationFormat.COCO_DETECTION) — 标注的数据格式。可以是 "coco_detection" 或 "coco_panoptic" 之一。
• do_convert_annotations (bool, 可选, 默认为 True) — 控制是否将标注转换为 DEFORMABLE_DETR 模型期望的格式。将边界框转换为 (center_x, center_y, width, height) 格式，范围为 [0, 1]。可以通过 preprocess 方法中的 do_convert_annotations 参数覆盖。
• do_pad (bool, 可选, 默认为 True) — 控制是否对图像进行填充。可以通过 preprocess 方法中的 do_pad 参数覆盖。如果为 True，图像的底部和右侧将用零填充。如果提供了 pad_size，图像将填充到指定维度。否则，图像将填充到批次中的最大高度和宽度。
• pad_size (dict[str, int], 可选) — 图像填充到的尺寸 {"height": int, "width" int}。必须大于任何用于预处理的图像尺寸。如果未提供 pad_size，图像将填充到批次中的最大高度和宽度。
• return_segmentation_masks (bool, 可选, 默认为 False) — 是否返回分割掩码。

• data (dict) — 由 call 方法返回的列表/数组/张量字典（“pixel_values”等）。
• tensor_type (Union[None, str, TensorType], 可选) — 您可以在此处提供一个`tensor_type`，以便在初始化时将整数列表转换为PyTorch/TensorFlow/Numpy张量。

参数

• outputs (DetrObjectDetectionOutput) — 模型的原始输出。
• threshold (float, 可选) — 保留目标检测预测的得分阈值。
• target_sizes (torch.Tensor 或 list[tuple[int, int]], 可选) — 形状为 (batch_size, 2) 的张量，或包含批次中每张图像的目标尺寸（高，宽）的元组列表（tuple[int, int]）。如果留空，预测将不会被调整大小。
• top_k (int, 可选, 默认为 100) — 在阈值过滤之前，只保留前 k 个边界框。

一个字典列表，每个字典包含模型预测的批处理中每张图像的分数、标签和框。

参数

• outputs (DetrObjectDetectionOutput) — 模型的原始输出。
• threshold (float, 可选) — 保留目标检测预测的得分阈值。
• target_sizes (torch.Tensor 或 list[tuple[int, int]], 可选) — 形状为 (batch_size, 2) 的张量，或包含批次中每张图像的目标尺寸（高，宽）的元组列表（tuple[int, int]）。如果留空，预测将不会被调整大小。
• top_k (int, 可选, 默认为 100) — 在阈值过滤之前，只保留前 k 个边界框。

一个字典列表，每个字典包含模型预测的批处理中每张图像的分数、标签和框。

参数

• pixel_values (形状为 (batch_size, num_channels, image_size, image_size) 的 torch.FloatTensor) — 对应于输入图像的张量。像素值可以使用 {image_processor_class} 获得。有关详细信息，请参见 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 处理图像）。
• pixel_mask (形状为 (batch_size, height, width) 的 torch.LongTensor, 可选) — 避免对填充像素值执行注意力的遮罩。遮罩值选择范围 [0, 1]：
  • 1 表示真实像素（即未遮罩），
  • 0 表示填充像素（即已遮罩）。

  什么是注意力遮罩？

• decoder_attention_mask (形状为 (batch_size, num_queries) 的 torch.FloatTensor, 可选) — 默认情况下不使用。可用于遮罩对象查询。
• encoder_outputs (torch.FloatTensor, 可选) — 元组由 (last_hidden_state, 可选: hidden_states, 可选: attentions) 组成，last_hidden_state 的形状为 (batch_size, sequence_length, hidden_size)，是编码器最后一层输出的隐藏状态序列。用于解码器的交叉注意力。
• inputs_embeds (形状为 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可选) — 另外，除了传递展平的特征图（骨干网络 + 投影层的输出）外，您还可以选择直接传递图像的展平表示。
• decoder_inputs_embeds (形状为 (batch_size, num_queries, hidden_size) 的 torch.FloatTensor, 可选) — 另外，除了用零张量初始化查询外，您还可以选择直接传递嵌入表示。
• output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。有关详细信息，请参见返回张量下的 attentions。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关详细信息，请参见返回张量下的 hidden_states。
• return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。

一个 transformers.models.deformable_detr.modeling_deformable_detr.DeformableDetrModelOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含根据配置 (DeformableDetrConfig) 和输入的不同元素。

• init_reference_points (torch.FloatTensor, 形状为 (batch_size, num_queries, 4)) — 通过 Transformer 解码器发送的初始参考点。

• last_hidden_state (torch.FloatTensor, 形状为 (batch_size, num_queries, hidden_size)) — 模型解码器最后一层输出的隐藏状态序列。

• intermediate_hidden_states (torch.FloatTensor, 形状为 (batch_size, config.decoder_layers, num_queries, hidden_size)) — 堆叠的中间隐藏状态（解码器每层的输出）。

• intermediate_reference_points (torch.FloatTensor, 形状为 (batch_size, config.decoder_layers, num_queries, 4)) — 堆叠的中间参考点（解码器每层的参考点）。

• decoder_hidden_states (tuple[torch.FloatTensor], 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  解码器在每一层输出时的隐藏状态以及初始嵌入输出。

• decoder_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均。

• cross_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  解码器交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均。

• encoder_last_hidden_state (形状为 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可选, 默认为 None) — 模型编码器最后一层输出的隐藏状态序列。

• encoder_hidden_states (tuple[torch.FloatTensor], 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  编码器在每一层输出时的隐藏状态以及初始嵌入输出。

• encoder_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均。

• enc_outputs_class (形状为 (batch_size, sequence_length, config.num_labels) 的 torch.FloatTensor, 可选, 当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 预测的边界框分数，其中得分最高的 config.two_stage_num_proposals 个边界框在第一阶段被选为区域提案。边界框二元分类（即前景和背景）的输出。

• enc_outputs_coord_logits (形状为 (batch_size, sequence_length, 4) 的 torch.FloatTensor, 可选, 当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 第一阶段预测边界框坐标的 logits。

参数

• pixel_values (形状为 (batch_size, num_channels, image_size, image_size) 的 torch.FloatTensor) — 对应于输入图像的张量。像素值可以使用 {image_processor_class} 获取。有关详细信息，请参见 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 处理图像）。
• pixel_mask (形状为 (batch_size, height, width) 的 torch.LongTensor，可选) — 用于避免对填充像素值执行注意力操作的掩码。掩码值选择在 [0, 1] 之间：
  • 1 表示真实像素（即未被掩盖），
  • 0 表示填充像素（即被掩盖）。

  什么是注意力掩码？

• decoder_attention_mask (形状为 (batch_size, num_queries) 的 torch.FloatTensor，可选) — 默认情况下不使用。可用于掩盖对象查询。
• encoder_outputs (torch.FloatTensor，可选) — 元组，包含（last_hidden_state，可选：hidden_states，可选：attentions） last_hidden_state 的形状为 (batch_size, sequence_length, hidden_size)，可选）是编码器最后一层输出的隐藏状态序列。在解码器的交叉注意力中用到。
• inputs_embeds (形状为 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor，可选) — 可选地，您可以选择直接传递图像的平坦表示，而不是传递平坦的特征图（骨干网络 + 投影层 的输出）。
• decoder_inputs_embeds (形状为 (batch_size, num_queries, hidden_size) 的 torch.FloatTensor，可选) — 可选地，您可以选择直接传递嵌入表示，而不是用零张量初始化查询。
• labels (长度为 (batch_size,) 的 list[Dict]，可选) — 用于计算二分匹配损失的标签。字典列表，每个字典至少包含以下两个键：“class_labels”和“boxes”（分别表示批次中图像的类别标签和边界框）。类别标签本身应为长度为 (图像中边界框的数量,) 的 torch.LongTensor，边界框应为形状为 (图像中边界框的数量, 4) 的 torch.FloatTensor。
• output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。更多详细信息请参见返回张量中的 attentions。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。更多详细信息请参见返回张量中的 hidden_states。
• return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。

一个 transformers.models.deformable_detr.modeling_deformable_detr.DeformableDetrObjectDetectionOutput 或 torch.FloatTensor 元组（如果传递 return_dict=False 或 config.return_dict=False），包含根据配置 (DeformableDetrConfig) 和输入的不同元素。

• loss (形状为 (1,) 的 torch.FloatTensor，可选，当提供 labels 时返回) — 总损失，是类别预测的负对数似然（交叉熵）和边界框损失的线性组合。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。

• loss_dict (Dict, 可选) — 包含各个损失的字典。用于日志记录。

• logits (形状为 (batch_size, num_queries, num_classes + 1) 的 torch.FloatTensor) — 所有查询的分类 logits（包括无对象）。

• pred_boxes (形状为 (batch_size, num_queries, 4) 的 torch.FloatTensor) — 所有查询的归一化框坐标，表示为 (center_x, center_y, width, height)。这些值在 [0, 1] 之间归一化，相对于批次中每个图像的大小（不考虑可能的填充）。您可以使用 ~DeformableDetrProcessor.post_process_object_detection 来检索未归一化的边界框。

• auxiliary_outputs (list[Dict]，可选) — 可选，仅当辅助损失被激活（即 config.auxiliary_loss 设置为 True）且提供标签时返回。它是一个字典列表，包含每个解码器层的上述两个键（logits 和 pred_boxes）。

• init_reference_points (torch.FloatTensor, 形状为 (batch_size, num_queries, 4)) — 通过 Transformer 解码器发送的初始参考点。

• last_hidden_state (形状为 (batch_size, num_queries, hidden_size) 的 torch.FloatTensor，可选) — 模型解码器最后一层输出的隐藏状态序列。

• intermediate_hidden_states (torch.FloatTensor, 形状为 (batch_size, config.decoder_layers, num_queries, hidden_size)) — 堆叠的中间隐藏状态（解码器每层的输出）。

• intermediate_reference_points (torch.FloatTensor, 形状为 (batch_size, config.decoder_layers, num_queries, 4)) — 堆叠的中间参考点（解码器每层的参考点）。

• decoder_hidden_states (tuple[torch.FloatTensor], 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  解码器在每一层输出时的隐藏状态以及初始嵌入输出。

• decoder_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均。

• cross_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  解码器交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均。

• encoder_last_hidden_state (形状为 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可选, 默认为 None) — 模型编码器最后一层输出的隐藏状态序列。

• encoder_hidden_states (tuple[torch.FloatTensor], 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  编码器在每一层输出时的隐藏状态以及初始嵌入输出。

• encoder_attentions (tuple[torch.FloatTensor], 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均。

• enc_outputs_class (形状为 (batch_size, sequence_length, config.num_labels) 的 torch.FloatTensor, 可选, 当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 预测的边界框分数，其中得分最高的 config.two_stage_num_proposals 个边界框在第一阶段被选为区域提案。边界框二元分类（即前景和背景）的输出。

• enc_outputs_coord_logits (形状为 (batch_size, sequence_length, 4) 的 torch.FloatTensor, 可选, 当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 第一阶段预测边界框坐标的 logits。