参数

• backbone_config (PretrainedConfig) — 主干网络配置。

配置对象的实例

参数

• images (ImageInput) — 要预处理的图像或图像批次。 期望像素值范围从 0 到 255 的单个或一批图像。 如果传入像素值在 0 到 1 之间的图像，请设置 do_rescale=False。
• annotations (AnnotationType or List[AnnotationType], optional) — 与图像或图像批次关联的注释列表。 如果注释用于目标检测，则注释应为具有以下键的字典：
  • “image_id” (int): 图像 ID。
  • “annotations” (List[Dict]): 图像的注释列表。 每个注释应为一个字典。 图像可以没有注释，在这种情况下，列表应为空。 如果注释用于分割，则注释应为具有以下键的字典：
  • “image_id” (int): 图像 ID。
  • “segments_info” (List[Dict]): 图像的分割信息列表。 每个分割应为一个字典。 图像可以没有分割，在这种情况下，列表应为空。
  • “file_name” (str): 图像的文件名。
• return_segmentation_masks (bool, optional, defaults to self.return_segmentation_masks) — 是否返回分割掩码。
• masks_path (str or pathlib.Path, optional) — 包含分割掩码的目录路径。
• do_resize (bool, optional, defaults to self.do_resize) — 是否调整图像大小。
• size (Dict[str, int], optional, defaults to self.size) — 调整大小后图像的 (height, width) 尺寸。 可用选项包括：
  • {"height": int, "width": int}: 图像将被调整为精确尺寸 (height, width)。 不保持宽高比。
  • {"shortest_edge": int, "longest_edge": int}: 图像将被调整为最大尺寸，保持宽高比，并保持最短边小于或等于 shortest_edge，最长边小于或等于 longest_edge。
  • {"max_height": int, "max_width": int}: 图像将被调整为最大尺寸，保持宽高比，并保持高度小于或等于 max_height，宽度小于或等于 max_width。
• resample (PILImageResampling, optional, defaults to self.resample) — 调整图像大小时要使用的重采样滤波器。
• do_rescale (bool, optional, defaults to self.do_rescale) — 是否要缩放图像。
• rescale_factor (float, optional, defaults to self.rescale_factor) — 缩放图像时使用的缩放因子。
• do_normalize (bool, optional, defaults to self.do_normalize) — 是否要标准化图像。
• do_convert_annotations (bool, optional, defaults to self.do_convert_annotations) — 是否将注释转换为模型期望的格式。 将边界框从 (top_left_x, top_left_y, width, height) 格式转换为 (center_x, center_y, width, height) 格式，并使用相对坐标。
• image_mean (float or List[float], optional, defaults to self.image_mean) — 标准化图像时使用的均值。
• image_std (float or List[float], optional, defaults to self.image_std) — 标准化图像时使用的标准差。
• do_pad (bool, optional, defaults to self.do_pad) — 是否要填充图像。 如果为 True，则将在图像的底部和右侧应用零填充。 如果提供了 pad_size，则图像将被填充到指定的尺寸。 否则，图像将被填充到批次中的最大高度和宽度。
• format (str or AnnotationFormat, optional, defaults to self.format) — 注释的格式。
• return_tensors (str or TensorType, optional, defaults to self.return_tensors) — 要返回的张量类型。 如果为 None，将返回图像列表。
• data_format (ChannelDimension or str, optional, defaults to ChannelDimension.FIRST) — 输出图像的通道维度格式。 可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：格式为 (num_channels, height, width) 的图像。
  • "channels_last" 或 ChannelDimension.LAST：格式为 (height, width, num_channels) 的图像。
  • Unset: 使用输入图像的通道维度格式。
• input_data_format (ChannelDimension or str, optional) — 输入图像的通道维度格式。 如果未设置，则通道维度格式从输入图像推断。 可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：格式为 (num_channels, height, width) 的图像。
  • "channels_last" 或 ChannelDimension.LAST：格式为 (height, width, num_channels) 的图像。
  • "none" 或 ChannelDimension.NONE：格式为 (height, width) 的图像。
• pad_size (Dict[str, int], optional) — 要将图像填充到的尺寸 {"height": int, "width" int}。 必须大于为预处理提供的任何图像尺寸。 如果未提供 pad_size，则图像将填充到批次中的最大高度和宽度。

参数

• outputs (DetrObjectDetectionOutput) — 模型的原始输出。
• threshold (float, optional, defaults to 0.5) — 保持目标检测预测的分数阈值。
• target_sizes (torch.Tensor or List[Tuple[int, int]], optional) — 形状为 (batch_size, 2) 的张量或元组列表 (`Tuple[int, int]`)，其中包含批次中每个图像的目标尺寸 `(height, width)`。 如果未设置，则不会调整预测大小。
• use_focal_loss (bool defaults to True) — 变量，用于告知是否使用 focal loss 来预测输出。 如果为 True，则应用 sigmoid 函数来计算每个检测的分数；否则，使用 softmax 函数。

字典列表，每个字典包含模型预测的批次中图像的分数、标签和边界框。

参数

• pixel_values (torch.FloatTensor of shape (batch_size, num_channels, height, width)) — 像素值。 如果您提供填充，默认情况下将被忽略。 像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参阅 RTDetrImageProcessor.call()。
• pixel_mask (torch.LongTensor of shape (batch_size, height, width), optional) — 用于避免对填充像素值执行注意力的掩码。 掩码值在 [0, 1] 中选择：
  • 1 表示真实像素（即，未被掩码），
  • 0 表示填充像素（即，被掩码）。

  什么是注意力掩码？

• encoder_outputs (tuple(tuple(torch.FloatTensor), optional) — 元组由（`last_hidden_state`，可选：`hidden_states`，可选：`attentions`）组成，形状为 `(batch_size, sequence_length, hidden_size)` 的 `last_hidden_state`，可选）是编码器最后一层输出处的隐藏状态序列。 在解码器的交叉注意力中使用。
• inputs_embeds (torch.FloatTensor，形状为 (batch_size, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（backbone + 投影层的输出）。
• decoder_inputs_embeds (torch.FloatTensor，形状为 (batch_size, num_queries, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化 queries。
• labels (List[Dict]，长度为 (batch_size,)，可选) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下 2 个键：‘class_labels’ 和 ‘boxes’（批次中图像的类别标签和边界框）。类别标签本身应为长度为 (图像中边界框的数量,) 的 torch.LongTensor，而 boxes 应为形状为 (图像中边界框的数量, 4) 的 torch.FloatTensor。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息，请参见返回张量下的 attentions。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。 有关更多详细信息，请参见返回张量下的 hidden_states。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。

一个 transformers.models.rt_detr.modeling_rt_detr.RTDetrModelOutput 或 torch.FloatTensor 元组 (如果传递 return_dict=False 或当 config.return_dict=False 时)，包含各种元素，具体取决于配置 (RTDetrConfig) 和输入。

• last_hidden_state (torch.FloatTensor，形状为 (batch_size, num_queries, hidden_size)) — 模型解码器最后一层的输出处的隐藏状态序列。
• intermediate_hidden_states (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, num_queries, hidden_size)) — 堆叠的中间隐藏状态（解码器每一层的输出）。
• intermediate_logits (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, sequence_length, config.num_labels)) — 堆叠的中间 logits（解码器每一层的 logits）。
• intermediate_reference_points (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, num_queries, 4)) — 堆叠的中间参考点（解码器每一层的参考点）。
• decoder_hidden_states (tuple(torch.FloatTensor)，可选，当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（每个嵌入输出一个，每层输出一个），形状为 (batch_size, num_queries, hidden_size)。 解码器在每一层输出处的隐藏状态加上初始嵌入输出。
• decoder_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_heads, num_queries, num_queries)。 解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
• cross_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_queries, num_heads, 4, 4)。 解码器的交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。
• encoder_last_hidden_state (torch.FloatTensor，形状为 (batch_size, sequence_length, hidden_size)，可选) — 模型编码器最后一层的输出处的隐藏状态序列。
• encoder_hidden_states (tuple(torch.FloatTensor)，可选，当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（每个嵌入输出一个，每层输出一个），形状为 (batch_size, sequence_length, hidden_size)。 编码器在每一层输出处的隐藏状态加上初始嵌入输出。
• encoder_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_queries, num_heads, 4, 4)。 编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
• init_reference_points (torch.FloatTensor，形状为 (batch_size, num_queries, 4)) — 通过 Transformer 解码器发送的初始参考点。
• enc_topk_logits (torch.FloatTensor，形状为 (batch_size, sequence_length, config.num_labels)) — 预测的边界框得分，其中在编码器阶段选择 top config.two_stage_num_proposals 个得分最高的边界框作为区域提议。 边界框二元分类的输出（即前景和背景）。
• enc_topk_bboxes (torch.FloatTensor，形状为 (batch_size, sequence_length, 4)) — 编码器阶段中预测的边界框坐标的 logits。
• enc_outputs_class (torch.FloatTensor，形状为 (batch_size, sequence_length, config.num_labels)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 预测的边界框得分，其中在第一阶段选择 top config.two_stage_num_proposals 个得分最高的边界框作为区域提议。 边界框二元分类的输出（即前景和背景）。
• enc_outputs_coord_logits (torch.FloatTensor，形状为 (batch_size, sequence_length, 4)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 第一阶段中预测的边界框坐标的 logits。
• denoising_meta_values (dict) — 用于去噪相关值的额外字典

参数

• pixel_values (torch.FloatTensor，形状为 (batch_size, num_channels, height, width)) — 像素值。 默认情况下，如果您提供 padding，将被忽略。 像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参见 RTDetrImageProcessor.call()。
• pixel_mask (torch.LongTensor，形状为 (batch_size, height, width)，可选) — 用于避免对 padding 像素值执行注意力的掩码。 在 [0, 1] 中选择的掩码值：
  • 1 代表真实的像素（即，未被掩码），
  • 0 代表 padding 像素（即，被掩码）。

  什么是注意力掩码？

• encoder_outputs (tuple(tuple(torch.FloatTensor)，可选) — 元组由 (last_hidden_state，可选: hidden_states，可选: attentions) 组成。 形状为 (batch_size, sequence_length, hidden_size) 的 last_hidden_state，可选) 是编码器最后一层输出处的隐藏状态序列。 用于解码器的交叉注意力。
• inputs_embeds (torch.FloatTensor，形状为 (batch_size, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（backbone + 投影层的输出）。
• decoder_inputs_embeds (torch.FloatTensor，形状为 (batch_size, num_queries, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化 queries。
• labels (List[Dict]，长度为 (batch_size,)，可选) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下 2 个键：‘class_labels’ 和 ‘boxes’（批次中图像的类别标签和边界框）。类别标签本身应为长度为 (图像中边界框的数量,) 的 torch.LongTensor，而 boxes 应为形状为 (图像中边界框的数量, 4) 的 torch.FloatTensor。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息，请参见返回张量下的 attentions。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。 有关更多详细信息，请参见返回张量下的 hidden_states。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。
• labels (List[Dict]，长度为 (batch_size,)，可选) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下 2 个键：‘class_labels’ 和 ‘boxes’（批次中图像的类别标签和边界框）。类别标签本身应为长度为 (图像中边界框的数量,) 的 torch.LongTensor，而 boxes 应为形状为 (图像中边界框的数量, 4) 的 torch.FloatTensor。

一个 transformers.models.rt_detr.modeling_rt_detr.RTDetrObjectDetectionOutput 或 torch.FloatTensor 元组 (如果传递 return_dict=False 或当 config.return_dict=False 时)，包含各种元素，具体取决于配置 (RTDetrConfig) 和输入。

• loss (torch.FloatTensor，形状为 (1,)，可选，当提供 labels 时返回)）— 总损失，作为类别预测的负对数似然（交叉熵）和边界框损失的线性组合。 后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。
• loss_dict (Dict，可选) — 包含各个损失的字典。 用于记录日志很有用。
• logits (torch.FloatTensor，形状为 (batch_size, num_queries, num_classes + 1)) — 所有 queries 的分类 logits（包括无对象）。
• pred_boxes (torch.FloatTensor，形状为 (batch_size, num_queries, 4)) — 所有 queries 的归一化框坐标，表示为（center_x，center_y，width，height）。 这些值在 [0, 1] 中归一化，相对于批次中每个单独图像的大小（忽略可能的 padding）。 您可以使用 post_process_object_detection() 来检索未归一化（绝对）的边界框。
• auxiliary_outputs (list[Dict]，可选) — 可选，仅当辅助损失被激活时（即，config.auxiliary_loss 设置为 True）且提供了标签时返回。 它是字典列表，其中包含每个解码器层的上述两个键（logits 和 pred_boxes）。
• last_hidden_state (torch.FloatTensor，形状为 (batch_size, num_queries, hidden_size)) — 模型解码器最后一层的输出处的隐藏状态序列。
• intermediate_hidden_states (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, num_queries, hidden_size)) — 堆叠的中间隐藏状态（解码器每一层的输出）。
• intermediate_logits (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, num_queries, config.num_labels)) — 堆叠的中间 logits（解码器每一层的 logits）。
• intermediate_reference_points (torch.FloatTensor，形状为 (batch_size, config.decoder_layers, num_queries, 4)) — 堆叠的中间参考点（解码器每一层的参考点）。
• decoder_hidden_states (tuple(torch.FloatTensor)，可选，当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（每个嵌入输出一个，每层输出一个），形状为 (batch_size, num_queries, hidden_size)。 解码器在每一层输出处的隐藏状态加上初始嵌入输出。
• decoder_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_heads, num_queries, num_queries)。 解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
• cross_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_queries, num_heads, 4, 4)。 解码器的交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。
• encoder_last_hidden_state (torch.FloatTensor，形状为 (batch_size, sequence_length, hidden_size)，可选) — 模型编码器最后一层的输出处的隐藏状态序列。
• encoder_hidden_states (tuple(torch.FloatTensor)，可选，当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（每个嵌入输出一个，每层输出一个），形状为 (batch_size, sequence_length, hidden_size)。 编码器在每一层输出处的隐藏状态加上初始嵌入输出。
• encoder_attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每层一个），形状为 (batch_size, num_queries, num_heads, 4, 4)。 编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
• init_reference_points (torch.FloatTensor，形状为 (batch_size, num_queries, 4)) — 通过 Transformer 解码器发送的初始参考点。
• enc_topk_logits (torch.FloatTensor，形状为 (batch_size, sequence_length, config.num_labels)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 编码器中预测的边界框坐标的 logits。
• enc_topk_bboxes (torch.FloatTensor，形状为 (batch_size, sequence_length, 4)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 编码器中预测的边界框坐标的 logits。
• enc_outputs_class (torch.FloatTensor，形状为 (batch_size, sequence_length, config.num_labels)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 预测的边界框得分，其中在第一阶段选择 top config.two_stage_num_proposals 个得分最高的边界框作为区域提议。 边界框二元分类的输出（即前景和背景）。
• enc_outputs_coord_logits (torch.FloatTensor，形状为 (batch_size, sequence_length, 4)，可选，当 config.with_box_refine=True 和 config.two_stage=True 时返回) — 第一阶段中预测的边界框坐标的 logits。
• denoising_meta_values (dict) — 用于去噪相关值的额外字典

参数

• pixel_values (torch.FloatTensor，形状为 (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参见 RTDetrImageProcessor.call()。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息，请参见返回张量下的 hidden_states。
• return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通的元组。

一个 transformers.modeling_outputs.BackboneOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含取决于配置 (RTDetrResNetConfig) 和输入的各种元素。

• feature_maps (tuple(torch.FloatTensor)，形状为 (batch_size, num_channels, height, width)) — 各个阶段的特征图。

• hidden_states (tuple(torch.FloatTensor), 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（每个嵌入输出一个，每层输出一个），形状为 (batch_size, sequence_length, hidden_size) 或 (batch_size, num_channels, height, width)，取决于骨干网络。

  模型在每个阶段输出以及初始嵌入输出的隐藏状态。

• attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。仅当骨干网络使用注意力机制时适用。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。