Conditional DETR
概述
Conditional DETR 模型由 Depu Meng、Xiaokang Chen、Zejia Fan、Gang Zeng、Houqiang Li、Yuhui Yuan、Lei Sun、Jingdong Wang 在 Conditional DETR for Fast Training Convergence 中提出。Conditional DETR 提出了一种有条件的交叉注意力机制，用于加速 DETR 训练。Conditional DETR 的收敛速度比 DETR 快 6.7 倍到 10 倍。
以下是论文的摘要
最近开发的 DETR 方法将 Transformer 编码器和解码器架构应用于目标检测，并取得了可喜的性能。在本文中，我们处理了关键问题——训练收敛速度慢，并提出了一种有条件的交叉注意力机制，用于加速 DETR 训练。我们的方法的动机是，DETR 中的交叉注意力高度依赖于内容嵌入来定位四个极点并预测框，这增加了对高质量内容嵌入的需求，从而增加了训练难度。我们的方法名为 Conditional DETR，从解码器嵌入中学习有条件的空间查询，用于解码器多头交叉注意力。这样做的好处是，通过有条件的空间查询，每个交叉注意力头都能够关注包含不同区域的频带，例如，一个物体极点或物体框内的区域。这缩小了定位用于物体分类和框回归的不同区域的空间范围，从而放松了对内容嵌入的依赖，并减轻了训练难度。实证结果表明，对于骨干网络 R50 和 R101，conditional DETR 的收敛速度快 6.7 倍，对于更强大的骨干网络 DC5-R50 和 DC5-R101，则快 10 倍。代码可在 https://github.com/Atten4Vis/ConditionalDETR 获取。
与原始 DETR 相比，Conditional DETR 显示出更快的收敛速度。摘自 原始论文。 资源
- 使用 ConditionalDetrForObjectDetection 和 Trainer 或 Accelerate 进行微调的脚本可以在这里找到。
- 另请参阅：目标检测任务指南。
ConditionalDetrConfig
class transformers.ConditionalDetrConfig
< source >( use_timm_backbone = True backbone_config = None num_channels = 3 num_queries = 300 encoder_layers = 6 encoder_ffn_dim = 2048 encoder_attention_heads = 8 decoder_layers = 6 decoder_ffn_dim = 2048 decoder_attention_heads = 8 encoder_layerdrop = 0.0 decoder_layerdrop = 0.0 is_encoder_decoder = True activation_function = 'relu' d_model = 256 dropout = 0.1 attention_dropout = 0.0 activation_dropout = 0.0 init_std = 0.02 init_xavier_std = 1.0 auxiliary_loss = False position_embedding_type = 'sine' backbone = 'resnet50' use_pretrained_backbone = True backbone_kwargs = None dilation = False class_cost = 2 bbox_cost = 5 giou_cost = 2 mask_loss_coefficient = 1 dice_loss_coefficient = 1 cls_loss_coefficient = 2 bbox_loss_coefficient = 5 giou_loss_coefficient = 2 focal_alpha = 0.25 **kwargs )
参数
- use_timm_backbone (
bool, 可选, 默认为True) — 是否使用timm库作为骨干网络。如果设置为False，将使用 AutoBackbone API。 - backbone_config (
PretrainedConfig或dict, 可选) — 骨干模型的配置。仅在use_timm_backbone设置为False时使用，在这种情况下，它将默认为ResNetConfig()。 - num_channels (
int, 可选, 默认为 3) — 输入通道数。 - num_queries (
int, 可选, 默认为 100) — 对象查询的数量，即检测槽的数量。这是 ConditionalDetrModel 在单个图像中可以检测到的最大对象数量。对于 COCO，我们建议使用 100 个查询。 - d_model (
int, 可选, 默认为 256) — 层的维度。 - encoder_layers (
int, 可选, 默认为 6) — 编码器层数。 - decoder_layers (
int, 可选, 默认为 6) — 解码器层数。 - encoder_attention_heads (
int, 可选, 默认为 8) — Transformer 编码器中每个注意力层的注意力头数。 - decoder_attention_heads (
int, 可选, 默认为 8) — Transformer 解码器中每个注意力层的注意力头数。 - decoder_ffn_dim (
int, 可选, 默认为 2048) — 解码器中“中间”（通常称为前馈）层的维度。 - encoder_ffn_dim (
int, 可选, 默认为 2048) — 解码器中“中间”（通常称为前馈）层的维度。 - activation_function (
str或function, 可选, 默认为"relu") — 编码器和池化器中的非线性激活函数（函数或字符串）。如果为字符串，则支持"gelu"、"relu"、"silu"和"gelu_new"。 - dropout (
float, 可选, 默认为 0.1) — 嵌入、编码器和池化器中所有全连接层的 dropout 概率。 - attention_dropout (
float, 可选, 默认为 0.0) — 注意力概率的 dropout 比率。 - activation_dropout (
float, 可选, 默认为 0.0) — 全连接层内部激活的 dropout 比率。 - init_std (
float, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的 truncated_normal_initializer 的标准差。 - init_xavier_std (
float, 可选, 默认为 1) — 用于 HM 注意力映射模块中 Xavier 初始化增益的缩放因子。 - encoder_layerdrop (
float, 可选, 默认为 0.0) — 编码器的 LayerDrop 概率。有关更多详细信息，请参阅 [LayerDrop 论文](see https://arxiv.org/abs/1909.11556)。 - decoder_layerdrop (
float, 可选, 默认为 0.0) — 解码器的 LayerDrop 概率。有关更多详细信息，请参阅 [LayerDrop 论文](see https://arxiv.org/abs/1909.11556)。 - auxiliary_loss (
bool, 可选, 默认为False) — 是否使用辅助解码损失（每个解码器层的损失）。 - position_embedding_type (
str, 可选, 默认为"sine") — 要在图像特征之上使用的位置嵌入类型。可以是"sine"或"learned"之一。 - backbone (
str, optional, defaults to"resnet50") — 当backbone_config为None时，要使用的主干网络的名称。如果use_pretrained_backbone为True，这将从 timm 或 transformers 库加载相应的预训练权重。如果use_pretrained_backbone为False，这将加载主干网络的配置，并使用该配置来初始化具有随机权重的主干网络。 - use_pretrained_backbone (
bool, optional, defaults toTrue) — 是否使用主干网络的预训练权重。 - backbone_kwargs (
dict, optional) — 从检查点加载时要传递给 AutoBackbone 的关键字参数，例如{'out_indices': (0, 1, 2, 3)}。如果设置了backbone_config，则不能指定此项。 - dilation (
bool, optional, defaults toFalse) — 是否在最后一个卷积块 (DC5) 中用空洞卷积替换步幅。仅当use_timm_backbone=True时才支持。 - class_cost (
float, optional, defaults to 1) — 在 Hungarian 匹配成本中，分类错误的相对权重。 - bbox_cost (
float, optional, defaults to 5) — 在 Hungarian 匹配成本中，边界框坐标的 L1 误差的相对权重。 - giou_cost (
float, optional, defaults to 2) — 在 Hungarian 匹配成本中，边界框的广义 IoU 损失的相对权重。 - mask_loss_coefficient (
float, optional, defaults to 1) — 在全景分割损失中，Focal 损失的相对权重。 - dice_loss_coefficient (
float, optional, defaults to 1) — 在全景分割损失中，DICE/F-1 损失的相对权重。 - bbox_loss_coefficient (
float, optional, defaults to 5) — 在对象检测损失中，L1 边界框损失的相对权重。 - giou_loss_coefficient (
float, optional, defaults to 2) — 在对象检测损失中，广义 IoU 损失的相对权重。 - eos_coefficient (
float, optional, defaults to 0.1) — 在对象检测损失中，‘无对象’类别的相对分类权重。 - focal_alpha (
float, optional, defaults to 0.25) — Focal 损失中的 Alpha 参数。
这是用于存储 ConditionalDetrModel 配置的配置类。它用于根据指定的参数实例化 Conditional DETR 模型，定义模型架构。使用默认值实例化配置将产生与 Conditional DETR microsoft/conditional-detr-resnet-50 架构类似的配置。
配置对象继承自 PretrainedConfig，可用于控制模型输出。有关更多信息，请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import ConditionalDetrConfig, ConditionalDetrModel
>>> # Initializing a Conditional DETR microsoft/conditional-detr-resnet-50 style configuration
>>> configuration = ConditionalDetrConfig()
>>> # Initializing a model (with random weights) from the microsoft/conditional-detr-resnet-50 style configuration
>>> model = ConditionalDetrModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configConditionalDetrImageProcessor
class transformers.ConditionalDetrImageProcessor
< source >( format: Union = <AnnotationFormat.COCO_DETECTION: 'coco_detection'> do_resize: bool = True size: Dict = None resample: Resampling = <Resampling.BILINEAR: 2> do_rescale: bool = True rescale_factor: Union = 0.00392156862745098 do_normalize: bool = True image_mean: Union = None image_std: Union = None do_convert_annotations: Optional = None do_pad: bool = True pad_size: Optional = None **kwargs )
参数
- format (
str, optional, defaults to"coco_detection") — 注释的数据格式。为 “coco_detection” 或 “coco_panoptic” 之一。 - do_resize (
bool, optional, defaults toTrue) — 控制是否将图像的 (高度, 宽度) 尺寸调整为指定的size。可以被preprocess方法中的do_resize参数覆盖。 - size (
Dict[str, int]optional, defaults to{"shortest_edge" -- 800, "longest_edge": 1333}): 调整大小后图像的(height, width)尺寸大小。可以被preprocess方法中的size参数覆盖。可用选项包括：{"height": int, "width": int}：图像将被调整为精确尺寸(height, width)。不保持宽高比。{"shortest_edge": int, "longest_edge": int}：图像将被调整为最大尺寸，同时保持宽高比，并保持最短边小于或等于shortest_edge，最长边小于或等于longest_edge。{"max_height": int, "max_width": int}：图像将被调整为最大尺寸，同时保持宽高比，并保持高度小于或等于max_height，宽度小于或等于max_width。
- resample (
PILImageResampling, optional, defaults toPILImageResampling.BILINEAR) — 如果调整图像大小，要使用的重采样滤波器。 - do_rescale (
bool, optional, defaults toTrue) — 控制是否按指定的比例rescale_factor重新缩放图像。可以被preprocess方法中的do_rescale参数覆盖。 - rescale_factor (
int或float, optional, defaults to1/255) — 如果重新缩放图像，要使用的缩放因子。可以被preprocess方法中的rescale_factor参数覆盖。 do_normalize — 控制是否对图像进行归一化。可以被preprocess方法中的do_normalize参数覆盖。 - image_mean (
float或List[float], optional, defaults toIMAGENET_DEFAULT_MEAN) — 归一化图像时要使用的均值。可以是单个值或值列表，每个通道一个值。可以被preprocess方法中的image_mean参数覆盖。 - image_std (
float或List[float], optional, defaults toIMAGENET_DEFAULT_STD) — 归一化图像时要使用的标准差值。可以是单个值或值列表，每个通道一个值。可以被preprocess方法中的image_std参数覆盖。 - do_convert_annotations (
bool, optional, defaults toTrue) — 控制是否将注释转换为 DETR 模型期望的格式。将边界框转换为(center_x, center_y, width, height)格式，并在[0, 1]范围内。可以被preprocess方法中的do_convert_annotations参数覆盖。 - do_pad (
bool, optional, defaults toTrue) — 控制是否填充图像。可以被preprocess方法中的do_pad参数覆盖。如果为True，则将在图像的底部和右侧填充零。如果提供了pad_size，图像将被填充到指定的尺寸。否则，图像将被填充到批次中的最大高度和宽度。 - pad_size (
Dict[str, int], optional) — 要将图像填充到的尺寸{"height": int, "width" int}。必须大于为预处理提供的任何图像尺寸。如果未提供pad_size，则图像将被填充到批次中最大的高度和宽度。
构建 Conditional Detr 图像处理器。
preprocess
< source >( images: Union annotations: Union = None return_segmentation_masks: bool = None masks_path: Union = None do_resize: Optional = None size: Optional = None resample = None do_rescale: Optional = None rescale_factor: Union = None do_normalize: Optional = None do_convert_annotations: Optional = None image_mean: Union = None image_std: Union = None do_pad: Optional = None format: Union = None return_tensors: Union = None data_format: Union = <ChannelDimension.FIRST: 'channels_first'> input_data_format: Union = None pad_size: Optional = None **kwargs )
参数
- images (
ImageInput) — 要预处理的图像或批量图像。 期望像素值范围为 0 到 255 的单个或批量图像。 如果传入像素值在 0 到 1 之间的图像，请设置do_rescale=False。 - annotations (
AnnotationType或List[AnnotationType], 可选) — 与图像或批量图像关联的注释列表。 如果注释用于目标检测，则注释应为包含以下键的字典：- “image_id” (
int): 图像 ID。 - “annotations” (
List[Dict]): 图像的注释列表。 每个注释都应是一个字典。 图像可以没有注释，在这种情况下，列表应为空。 如果注释用于分割，则注释应为包含以下键的字典： - “image_id” (
int): 图像 ID。 - “segments_info” (
List[Dict]): 图像的分割列表。 每个分割都应是一个字典。 图像可以没有分割，在这种情况下，列表应为空。 - “file_name” (
str): 图像的文件名。
- “image_id” (
- return_segmentation_masks (
bool, 可选, 默认为 self.return_segmentation_masks) — 是否返回分割掩码。 - masks_path (
str或pathlib.Path, 可选) — 包含分割掩码的目录的路径。 - do_resize (
bool, 可选, 默认为 self.do_resize) — 是否调整图像大小。 - size (
Dict[str, int], 可选, 默认为 self.size) — 调整大小后图像的(height, width)尺寸大小。 可用选项包括：{"height": int, "width": int}：图像将被调整为精确尺寸(height, width)。 不保持宽高比。{"shortest_edge": int, "longest_edge": int}：图像将被调整为最大尺寸，同时保持宽高比，并使最短边小于或等于shortest_edge，最长边小于或等于longest_edge。{"max_height": int, "max_width": int}：图像将被调整为最大尺寸，同时保持宽高比，并使高度小于或等于max_height，宽度小于或等于max_width。
- resample (
PILImageResampling, 可选, 默认为 self.resample) — 调整图像大小时使用的重采样过滤器。 - do_rescale (
bool, 可选, 默认为 self.do_rescale) — 是否重新缩放图像。 - rescale_factor (
float, 可选, 默认为 self.rescale_factor) — 重新缩放图像时使用的重新缩放因子。 - do_normalize (
bool, 可选, 默认为 self.do_normalize) — 是否标准化图像。 - do_convert_annotations (
bool, 可选, 默认为 self.do_convert_annotations) — 是否将注释转换为模型期望的格式。 将边界框从(top_left_x, top_left_y, width, height)格式转换为(center_x, center_y, width, height)格式，并转换为相对坐标。 - image_mean (
float或List[float], 可选, 默认为 self.image_mean) — 标准化图像时使用的均值。 - image_std (
float或List[float], 可选, 默认为 self.image_std) — 标准化图像时使用的标准差。 - do_pad (
bool, 可选, 默认为 self.do_pad) — 是否填充图像。 如果为True，则将使用零填充图像的底部和右侧。 如果提供了pad_size，则图像将被填充到指定的尺寸。 否则，图像将被填充到批次的最大高度和宽度。 - format (
str或AnnotationFormat, 可选, 默认为 self.format) — 注释的格式。 - return_tensors (
str或TensorType, 可选, 默认为 self.return_tensors) — 要返回的张量类型。 如果为None，将返回图像列表。 - data_format (
ChannelDimension或str, 可选, 默认为ChannelDimension.FIRST) — 输出图像的通道维度格式。 可以是以下之一："channels_first"或ChannelDimension.FIRST：(num_channels, height, width) 格式的图像。"channels_last"或ChannelDimension.LAST：(height, width, num_channels) 格式的图像。- Unset: 使用输入图像的通道维度格式。
- input_data_format (
ChannelDimension或str, 可选) — 输入图像的通道维度格式。 如果未设置，则通道维度格式将从输入图像中推断。 可以是以下之一："channels_first"或ChannelDimension.FIRST：(num_channels, height, width) 格式的图像。"channels_last"或ChannelDimension.LAST：(height, width, num_channels) 格式的图像。"none"或ChannelDimension.NONE：(height, width) 格式的图像。
- pad_size (
Dict[str, int], 可选) — 要将图像填充到的尺寸{"height": int, "width" int}。 必须大于为预处理提供的任何图像尺寸。 如果未提供pad_size，则图像将被填充到批次中最大的高度和宽度。
预处理图像或一批图像，以便模型可以使用它们。
post_process_object_detection
< source >( outputs threshold: float = 0.5 target_sizes: Union = None top_k: int = 100 ) → List[Dict]
参数
- outputs (
DetrObjectDetectionOutput) — 模型的原始输出。 - threshold (
float, 可选) — 保留目标检测预测的分数阈值。 - target_sizes (
torch.Tensor或List[Tuple[int, int]], 可选) — 形状为(batch_size, 2)的张量或元组列表 (Tuple[int, int])，其中包含批次中每个图像的目标大小（高度，宽度）。 如果保留为 None，则预测将不会调整大小。 - top_k (
int, 可选, 默认为 100) — 在按阈值过滤之前，仅保留前 k 个边界框。
返回值
List[Dict]
字典列表，每个字典都包含模型预测的批次中图像的分数、标签和框。
将 ConditionalDetrForObjectDetection 的原始输出转换为 (top_left_x, top_left_y, bottom_right_x, bottom_right_y) 格式的最终边界框。 仅支持 PyTorch。
post_process_instance_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 target_sizes: Optional = None return_coco_annotation: Optional = False ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- threshold (
float, optional, defaults to 0.5) — 用于保留预测实例掩码的概率分数阈值，默认为 0.5。 - mask_threshold (
float, optional, defaults to 0.5) — 将预测的掩码转换为二值时使用的阈值，默认为 0.5。 - overlap_mask_area_threshold (
float, optional, defaults to 0.8) — 重叠掩码区域阈值，用于合并或丢弃每个二值实例掩码内的小型断开连接部分，默认为 0.8。 - target_sizes (
List[Tuple], optional) — 长度为 (batch_size) 的列表，其中每个列表项 (Tuple[int, int]]) 对应于每个预测的请求最终尺寸（高度，宽度）。如果未设置，则不会调整预测大小。 - return_coco_annotation (
bool, optional) — 默认为False。如果设置为True，则分割图以 COCO 运行长度编码 (RLE) 格式返回。
返回值
List[Dict]
字典列表，每个图像一个字典，每个字典包含两个键
- segmentation — 形状为
(height, width)的张量，其中每个像素表示一个segment_id；或者，如果 return_coco_annotation 设置为True，则为分割图的List[List]运行长度编码 (RLE)。如果未找到高于threshold的掩码，则设置为None。 - segments_info — 包含每个分段的附加信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - score — 具有
segment_id的分段的预测分数。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为实例分割预测。仅支持 PyTorch。
post_process_semantic_segmentation
< source >( outputs target_sizes: List = None ) → List[torch.Tensor]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- target_sizes (
List[Tuple[int, int]], optional) — 元组列表 (Tuple[int, int])，其中包含批次中每个图像的目标大小（高度，宽度）。如果未设置，则不会调整预测大小。
返回值
List[torch.Tensor]
长度为 batch_size 的列表，其中每个项目是形状为 (height, width) 的语义分割图，对应于 target_sizes 条目（如果指定了 target_sizes）。每个 torch.Tensor 的每个条目对应于一个语义类别 ID。
将 ConditionalDetrForSegmentation 的输出转换为语义分割图。仅支持 PyTorch。
post_process_panoptic_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 label_ids_to_fuse: Optional = None target_sizes: Optional = None ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 来自 ConditionalDetrForSegmentation 的输出。
- threshold (
float, optional, defaults to 0.5) — 用于保留预测实例掩码的概率分数阈值，默认为 0.5。 - mask_threshold (
float, optional, defaults to 0.5) — 将预测的掩码转换为二值时使用的阈值，默认为 0.5。 - overlap_mask_area_threshold (
float, optional, defaults to 0.8) — 重叠掩码区域阈值，用于合并或丢弃每个二值实例掩码内的小型断开连接部分，默认为 0.8。 - label_ids_to_fuse (
Set[int], optional) — 此状态下的标签将使其所有实例融合在一起。例如，我们可以说一张图像中只能有一个天空，但可以有多个人，因此天空的标签 ID 将在该集合中，但人的标签 ID 不会在其中。 - target_sizes (
List[Tuple], optional) — 长度为 (batch_size) 的列表，其中每个列表项 (Tuple[int, int]]) 对应于批次中每个预测的请求最终尺寸（高度，宽度）。如果未设置，则不会调整预测大小。
返回值
List[Dict]
字典列表，每个图像一个字典，每个字典包含两个键
- segmentation — 形状为
(height, width)的张量，其中每个像素表示一个segment_id；如果未找到高于threshold的掩码，则为None。如果指定了target_sizes，则分割将调整为相应的target_sizes条目。 - segments_info — 包含每个分段的附加信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - was_fused — 布尔值，如果
label_id在label_ids_to_fuse中，则为True，否则为False。同一类别/标签的多个实例被融合并分配了单个segment_id。 - score — 具有
segment_id的分段的预测分数。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为图像全景分割预测。仅支持 PyTorch。
ConditionalDetrFeatureExtractor
预处理图像或一批图像。
post_process_object_detection
< source >( outputs threshold: float = 0.5 target_sizes: Union = None top_k: int = 100 ) → List[Dict]
参数
- outputs (
DetrObjectDetectionOutput) — 模型的原始输出。 - threshold (
float, optional) — 用于保留物体检测预测的分数阈值。 - target_sizes (
torch.Tensor或List[Tuple[int, int]], optional) — 形状为(batch_size, 2)的张量或元组列表 (Tuple[int, int])，包含批次中每张图像的目标大小（高度，宽度）。如果留空，则不会调整预测大小。 - top_k (
int, optional, defaults to 100) — 在通过阈值过滤之前，仅保留前 k 个边界框。
返回值
List[Dict]
字典列表，每个字典都包含模型预测的批次中图像的分数、标签和框。
将 ConditionalDetrForObjectDetection 的原始输出转换为 (top_left_x, top_left_y, bottom_right_x, bottom_right_y) 格式的最终边界框。 仅支持 PyTorch。
post_process_instance_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 target_sizes: Optional = None return_coco_annotation: Optional = False ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- threshold (
float, optional, defaults to 0.5) — 用于保留预测实例掩码的概率分数阈值。 - mask_threshold (
float, optional, defaults to 0.5) — 将预测掩码转换为二值时使用的阈值。 - overlap_mask_area_threshold (
float, optional, defaults to 0.8) — 重叠掩码区域阈值，用于合并或丢弃每个二值实例掩码内的小的、不连接的部分。 - target_sizes (
List[Tuple], optional) — 长度为 (batch_size) 的列表，其中每个列表项 (Tuple[int, int]]) 对应于每个预测的请求最终大小（高度，宽度）。如果未设置，则不会调整预测大小。 - return_coco_annotation (
bool, optional) — Defaults toFalse. 如果设置为True，则分割图以 COCO 游程编码 (RLE) 格式返回。
返回值
List[Dict]
字典列表，每个图像一个字典，每个字典包含两个键
- segmentation — 形状为
(height, width)的张量，其中每个像素表示一个segment_id；或者，如果 return_coco_annotation 设置为True，则为分割图的List[List]运行长度编码 (RLE)。如果未找到高于threshold的掩码，则设置为None。 - segments_info — 包含每个分段的附加信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - score — 具有
segment_id的分段的预测分数。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为实例分割预测。仅支持 PyTorch。
post_process_semantic_segmentation
< source >( outputs target_sizes: List = None ) → List[torch.Tensor]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- target_sizes (
List[Tuple[int, int]], optional) — 元组列表 (Tuple[int, int])，包含批次中每张图像的目标大小（高度，宽度）。如果未设置，则不会调整预测大小。
返回值
List[torch.Tensor]
长度为 batch_size 的列表，其中每个项目是形状为 (height, width) 的语义分割图，对应于 target_sizes 条目（如果指定了 target_sizes）。每个 torch.Tensor 的每个条目对应于一个语义类别 ID。
将 ConditionalDetrForSegmentation 的输出转换为语义分割图。仅支持 PyTorch。
post_process_panoptic_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 label_ids_to_fuse: Optional = None target_sizes: Optional = None ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 来自 ConditionalDetrForSegmentation 的输出。
- threshold (
float, optional, defaults to 0.5) — 用于保留预测实例掩码的概率分数阈值。 - mask_threshold (
float, optional, defaults to 0.5) — 将预测掩码转换为二值时使用的阈值。 - overlap_mask_area_threshold (
float, optional, defaults to 0.8) — 重叠掩码区域阈值，用于合并或丢弃每个二值实例掩码内的小的、不连接的部分。 - label_ids_to_fuse (
Set[int], optional) — 此状态下的标签将使其所有实例融合在一起。例如，我们可以说一张图像中只能有一个天空，但可以有几个人，因此天空的标签 ID 将在该集合中，但人的标签 ID 不会。 - target_sizes (
List[Tuple], optional) — 长度为 (batch_size) 的列表，其中每个列表项 (Tuple[int, int]]) 对应于批次中每个预测的请求最终大小（高度，宽度）。如果未设置，则不会调整预测大小。
返回值
List[Dict]
字典列表，每个图像一个字典，每个字典包含两个键
- segmentation — 形状为
(height, width)的张量，其中每个像素表示一个segment_id；如果未找到高于threshold的掩码，则为None。如果指定了target_sizes，则分割将调整为相应的target_sizes条目。 - segments_info — 包含每个分段的附加信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - was_fused — 布尔值，如果
label_id在label_ids_to_fuse中，则为True，否则为False。同一类别/标签的多个实例被融合并分配了单个segment_id。 - score — 具有
segment_id的分段的预测分数。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为图像全景分割预测。仅支持 PyTorch。
ConditionalDetrModel
class transformers.ConditionalDetrModel
< source >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重，仅加载配置。查看 from_pretrained() 方法以加载模型权重。
裸 Conditional DETR 模型（由骨干网络和编码器-解码器 Transformer 组成），输出原始隐藏状态，顶部没有任何特定的头部。
此模型继承自 PreTrainedModel。查看超类文档，了解库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头部等）。
此模型也是 PyTorch torch.nn.Module 子类。将其用作常规 PyTorch 模块，并参阅 PyTorch 文档，了解与通用用法和行为相关的所有事项。
forward
< source >( pixel_values: FloatTensor pixel_mask: Optional = None decoder_attention_mask: Optional = None encoder_outputs: Optional = None inputs_embeds: Optional = None decoder_inputs_embeds: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None ) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput or tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensorof shape(batch_size, num_channels, height, width)) — 像素值。如果您提供填充，默认情况下会忽略填充。像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参阅 ConditionalDetrImageProcessor.call()。
- pixel_mask (
torch.LongTensor，形状为(batch_size, height, width)，可选) — 用于避免对填充像素值执行注意力机制的掩码。掩码值选自[0, 1]：- 1 代表真实像素（即，未被掩码），
- 0 代表填充像素（即，已被掩码）。
- decoder_attention_mask (
torch.FloatTensor，形状为(batch_size, num_queries)，可选) — 默认情况下不使用。可用于掩码对象 queries。 - encoder_outputs (
tuple(tuple(torch.FloatTensor)，可选) — 元组由 (last_hidden_state，可选：hidden_states，可选：attentions) 组成。last_hidden_state的形状为(batch_size, sequence_length, hidden_size)，可选) 是编码器最后一层的输出隐藏状态序列。在解码器的交叉注意力机制中使用。 - inputs_embeds (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（backbone + 投影层的输出）。 - decoder_inputs_embeds (
torch.FloatTensor，形状为(batch_size, num_queries, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化 queries。 - output_attentions (
bool，可选) — 是否返回所有注意力层的注意力张量。详见返回张量下的attentions。 - output_hidden_states (
bool，可选) — 是否返回所有层的隐藏状态。详见返回张量下的hidden_states。 - return_dict (
bool，可选) — 是否返回 ModelOutput 而不是普通元组。
返回值
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput 或 torch.FloatTensor 元组 (如果传递 return_dict=False 或当 config.return_dict=False 时)，包含各种元素，具体取决于配置 (ConditionalDetrConfig) 和输入。
- last_hidden_state (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)) — 模型解码器最后一层的输出隐藏状态序列。 - decoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。解码器在每一层输出以及初始嵌入输出的隐藏状态。 - decoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - cross_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选) — 模型编码器最后一层的输出隐藏状态序列。 - encoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。编码器在每一层输出以及初始嵌入输出的隐藏状态。 - encoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - intermediate_hidden_states (
torch.FloatTensor，形状为(config.decoder_layers, batch_size, sequence_length, hidden_size)，可选，当config.auxiliary_loss=True时返回) — 中间解码器激活值，即每个解码器层的输出，每个输出都经过 layernorm。
ConditionalDetrModel 的 forward 方法覆盖了 __call__ 特殊方法。
虽然 forward 传递的配方需要在该函数中定义，但应该在之后调用 Module 实例而不是此函数，因为前者负责运行预处理和后处理步骤，而后者会默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModel
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> model = AutoModel.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> # forward pass
>>> outputs = model(**inputs)
>>> # the last hidden states are the final query embeddings of the Transformer decoder
>>> # these are of shape (batch_size, num_queries, hidden_size)
>>> last_hidden_states = outputs.last_hidden_state
>>> list(last_hidden_states.shape)
[1, 300, 256]ConditionalDetrForObjectDetection
class transformers.ConditionalDetrForObjectDetection
< source >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 带有模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重，仅加载配置。查看 from_pretrained() 方法以加载模型权重。
CONDITIONAL_DETR 模型（由 backbone 和编码器-解码器 Transformer 组成），顶部带有对象检测头，用于诸如 COCO 检测之类的任务。
此模型继承自 PreTrainedModel。查看超类文档，了解库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头部等）。
此模型也是 PyTorch torch.nn.Module 子类。将其用作常规 PyTorch 模块，并参阅 PyTorch 文档，了解与通用用法和行为相关的所有事项。
forward
< source >( pixel_values: FloatTensor pixel_mask: Optional = None decoder_attention_mask: Optional = None encoder_outputs: Optional = None inputs_embeds: Optional = None decoder_inputs_embeds: Optional = None labels: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None ) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor，形状为(batch_size, num_channels, height, width)) — 像素值。如果您提供填充，默认情况下将忽略填充。像素值可以使用 AutoImageProcessor 获得。有关详细信息，请参阅 ConditionalDetrImageProcessor.call()。
- pixel_mask (
torch.LongTensor，形状为(batch_size, height, width)，可选) — 用于避免对填充像素值执行注意力机制的掩码。掩码值选自[0, 1]：- 1 代表真实像素（即，未被掩码），
- 0 代表填充像素（即，已被掩码）。
- decoder_attention_mask (
torch.FloatTensor，形状为(batch_size, num_queries)，可选) — 默认情况下不使用。可用于掩码对象 queries。 - encoder_outputs (
tuple(tuple(torch.FloatTensor)，可选) — 元组由 (last_hidden_state，可选：hidden_states，可选：attentions) 组成。last_hidden_state的形状为(batch_size, sequence_length, hidden_size)，可选) 是编码器最后一层的输出隐藏状态序列。在解码器的交叉注意力机制中使用。 - inputs_embeds (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（backbone + 投影层的输出）。 - decoder_inputs_embeds (
torch.FloatTensor，形状为(batch_size, num_queries, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化 queries。 - output_attentions (
bool，可选) — 是否返回所有注意力层的注意力张量。详见返回张量下的attentions。 - output_hidden_states (
bool，可选) — 是否返回所有层的隐藏状态。详见返回张量下的hidden_states。 - return_dict (
bool, optional) — 是否返回 ModelOutput 而不是纯粹的元组 (tuple)。 - labels (
List[Dict]of len(batch_size,), optional) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下 2 个键：'class_labels' 和 'boxes'（分别代表批次中图像的类别标签和边界框）。类别标签本身应为长度为(number of bounding boxes in the image,)的torch.LongTensor，而边界框应为形状为(number of bounding boxes in the image, 4)的torch.FloatTensor。
返回值
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），其中包含各种元素，具体取决于配置 (ConditionalDetrConfig) 和输入。
- loss (
torch.FloatTensorof shape(1,), optional, 当提供labels时返回) — 总损失，是类别预测的负对数似然（交叉熵）和边界框损失的线性组合。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。 - loss_dict (
Dict, optional) — 包含各个损失的字典。用于日志记录。 - logits (
torch.FloatTensorof shape(batch_size, num_queries, num_classes + 1)) — 所有查询的分类 logits（包括无对象）。 - pred_boxes (
torch.FloatTensorof shape(batch_size, num_queries, 4)) — 所有查询的归一化框坐标，表示为（center_x，center_y，width，height）。这些值在 [0, 1] 范围内归一化，相对于批次中每个单独图像的大小（忽略可能的填充）。您可以使用 post_process_object_detection() 来检索未归一化的边界框。 - auxiliary_outputs (
list[Dict], optional) — 可选，仅当辅助损失激活时返回（即config.auxiliary_loss设置为True）并且提供了标签。它是字典列表，其中包含每个解码器层的上述两个键（logits和pred_boxes）。 - last_hidden_state (
torch.FloatTensorof shape(batch_size, sequence_length, hidden_size), optional) — 模型解码器最后一层输出的隐藏状态序列。 - decoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。解码器在每一层输出以及初始嵌入输出的隐藏状态。 - decoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - cross_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选) — 模型编码器最后一层的输出隐藏状态序列。 - encoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。编码器在每一层输出以及初始嵌入输出的隐藏状态。 - encoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
ConditionalDetrForObjectDetection 的 forward 方法，覆盖了 __call__ 特殊方法。
虽然 forward 传递的配方需要在该函数中定义，但应该在之后调用 Module 实例而不是此函数，因为前者负责运行预处理和后处理步骤，而后者会默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModelForObjectDetection
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> model = AutoModelForObjectDetection.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> outputs = model(**inputs)
>>> # convert outputs (bounding boxes and class logits) to Pascal VOC format (xmin, ymin, xmax, ymax)
>>> target_sizes = torch.tensor([image.size[::-1]])
>>> results = image_processor.post_process_object_detection(outputs, threshold=0.5, target_sizes=target_sizes)[
... 0
... ]
>>> for score, label, box in zip(results["scores"], results["labels"], results["boxes"]):
... box = [round(i, 2) for i in box.tolist()]
... print(
... f"Detected {model.config.id2label[label.item()]} with confidence "
... f"{round(score.item(), 3)} at location {box}"
... )
Detected remote with confidence 0.833 at location [38.31, 72.1, 177.63, 118.45]
Detected cat with confidence 0.831 at location [9.2, 51.38, 321.13, 469.0]
Detected cat with confidence 0.804 at location [340.3, 16.85, 642.93, 370.95]
Detected remote with confidence 0.683 at location [334.48, 73.49, 366.37, 190.01]
Detected couch with confidence 0.535 at location [0.52, 1.19, 640.35, 475.1]ConditionalDetrForSegmentation
class transformers.ConditionalDetrForSegmentation
< source >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 带有模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重，仅加载配置。查看 from_pretrained() 方法来加载模型权重。
CONDITIONAL_DETR 模型（由骨干网络和编码器-解码器 Transformer 组成），顶部带有分割头，用于诸如 COCO 全景分割之类的任务。
此模型继承自 PreTrainedModel。查看超类文档，了解库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头部等）。
此模型也是 PyTorch torch.nn.Module 子类。将其用作常规 PyTorch 模块，并参阅 PyTorch 文档，了解与通用用法和行为相关的所有事项。
forward
< source >( pixel_values: FloatTensor pixel_mask: Optional = None decoder_attention_mask: Optional = None encoder_outputs: Optional = None inputs_embeds: Optional = None decoder_inputs_embeds: Optional = None labels: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None ) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensorof shape(batch_size, num_channels, height, width)) — 像素值。如果您提供填充，默认情况下将忽略填充。像素值可以使用 AutoImageProcessor 获得。有关详细信息，请参见 ConditionalDetrImageProcessor.call()。
- pixel_mask (
torch.LongTensorof shape(batch_size, height, width), optional) — 用于避免对填充像素值执行注意力的掩码。掩码值在[0, 1]中选择：- 1 代表真实像素（即未被掩码），
- 0 代表填充像素（即被掩码）。
- decoder_attention_mask (
torch.FloatTensorof shape(batch_size, num_queries), optional) — 默认情况下不使用。可用于掩码对象查询。 - encoder_outputs (
tuple(tuple(torch.FloatTensor), optional) — 元组由 (last_hidden_state, optional:hidden_states, optional:attentions) 组成，last_hidden_state的形状为(batch_size, sequence_length, hidden_size)，optional) 是编码器最后一层输出的隐藏状态序列。在解码器的交叉注意力中使用。 - inputs_embeds (
torch.FloatTensorof shape(batch_size, sequence_length, hidden_size), optional) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（骨干网络 + 投影层的输出）。 - decoder_inputs_embeds (
torch.FloatTensorof shape(batch_size, num_queries, hidden_size), optional) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化查询。 - output_attentions (
bool, optional) — 是否返回所有注意力层的注意力张量。 有关更多详细信息，请参见返回张量下的attentions。 - output_hidden_states (
bool, optional) — 是否返回所有层的隐藏状态。 有关更多详细信息，请参见返回张量下的hidden_states。 - return_dict (
bool, optional) — 是否返回 ModelOutput 而不是纯粹的元组 (tuple)。 - labels (
List[Dict]of len(batch_size,), optional) — 用于计算二分图匹配损失、DICE/F-1 损失和 Focal 损失的标签。字典列表，每个字典至少包含以下 3 个键：'class_labels'、'boxes' 和 'masks'（分别代表批次中图像的类别标签、边界框和分割掩码）。类别标签本身应为长度为(number of bounding boxes in the image,)的torch.LongTensor，边界框应为形状为(number of bounding boxes in the image, 4)的torch.FloatTensor，而掩码应为形状为(number of bounding boxes in the image, height, width)的torch.FloatTensor。
返回值
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），其中包含各种元素，具体取决于配置 (ConditionalDetrConfig) 和输入。
- loss (
torch.FloatTensorof shape(1,), optional, 当提供labels时返回) — 总损失，是类别预测的负对数似然（交叉熵）和边界框损失的线性组合。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。 - loss_dict (
Dict, optional) — 包含各个损失的字典。用于日志记录。 - logits (
torch.FloatTensorof shape(batch_size, num_queries, num_classes + 1)) — 所有查询的分类 logits（包括无对象）。 - pred_boxes (
torch.FloatTensorof shape(batch_size, num_queries, 4)) — 所有查询的归一化框坐标，表示为（center_x，center_y，width，height）。这些值在 [0, 1] 范围内归一化，相对于批次中每个单独图像的大小（忽略可能的填充）。您可以使用 post_process_object_detection() 来检索未归一化的边界框。 - pred_masks (
torch.FloatTensorof shape(batch_size, num_queries, height/4, width/4)) — 所有查询的分割掩码 logits。另请参阅 post_process_semantic_segmentation() 或 post_process_instance_segmentation() post_process_panoptic_segmentation() 以分别评估语义分割、实例分割和全景分割掩码。 - auxiliary_outputs (
list[Dict], optional) — 可选，仅当辅助损失激活时返回（即config.auxiliary_loss设置为True）并且提供了标签。它是字典列表，其中包含每个解码器层的上述两个键（logits和pred_boxes）。 - last_hidden_state (
torch.FloatTensorof shape(batch_size, sequence_length, hidden_size), optional) — 模型解码器最后一层输出的隐藏状态序列。 - decoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。解码器在每一层输出以及初始嵌入输出的隐藏状态。 - decoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - cross_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。解码器交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state (
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选) — 模型编码器最后一层的输出隐藏状态序列。 - encoder_hidden_states (
tuple(torch.FloatTensor)，可选，当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor元组（每个嵌入输出 + 每层输出一个），形状为(batch_size, sequence_length, hidden_size)。编码器在每一层输出以及初始嵌入输出的隐藏状态。 - encoder_attentions (
tuple(torch.FloatTensor)，可选，当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
ConditionalDetrForSegmentation 的 forward 方法，覆盖了 __call__ 特殊方法。
虽然 forward 传递的配方需要在该函数中定义，但应该在之后调用 Module 实例而不是此函数，因为前者负责运行预处理和后处理步骤，而后者会默默地忽略它们。
示例
>>> import io
>>> import requests
>>> from PIL import Image
>>> import torch
>>> import numpy
>>> from transformers import (
... AutoImageProcessor,
... ConditionalDetrConfig,
... ConditionalDetrForSegmentation,
... )
>>> from transformers.image_transforms import rgb_to_id
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> # randomly initialize all weights of the model
>>> config = ConditionalDetrConfig()
>>> model = ConditionalDetrForSegmentation(config)
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> # forward pass
>>> outputs = model(**inputs)
>>> # Use the `post_process_panoptic_segmentation` method of the `image_processor` to retrieve post-processed panoptic segmentation maps
>>> # Segmentation results are returned as a list of dictionaries
>>> result = image_processor.post_process_panoptic_segmentation(outputs, target_sizes=[(300, 500)])
>>> # A tensor of shape (height, width) where each value denotes a segment id, filled with -1 if no segment is found
>>> panoptic_seg = result[0]["segmentation"]
>>> # Get prediction score and segment_id to class_id mapping of each segment
>>> panoptic_segments_info = result[0]["segments_info"]