条件DETR
概述
条件 DETR 模型由 Depu Meng、Xiaokang Chen、Zejia Fan、Gang Zeng、Houqiang Li、Yuhui Yuan、Lei Sun 和 Jingdong Wang 提出并发表在《快速训练收敛的条件 DETR》一文中，详细内容请参阅Condition DETR for Fast Training Convergence。条件 DETR 提出了一种用于快速 DETR 训练的条件交叉注意力机制。与 DETR 相比，条件 DETR 的收敛速度可提高 6.7 倍至 10 倍。
下面是论文的摘要：
最近开发的 DETR 方法将 Transformer 编码器和解码器架构应用于目标检测，并取得了可喜的性能。在本文中，我们解决了关键问题，即缓慢的训练收敛，并提出了一种用于快速 DETR 训练的条件交叉注意力机制。我们的方法受到跨注意力在 DETR 中高度依赖于内容嵌入来定位四个极端点和预测框的启发，这增加了对高质量内容嵌入的需求，从而增加了训练难度。我们的方法称为条件 DETR，从解码器嵌入中学习条件空间查询以进行解码器多头交叉注意力。好处是，通过条件空间查询，每个交叉注意力头能够关注包含不同区域的一带，例如一个物体的极端点或物体框内的区域。这缩小了定位用于对象分类和框回归的不同区域的时空范围，从而减轻了对内容嵌入的依赖，并简化了训练。实验结果表明，条件 DETR 对于 R50 和 R101 等主干网络可提高 6.7 倍的收敛速度，对于 DC5-R50 和 DC5-R101 等更强的主干网络可提高 10 倍的收敛速度。代码可在https://github.com/Atten4Vis/ConditionalDETR找到。
与原始 DETR 相比，条件 DETR 表现出更快的收敛速度。图片取自原始论文。 资源
- 使用ConditionalDetrForObjectDetection和Trainer或Accelerate进行微调的脚本可以在找到。
- 另请参阅：目标检测任务指南。
ConditionalDetrConfig
类 transformers.ConditionalDetrConfig
< 来源 >( use_timm_backbone = True backbone_config = None num_channels = 3 num_queries = 300 encoder_layers = 6 encoder_ffn_dim = 2048 encoder_attention_heads = 8 decoder_layers = 6 decoder_ffn_dim = 2048 decoder_attention_heads = 8 encoder_layerdrop = 0.0 decoder_layerdrop = 0.0 is_encoder_decoder = True activation_function = 'relu' d_model = 256 dropout = 0.1 attention_dropout = 0.0 activation_dropout = 0.0 init_std = 0.02 init_xavier_std = 1.0 auxiliary_loss = False position_embedding_type = 'sine' backbone = 'resnet50' use_pretrained_backbone = True backbone_kwargs = None dilation = False class_cost = 2 bbox_cost = 5 giou_cost = 2 mask_loss_coefficient = 1 dice_loss_coefficient = 1 cls_loss_coefficient = 2 bbox_loss_coefficient = 5 giou_loss_coefficient = 2 focal_alpha = 0.25 **kwargs )
参数
- use_timm_backbone (
bool, 可选, 默认True) — 是否使用timm库进行骨干网络。如果设置为False，将使用 AutoBackbone API。 - backbone_config (
PretrainedConfig或dict, 可选) — 基础模型配置。仅在use_timm_backbone设置为False时使用，默认为ResNetConfig()。 - num_channels (
int, 可选, 默认值 3) — 输入通道数。 - num_queries (
int, 可选, 默认值 100) — 对象查询数，即检测槽位数量。这是 ConditionalDetrModel 在单张图像中能够检测到的最大对象数。对于 COCO 数据集，我们建议使用 100 个查询。 - d_model (
int, 可选, 默认为256) — 层数的维度。 - encoder_layers (
int, 可选, 默认为6) — 编码器层数。 - decoder_layers (
int, 可选, 默认为6) — 解码器层数。 - encoder_attention_heads (
int, 可选, 默认为8) — Transformer编码器中每个注意力层中的注意力头数。 - decoder_attention_heads (
int, 可选, 默认值为8) — Transformer解码器中每个注意力层的注意力头数量。 - decoder_ffn_dim (
int, 可选, 默认值为2048) — 解码器中“中间”层（通常称为前馈层）的维度。 - encoder_ffn_dim (
int, 可选, 默认值为2048) — 解码器中“中间”层（通常称为前馈层）的维度。 - activation_function (
str或function，可选，默认为"relu") — 编码器和解码器中的非线性激活函数（函数或字符串）。如果为字符串，支持"gelu"、"relu"、"silu"和"gelu_new"。 - dropout (
float，可选，默认为 0.1) — 嵌入层、编码器和解码器中所有全连接层的丢弃概率。 - attention_dropout (
float，可选，默认为 0.0) — 注意力概率的丢弃比例。 - activation_dropout (
float，可选，默认为 0.0) — 全连接层内激活的丢弃比例。 - init_std (
float, 可选，默认为 0.02) — 初始化所有权重矩阵的截断正态初始化器的标准差。 - init_xavier_std (
float, 可选，默认为 1) — HM 注意力映射模块中 Xavier 初始化增益的缩放因子。 - encoder_layerdrop (
float, 可选，默认为 0.0) — 编码器的 LayerDrop 概率。有关更多详情，请参阅 [LayerDrop 论文](see https://arxiv.org/abs/1909.11556)。 - decoder_layerdrop (
浮点数, 可选, 默认为 0.0) — 解码层层的Dropout概率。参见[LayerDrop论文](see https://arxiv.org/abs/1909.11556)获取更多详情。 - auxiliary_loss (
布尔值, 可选, 默认为False) — 是否使用辅助解码损失（每个解码层级上的损失）。 - position_embedding_type (
字符串, 可选, 默认为"sine") — 在图像特征上使用位置嵌入的类型。可以是"sine"或"learned"之一。 - backbone (
str, 可选，默认为"resnet50") — 当backbone_config为None时，使用的骨干网络名称。如果use_pretrained_backbone为True，将从 timm 或 transformers 库加载数据库中对应预训练的权重。如果use_pretrained_backbone为False，将加载骨干网络配置，并使用随机权重初始化骨干网络。 - use_pretrained_backbone (
bool, 可选，默认为True) — 是否为骨干网络使用预训练的权重。 - backbone_kwargs (
dict, 可选) — 从检查点加载时传递给 AutoBackbone 的键值参数，例如{'out_indices': (0, 1, 2, 3)}。当backbone_config已设置时，无法指定。 - 膨胀 (
布尔值, 可选，默认为False) — 是否在最后一个卷积块（DC5）中将步长替换为膨胀。仅当use_timm_backbone=True时受支持。 - 分类代价 (
浮点数, 可选，默认为 1) — 匈牙利配对代价中分类错误的相对权重。 - 边界框代价 (
浮点数, 可选，默认为 5) — 匈牙利配对代价中边界框坐标L1错误的相对权重。 - giou_cost (
float, 可选, 默认值为2) — 在匈牙利匹配成本中，边界框的通用IoU损失的相对权重。 - mask_loss_coefficient (
float, 可选, 默认值为1) — 在全景分割损失中，Focal损失的相对权重。 - dice_loss_coefficient (
float, 可选, 默认值为1) — 在全景分割损失中，DICE/F-1损失的相对权重。 - — L1边界框损失的相对权重（
float，可选，默认为5） - — 在目标检测损失中，通用IoU损失的相对权重（
float，可选，默认为2） - — 在目标检测损失中，“无目标”类别的相对分类权重（
float，可选，默认为0.1） - — 焦损失中的Alpha参数（
float，可选，默认为0.25）
这是一个用于存储ConditionalDetrModel配置的配置类。ConditionalDetrModel。它用于根据指定的参数实例化Conditional DETR模型，定义模型架构。使用默认值实例化配置将产生与Conditional DETR microsoft/conditional-detr-resnet-50架构类似的配置。
配置对象继承自PretrainedConfig，可以用于控制模型输出。有关更多信息，请参阅PretrainedConfig文档。
示例
>>> from transformers import ConditionalDetrConfig, ConditionalDetrModel
>>> # Initializing a Conditional DETR microsoft/conditional-detr-resnet-50 style configuration
>>> configuration = ConditionalDetrConfig()
>>> # Initializing a model (with random weights) from the microsoft/conditional-detr-resnet-50 style configuration
>>> model = ConditionalDetrModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configConditionalDetrImageProcessor
class transformers.ConditionalDetrImageProcessor
< source >( 格式: 联合 = <AnnotationFormat.COCO_DETECTION: 'coco_detection'> 是否调整大小: 布尔类型 = True 大小: 字典 = None 重采样: 重采样 = <Resampling.BILINEAR: 2> 是否缩放: 布尔类型 = True 缩放因子: 联合 = 0.00392156862745098 是否标准化: 布尔类型 = True 图像均值: 联合 = None 图像标准差: 联合 = None 是否转换标注: 可选 = None 是否填充: 布尔类型 = True 填充大小: 可选 = None **kwargs )
参数
- format (
str, 可选，默认"coco_detection") — 标注 数据格式。'coco_detection' 或 'coco_panoptic' 之一。 - 是否调整大小 (
bool, 可选，默认 True) — 控制是否将图像的 (height, width) 尺寸调整到指定的size。可由preprocess方法中的do_resize参数覆盖。 - size （
Dict[str, int]，可选，默认为(height, width)。可由preprocess方法的size参数覆盖。可用选项：{"height": int, "width": int}：图像将调整到(height, width)的确切大小。不要保持宽高比。{"shortest_edge": int, "longest_edge": int}：图像将被调整到最大尺寸，保持宽高比，同时最短边小于或等于shortest_edge，最长边小于或等于longest_edge。{"max_height": int, "max_width": int}：图像将被调整到最大尺寸，保持宽高比，同时高度小于或等于max_height，宽度小于或等于max_width。
- resample （
PILImageResampling，可选，默认为PILImageResampling.BILINEAR） — 如果调整图像大小，则使用的重采样过滤器。 - do_rescale （
bool，可选，默认为True） — 控制是否通过指定的缩放比例rescale_factor进行放缩。由preprocess方法的do_rescale参数覆盖。 - do_convert_annotations (
bool, optional, defaults toTrue) — 控制是否将注释转换为 DETR 模型期望的格式。将边界框转换为格式(center_x, center_y, width, height)并在范围[0, 1]内。可以在preprocess方法中的do_convert_annotations参数中覆盖。 - do_pad (
bool, optional, defaults toTrue) — 控制是否对图像进行填充。可以在preprocess方法中的do_pad参数中覆盖。如果为True，则会对图像的底部和右侧应用填充（用零填充）。如果提供了pad_size，则图像将被填充到指定的尺寸。否则，图像将填充到批次的最大高度和宽度。 - pad_size (
Dict[str, int], optional) — 填充图像的尺寸{"height": int, "width" int}。必须大于预处理的任何图像尺寸。如果未提供pad_size，则图像将填充到批次中的最大高度和宽度。
构建 Conditional Detr 图像处理器。
preprocess
< 来源 >( images: 联合 annotations: 联合 = None return_segmentation_masks: 布尔 = None masks_path: 联合 = None do_resize: 可选 = None size: 可选 = None resample = None do_rescale: 可选 = None rescale_factor: 联合 = None do_normalize: 可选 = None do_convert_annotations: 可选 = None image_mean: 联合 = None image_std: 联合 = None do_pad: 可选 = None format: 联合 = None return_tensors: 联合 = None data_format: 联合 = <ChannelDimension.FIRST: 'channels_first'> input_data_format: 联合 = None pad_size: 可选 = None **kwargs )
参数
- images (
ImageInput) — 预处理图像或图像批次。期望输入单张或图像批次，像素值范围为0到255。如果传入像素值在0到1之间的图像，请设置do_rescale=False。 - annotations (
AnnotationType或List[AnnotationType]，可选) — 与图像或图像批次关联的注释列表。如果注解用于目标检测，注解应为具有以下键的字典：- “image_id” (
int)：图像ID。 - “annotations” (
List[Dict])：图像的标注列表。每个标注应为字典。图像可以没有标注，在这种情况下列表应为空。如果注解用于分割，标注应为具有以下键的字典： - “image_id” (
int)：图像ID。 - “segments_info” (
List[Dict])：图像的分割列表。每个分割应为字典。图像可以没有分割，在这种情况下列表应为空。 - “file_name” (
str)：图像的文件名。
- “image_id” (
- return_segmentation_masks (
bool，可选，默认为self.return_segmentation_masks) — 是否返回分割掩码。 - masks_path （类型为
str或pathlib.Path，可选） — 包含分割蒙版的目录的路径。 - do_resize （类型为
bool，可选，默认为 self.do_resize） — 是否调整图像大小。 - size （类型为
Dict[str, int]，可选，默认为 self.size） — 调整大小后图像的(高度, 宽度)尺寸。可用选项有：{"height": int, "width": int}：图像将调整到精确的尺寸(高度, 宽度)。不要保持纵横比。{"shortest_edge": int, "longest_edge": int}：图像将调整到最大尺寸，同时尊重纵横比，并保持最短边小于或等于shortest_edge，最长边小于或等于longest_edge。{"max_height": int, "max_width": int}：图像将调整到最大尺寸，同时尊重纵横比，并保持高度小于或等于max_height和宽度小于或等于max_width。
- resample (
PILImageResampling, 可选，默认为 self.resample) — 修改图像大小时要使用的重采样过滤器。 - do_rescale (
bool, 可选，默认为 self.do_rescale) — 是否重新缩放图像。 - rescale_factor (
float, 可选，默认为 self.rescale_factor) — 重新缩放图像时要使用的缩放因子。 - do_normalize (
bool, 可选，默认为 self.do_normalize) — 是否对图像进行归一化。 - do_convert_annotations (
bool, 可选，默认为 self.do_convert_annotations) — 是否将标注转换为模型期望的格式。将边界框从格式(top_left_x, top_left_y, width, height)转换为(center_x, center_y, width, height)和相对坐标。 - image_mean (
float或List[float], 可选，默认为 self.image_mean) — 标准化图像时使用的均值。 - image_std (
float或List[float], 可选，默认为 self.image_std) — 标准化图像时使用的标准差。 - do_pad (
bool, 可选，默认为 self.do_pad) —— 是否进行填充。如果为True，则将在图像的底部和右侧应用填充零。如果提供了pad_size，则图像将被填充到指定的尺寸。否则，图像将被填充到批次的最大高度和宽度。 - format (
str或AnnotationFormat, 可选，默认为 self.format) —— 标注的格式。 - return_tensors (
str或TensorType, 可选，默认为 self.return_tensors) —— 返回张量的类型。如果为None，将返回图像的列表。 - 数据格式 (
ChannelDimension或str, 可选, 默认为ChannelDimension.FIRST) — 输出图像的通道维度格式。可以是以下之一：
"channels_first" 或 ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。"channels_last" 或 ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。ChannelDimension 或 str, 可选) — 输入图像的通道维度格式。如果未设置，则从输入图像推断通道维度格式。可以是以下之一： "channels_first" 或 ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。"channels_last" 或 ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。"none" 或 ChannelDimension.NONE: 图像格式为 (height, width)。预处理图像或图像批次，以便模型可以使用。
post_process_object_detection
< source >( outputs threshold: float = 0.5 target_sizes: Union = None top_k: int = 100 ) → List[Dict]
参数
- outputs (
DetrObjectDetectionOutput) — 模型的原始输出。 - threshold (
float, 可选) — 保持目标检测预测的分数阈值为0.5。 - target_sizes (
torch.Tensor或List[Tuple[int, int]]) — 形状为(batch_size, 2)的 Tensor 或包含每张图像目标大小（高度，宽度）的元组列表Tuple[int, int]。如果为 None，则不会调整预测尺寸。 - top_k (
int) —默认为 100，只在过滤阈值之前保留 Top k 个边界框。
返回结果
列表[字典]
返回一个字典列表，每个字典包含模型预测的批次中每张图像的得分、标签和边界框。
将 ConditionalDetrForObjectDetection 的原始输出转换为最终的边界框，格式为 (top_left_x, top_left_y, bottom_right_x, bottom_right_y)。仅支持 PyTorch。
post_process_instance_segmentation
< source >( 输出 阈值: float = 0.5 掩码阈值: float = 0.5 重叠掩码区域阈值: float = 0.8 目标大小: 可选 = None 返回 COCO 注释: 可选 = False ) → List[Dict]
参数
- 输出 (ConditionalDetrForSegmentation) — 模型的原始输出。
- 阈值 (
float, 可选, 默认值为 0.5) — 留下预测的实例掩码的概率分数阈值。 - mask_threshold (
float, 可选, 默认为 0.5) — 将预测掩码转换为二进制值时使用的阈值。 - overlap_mask_area_threshold (
float, 可选, 默认为 0.8) — 合并或丢弃每个二进制实例掩码内部的小的、不连续部分的掩码区域阈值。 - target_sizes (
列表[Tuple], 可选) — 长度为 (batch_size) 的列表，其中每个列表项 (Tuple[int, int]]) 对应于每个预测的请求最终大小（高度，宽度）。如果不设置，则不会调整预测大小。 - return_coco_annotation (
bool, optional) — 默认为False。如果设置为True，分割图将以 COCO 运行长度编码 (RLE) 格式返回。
返回结果
列表[字典]
每个图像一个字典的列表
- segmentation — 一个形状为
(高度, 宽度)的张量，其中每个像素表示一个segment_id或当 return_coco_annotation 设置为True时，分割图的运行长度编码 (RLE)。如果未找到掩码，则设置為None。 - segments_info — 一个包含每个分割额外信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - score —
segment_id的分割预测得分。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为实例分割预测。仅支持 PyTorch。
处理语义分割
< source >( outputs target_sizes: List = None ) → List[torch.Tensor]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- target_sizes (
List[Tuple[int, int]], 可选) — 包含每个图像批次的目标大小（高，宽）的元组列表 (Tuple[int, int])。如果未设置，预测不会调整大小。
返回结果
List[torch.Tensor]
长度为batch_size的列表，其中每个条目对应于在target_sizes指定的情况下与目标大小相对应的形状为（高，宽）的语义分割图。每个torch.Tensor的每个条目对应于一个语义类别ID。
将ConditionalDetrForSegmentation的输出转换为语义分割图。仅支持PyTorch。
post_process_panoptic_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 label_ids_to_fuse: Optional = None target_sizes: Optional = None ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — ConditionalDetrForSegmentation 的输出。
- threshold (
float, 可选，默认值为 0.5) — 保持预测实例掩码的概率分数阈值。 - mask_threshold (
float, 可选, 默认为 0.5) — 将预测掩码转换为二进制值时使用的阈值。 - overlap_mask_area_threshold (
float, 可选, 默认为 0.8) — 用于合并或丢弃每个二进制实例掩码中小型不连续部分的交集掩码面积阈值。 - label_ids_to_fuse (
Set[int], 可选) — 该状态中的标签将融合其所有实例。例如，我们可以说图像中只能有一个天空，但可以有几个人，所以天空的标签ID将包含在该集合中，而人的标签ID则不会。 - target_sizes (
List[Tuple], 可选) — 长度为（batch_size）的列表，其中每个列表项（Tuple[int, int]]对应于批处理中每个预测的所需最终大小（高度，宽度）。如果未设置，则不会调整预测大小。
返回结果
列表[字典]
每个图像一个字典的列表
- 分割 — 一个形状为
(height, width)的张量，其中每个像素表示一个segment_id或在阈值以上找不到掩码时的None。如果指定了target_sizes，则分割将调整大小为相应的target_sizes条目。 - segments_info — 一个包含每个分割额外信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - was_fused — 一个布尔值，如果
label_id在label_ids_to_fuse中，则返回True，否则返回False。相同类别/标签的多个实例被合并并分配一个单独的segment_id。 - score —
segment_id的分割预测得分。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为图像全场景分割预测。仅支持 PyTorch。
ConditionalDetrFeatureExtractor
对图像或图像批进行处理。
post_process_object_detection
< source >( outputs threshold: float = 0.5 target_sizes: Union = None top_k: int = 100 ) → List[Dict]
参数
- outputs (
DetrObjectDetectionOutput) — 模型原始输出。 - 阈值 (
float, 可选) — 保留对象检测预测的分数阈值。 - target_sizes (
torch.Tensor或List[Tuple[int, int]], 可选) — 形状为(batch_size, 2)的张量或包含每个图像的目标大小（高度，宽度）的元组列表（Tuple[int, int]）。如果留为 None，则预测将不会调整大小。 - top_k (
int, 可选，默认为 100) — 在通过阈值过滤之前仅保留 top k 个边界框。
返回结果
列表[字典]
返回一个字典列表，每个字典包含模型预测的批次中每张图像的得分、标签和边界框。
将 ConditionalDetrForObjectDetection 的原始输出转换为最终的边界框，格式为 (top_left_x, top_left_y, bottom_right_x, bottom_right_y)。仅支持 PyTorch。
post_process_instance_segmentation
< 源代码 >( 输出 阈值: float = 0.5 掩码阈值: float = 0.5 重叠掩码区域阈值: float = 0.8 目标大小: 可选 = None 返回 COCO 注释: 可选 = False ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- threshold (
float, 可选, 默认值 0.5) — 保持预测实例掩码的概率得分阈值。 - mask_threshold (
float，可选，默认为0.5) — 转换预测掩码为二进制值时要使用的阈值。 - overlap_mask_area_threshold (
float，可选，默认为0.8) — 合并或丢弃每个二进制实例掩码中每个不相交部分的掩码重叠区域阈值。 - target_sizes (
List[Tuple]，可选) — 长度为（batch_size）的列表，其中每个列表项（Tuple[int, int]）对应于每个预测请求的最终大小（高度，宽度）。如果不设置，则不会调整预测大小。 - return_coco_annotation (
bool, 可选) — 默认为False。如果设置为True，则返回的分割图以 COCO 运行长度编码 (RLE) 格式。
返回结果
列表[字典]
每个图像一个字典的列表
- segmentation — 一个形状为
(高度, 宽度)的张量，其中每个像素表示一个segment_id或当 return_coco_annotation 设置为True时，分割图的运行长度编码 (RLE)。如果未找到掩码，则设置為None。 - segments_info — 一个包含每个分割额外信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - score —
segment_id的分割预测得分。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为实例分割预测。仅支持 PyTorch。
处理语义分割
< source >( outputs target_sizes: List = None ) → List[torch.Tensor]
参数
- outputs (ConditionalDetrForSegmentation) — 模型的原始输出。
- target_sizes (
List[Tuple[int, int]], optional) — 包含每个图像批次的图像目标大小（高度，宽度）的元组列表。如果未设置，则不会调整预测大小。
返回结果
List[torch.Tensor]
长度为batch_size的列表，其中每个条目对应于在target_sizes指定的情况下与目标大小相对应的形状为（高，宽）的语义分割图。每个torch.Tensor的每个条目对应于一个语义类别ID。
将ConditionalDetrForSegmentation的输出转换为语义分割图。仅支持PyTorch。
post_process_panoptic_segmentation
< source >( outputs threshold: float = 0.5 mask_threshold: float = 0.5 overlap_mask_area_threshold: float = 0.8 label_ids_to_fuse: Optional = None target_sizes: Optional = None ) → List[Dict]
参数
- outputs (ConditionalDetrForSegmentation) — 来自ConditionalDetrForSegmentation的输出。
- threshold (
float, 可选, 默认值 0.5) — 保留预测实例掩码的概率分数阈值。 -
float, 可选, 默认值 0.5) — 将预测掩码转换为二进制值时的阈值。 - // HTML_TAG_START -->overlap_mask_area_threshold (
float, 可选, 默认值 0.8) — 合并或丢弃每个二进制实例掩码内部的小的、不连接的部分的重叠掩码面积阈值。 - label_ids_to_fuse (
Set[int], 可选) — 状态中的标签将融合所有实例。例如，我们可以说一张图片中只能有一个天空，而可以有几个人，因此天空的标签ID将包含在集合中，但人员的标签ID不包括在内。 - target_sizes (
List[Tuple], 可选) — 长度为（batch_size）的列表，其中每个列表项（Tuple[int, int]]）对应于批量中每个预测请求的最终大小（高度，宽度）。如果未设置，则不会调整预测大小。
返回结果
列表[字典]
每个图像一个字典的列表
- 分割 — 一个形状为
(height, width)的张量，其中每个像素表示一个segment_id或在阈值以上找不到掩码时的None。如果指定了target_sizes，则分割将调整大小为相应的target_sizes条目。 - segments_info — 一个包含每个分割额外信息的字典。
- id — 表示
segment_id的整数。 - label_id — 表示与
segment_id对应的标签/语义类别 ID 的整数。 - was_fused — 一个布尔值，如果
label_id在label_ids_to_fuse中，则返回True，否则返回False。相同类别/标签的多个实例被合并并分配一个单独的segment_id。 - score —
segment_id的分割预测得分。
- id — 表示
将 ConditionalDetrForSegmentation 的输出转换为图像全场景分割预测。仅支持 PyTorch。
ConditionalDetrModel
class transformers.ConditionalDetrModel
< 源代码 >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 模型配置类，包含模型的所有参数。使用配置文件初始化不会加载与模型相关的权重，只加载配置。查看from_pretrained()方法来加载模型权重。
不带任何顶层的原始隐藏状态的裸Conditional DETR模型（由骨干网络和编码器-解码器Transformer组成）。
此模型继承自PreTrainedModel。请查看超级类文档，了解库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是PyTorch torch.nn.Module的子类。将其用作常规PyTorch模块，并参照PyTorch文档中有关通用使用和行为的所有内容。
forward
< 源代码 >) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)的torch.FloatTensor) — 像素值。如果提供了填充，则默认会忽略填充部分。 使用 AutoImageProcessor 可以获取像素值。更多细节请参阅 ConditionalDetrImageProcessor.call()。 - pixel_mask (
torch.LongTensorof shape(batch_size, height, width)，可选) — 用于避免对填充像素值执行注意力机制的掩码。掩码值选择在[0, 1]之间：- 1 对于真实像素（即 未掩码），
- 0 对于填充像素（即 掩码）。
- decoder_attention_mask (
torch.FloatTensor形状为(batch_size, num_queries)，可选）—— 默认情况下不使用。可用于屏蔽物体查询。 - encoder_outputs (
tuple(tuple(torch.FloatTensor))（可选）—— 元组由（last_hidden_state（可选）、hidden_states（可选）、attentions（可选）last_hidden_state形状为(batch_size, sequence_length, hidden_size)，可选）是编码器的最后层的输出序列隐状态。用于解码器的交叉注意力。 - inputs_embeds (
torch.FloatTensor形状为(batch_size, sequence_length, hidden_size)，可选）—— 可选，您可以选择直接传递图像的展平表示（骨干网 + 投影层的输出）而不是传递展平的特征图。 - decoder_inputs_embeds （形状为
(batch_size, num_queries, hidden_size)的 torch.FloatTensor，可选） — 选项性地，您可以选择直接传递嵌入表示，而不是用零填充查询。 - output_attentions （
bool，可选） — 是否返回所有注意力层的注意力张量。更多详情请参阅返回张量下的attentions。 - output_hidden_states （
bool，可选） — 是否返回所有层的隐藏状态。更多详情请参阅返回张量下的hidden_states。 - return_dict (
bool, 可选) — 是否以模型输出而不是普通元组的形式返回。
返回结果
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput或tuple(torch.FloatTensor)
一个transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrModelOutput或者一个由torch.FloatTensor元组（如果传递了return_dict=False或当config.return_dict=False时）组成的元组，包含根据配置（ConditionalDetrConfig）和输入确定的各个元素。
- last_hidden_state（
torch.FloatTensor形状为(batch_size, sequence_length, hidden_size)）— 模型的解码器最后一层的隐藏状态序列。 - decoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。解码器在每层输出的隐藏状态和初始嵌入输出。 - decoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。 - cross_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器跨注意力层的注意力权重，在注意力softmax之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state（
torch.FloatTensor形状为(batch_size, sequence_length, hidden_size)，可选）— 模型编码器最后一层的隐藏状态序列。 - encoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。编码器在每层输出的隐藏状态和初始嵌入输出。 - encoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。编码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。 - intermediate_hidden_states (形状为
(config.decoder_layers, batch_size, sequence_length, hidden_size)的torch.FloatTensor，可选，在config.auxiliary_loss=True时返回) — 中间解码器激活，即每个解码器层的输出，每个输出都经过层归一化。
ConditionalDetrModel 的前向方法覆盖了特殊的 __call__ 方法。
尽管前向传递的配方需要在函数中定义，但应该在调用这个函数之后调用 Module 实例，因为这个前者负责执行预处理和后处理步骤，而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModel
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> model = AutoModel.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> # forward pass
>>> outputs = model(**inputs)
>>> # the last hidden states are the final query embeddings of the Transformer decoder
>>> # these are of shape (batch_size, num_queries, hidden_size)
>>> last_hidden_states = outputs.last_hidden_state
>>> list(last_hidden_states.shape)
[1, 300, 256]ConditionalDetrForObjectDetection
class transformers.ConditionalDetrForObjectDetection
< source >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重，仅加载配置。查看from_pretrained() 方法来加载模型权重。
用于对象检测任务（如 COCO 检测）的 CONDITIONAL_DETR 模型（包含骨干网络和编码器-解码器 Transformer），并在顶部带有目标检测头。
此模型继承自PreTrainedModel。请查看超级类文档，了解库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是PyTorch torch.nn.Module的子类。将其用作常规PyTorch模块，并参照PyTorch文档中有关通用使用和行为的所有内容。
forward
< source >( pixel_values: FloatTensor pixel_mask: 可选 = None decoder_attention_mask: 可选 = None encoder_outputs: 可选 = None inputs_embeds: 可选 = None decoder_inputs_embeds: 可选 = None labels: 可选 = None output_attentions: 可选 = None output_hidden_states: 可选 = None return_dict: 可选 = None ) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
参数
-
pixel_values ( torch.FloatTensorof shape(batch_size, num_channels, height, width)) — 图像像素值。如果提供，默认会忽略填充。(使用 AutoImageProcessor 可以获取像素值。更详细的信息，请参考 ConditionalDetrImageProcessor.call()。) -
torch.LongTensor形状为(batch_size, height, width)，可选)：- 1：表示真实像素（即 非掩码），
- 0：表示填充像素（即 掩码）。
-
torch.FloatTensor形状为(batch_size, num_queries)，可选) -
hidden_states，可选:attentions) 的元组last_hidden_state形状为(batch_size, sequence_length, hidden_size)，是编码器最后一层的隐藏状态序列。用于解码器中的交叉注意力。encoder_outputs (tuple(tuple(torch.FloatTensor)，可选) - inputs_embeds (
torch.FloatTensor形状(batch_size, sequence_length, hidden_size), 可选) — 传输平铺的特征图（骨干网络+投影层输出）时，可以选择直接传入图像的平铺表示。 - decoder_inputs_embeds (
torch.FloatTensor形状(batch_size, num_queries, hidden_size), 可选) — 初始化查询时，可以选择直接传入嵌入表示，而不仅仅是用零张量初始化。 - output_attentions (
bool, 可选) — 是否返回所有注意力的张量。更多信息请参见返回张量下的attentions。 - output_hidden_states (
bool, 可选) — 是否返回所有层的隐藏状态。更多细节请见返回张量下的hidden_states。 - return_dict (
bool, 可选) — 是否返回 ModelOutput 而不是普通的元组。 - labels (
长度为(batch_size,)的List[Dict]，可选) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下2个键：'class_labels'（图像批次中的类别标签）和'boxes'（图像批次中的边界框）。类别标签自身应该是一个长度为(图像中边界框数量,)的torch.LongTensor，边界框是一个形状为(图像中边界框数量, 4)的torch姆斯绿豆Fi。
返回结果
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrObjectDetectionOutput 或一个包含各种元素的元组（取决于配置（ConditionalDetrConfig）和输入的 torch芙蓉，如果传递了 return_dict=False 或当 config.return_dict=False。
- 损失 （形状为
(1,)的torch.FloatTensor，可选，在提供labels时返回）—— 总损失，是负对数似然（交叉熵）的线性组合，用于类预测和边界框损失。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。 - loss_dict （
Dict，可选）—— 包含单个损失的字典。对日志记录很有用。 - logits （形状为
(batch_size, num_queries, num_classes + 1)的torch.FloatTensor）—— 对于所有查询的分类 logits（包括无物体）。 - pred_boxes （形状为
(batch_size, num_queries, 4)的torch.FloatTensor）—— 所有查询的归一化边界框坐标，表示为（中心_x，中心_y，宽度，高度）。这些值在 [0, 1] 范围内归一化，相对于批量中每个图像的大小（不考虑可能的填充）。您可以使用 post_process_object_detection() 来检索未归一化的边界框。 - auxiliary_outputs （类型为
list[Dict]的 可选，只有当启用辅助损失（即config.auxiliary_loss设置为True）且提供了标签时才返回）。它是一个字典列表，包含上述两个键（logits和pred_boxes）的每个解码层。 - last_hidden_state （形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor，可选）—— 模型解码器最后一层的隐藏状态序列。 - decoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。解码器在每层输出的隐藏状态和初始嵌入输出。 - decoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。 - cross_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器跨注意力层的注意力权重，在注意力softmax之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state（
torch.FloatTensor形状为(batch_size, sequence_length, hidden_size)，可选）— 模型编码器最后一层的隐藏状态序列。 - encoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。编码器在每层输出的隐藏状态和初始嵌入输出。 - encoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。编码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。
ConditionalDetrForObjectDetection 的 forward 方法覆盖了 __call__ 特殊方法。
尽管前向传递的配方需要在函数中定义，但应该在调用这个函数之后调用 Module 实例，因为这个前者负责执行预处理和后处理步骤，而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModelForObjectDetection
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> model = AutoModelForObjectDetection.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> outputs = model(**inputs)
>>> # convert outputs (bounding boxes and class logits) to Pascal VOC format (xmin, ymin, xmax, ymax)
>>> target_sizes = torch.tensor([image.size[::-1]])
>>> results = image_processor.post_process_object_detection(outputs, threshold=0.5, target_sizes=target_sizes)[
... 0
... ]
>>> for score, label, box in zip(results["scores"], results["labels"], results["boxes"]):
... box = [round(i, 2) for i in box.tolist()]
... print(
... f"Detected {model.config.id2label[label.item()]} with confidence "
... f"{round(score.item(), 3)} at location {box}"
... )
Detected remote with confidence 0.833 at location [38.31, 72.1, 177.63, 118.45]
Detected cat with confidence 0.831 at location [9.2, 51.38, 321.13, 469.0]
Detected cat with confidence 0.804 at location [340.3, 16.85, 642.93, 370.95]
Detected remote with confidence 0.683 at location [334.48, 73.49, 366.37, 190.01]
Detected couch with confidence 0.535 at location [0.52, 1.19, 640.35, 475.1]ConditionalDetrForSegmentation
类 transformers.ConditionalDetrForSegmentation
< 来源 >( config: ConditionalDetrConfig )
参数
- config (ConditionalDetrConfig) — 模型配置类，包含模型的全部参数。使用配置文件初始化不会加载与模型关联的权重，只有配置。请参阅 from_pretrained() 方法来加载模型权重。
条件DETR模型（包含骨干和编码器-解码器Transformer），顶部带有分割头，用于如COCO全景图任务。
此模型继承自PreTrainedModel。请查看超级类文档，了解库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是PyTorch torch.nn.Module的子类。将其用作常规PyTorch模块，并参照PyTorch文档中有关通用使用和行为的所有内容。
forward
< source >( pixel_values: FloatTensor pixel_mask: 可选 = None decoder_attention_mask: 可选 = None encoder_outputs: 可选 = None inputs_embeds: 可选 = None decoder_inputs_embeds: 可选 = None labels: 可选 = None output_attentions: 可选 = None output_hidden_states: 可选 = None return_dict: 可选 = None ) → transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensorof shape(batch_size, num_channels, height, width)) — 像素值。如果提供，默认会忽略填充。可以使用 AutoImageProcessor 来获取像素值。详见 ConditionalDetrImageProcessor.call() 的详细信息。
- pixel_mask (
torch.LongTensorof shape(batch_size, height, width), 可选) — 避免对填充像素值执行注意力的掩码。在[0, 1]中选择的掩码值：- 1 对真实像素（即未掩码），
- 0 对填充像素（即掩码）。
- decoder_attention_mask (
torch.FloatTensorof shape(batch_size, num_queries), 可选) — 默认情况下不使用。可用于掩罩对象查询。 - encoder_outputs (
tuple(tuple(torch.FloatTensor), 可选) — 元组由(last_hidden_state, 可选:hidden_states, 可选:attentions)组成，last_hidden_state的形状为(batch_size, sequence_length, hidden_size)，可选)是编码器最后一层的隐藏状态序列。用于解码器的交叉注意力中。 - inputs_embeds （
torch.FloatTensor，形状为(batch_size, sequence_length, hidden_size)，可选）— 可以选择传入图像的扁平化表示，而不是传递骨干网络 + 投影层的特征图。 - decoder_inputs_embeds （
torch.FloatTensor，形状为(batch_size, num_queries, hidden_size)，可选）— 可以选择直接传递嵌入表示，而不是用全零张量初始化查询。 - output_attentions （
bool，可选）— 是否返回所有注意力层的注意力张量。有关更多信息，请参阅返回张量中的attentions。 - 输出隐藏状态 (bool, 可选) — 是否返回所有层级的隐藏状态。有关详细信息，请参见返回张量下的 hidden_states。
- 返回_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。
- labels (
List[Dict]的长度(batch_size,), 可选) — 对于计算双图匹配损失、DICE/F-1 损失和 Focal 损失的标签。字典列表，其中每个字典至少包含以下 3 个键：‘class_labels’，‘boxes’ 和 ‘masks’（批处理中每个图像的类别标签、边界框和分割掩码）。类别标签自身应为一个长度为number of bounding boxes in the image的torch.LongTensor，边界框为一个形状为(number of bounding boxes in the image, 4)的torch.FloatTensor，掩码为一个形状为(number of bounding boxes in the image, height, width)的torch.FloatTensor。
返回结果
transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.conditional_detr.modeling_conditional_detr.ConditionalDetrSegmentationOutput 或一个元组，其中包含各种元素，这些元素取决于配置（ConditionalDetrConfig）和输入（如果 return_dict=False 传递或当 config.return_dict=False）。
- 损失 （形状为
(1,)的torch.FloatTensor，可选，在提供labels时返回）—— 总损失，是负对数似然（交叉熵）的线性组合，用于类预测和边界框损失。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。 - loss_dict （
Dict，可选）—— 包含单个损失的字典。对日志记录很有用。 - logits （形状为
(batch_size, num_queries, num_classes + 1)的torch.FloatTensor）—— 对于所有查询的分类 logits（包括无物体）。 - pred_boxes （形状为
(batch_size, num_queries, 4)的torch.FloatTensor）—— 所有查询的归一化边界框坐标，表示为（中心_x，中心_y，宽度，高度）。这些值在 [0, 1] 范围内归一化，相对于批量中每个图像的大小（不考虑可能的填充）。您可以使用 post_process_object_detection() 来检索未归一化的边界框。 - pred_masks (
torch.FloatTensorof shape(batch_size, num_queries, height/4, width/4)) — 所有查询的分割掩码对数。另请参阅post_process_semantic_segmentation()或post_process_instance_segmentation()post_process_panoptic_segmentation()以分别评估语义、实例和全景分割掩码。 - auxiliary_outputs (
list[Dict], 可选) — 可选，仅在激活辅助损失（即config.auxiliary_loss设置为True）且提供标签时返回。它是一个字典列表，包含每个解码器层上述两个键（logits和pred_boxes）。 - last_hidden_state （形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor，可选）—— 模型解码器最后一层的隐藏状态序列。 - decoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。解码器在每层输出的隐藏状态和初始嵌入输出。 - decoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。 - cross_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。解码器跨注意力层的注意力权重，在注意力softmax之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state（
torch.FloatTensor形状为(batch_size, sequence_length, hidden_size)，可选）— 模型编码器最后一层的隐藏状态序列。 - encoder_hidden_states（
tuple(torch.FloatTensor)，可选，当传递了output_hidden_states=True时返回或当config.output_hidden_states=True时返回）— 一个形状为(batch_size, sequence_length, hidden_size)的torch.FloatTensor元组（一个用于嵌入输出，一个用于每层的输出）。编码器在每层输出的隐藏状态和初始嵌入输出。 - encoder_attentions（
tuple(torch.FloatTensor)，可选，当传递了output_attentions=True时返回或当config.output_attentions=True时返回）— 一个形状为(batch_size, num_heads, sequence_length, sequence_length)的torch.FloatTensor元组（每个层一个）。编码器的注意力权重，在注意力softmax之后，用于计算自我注意力头中的加权平均值。
ConditionalDetrForSegmentation前向方法重写了__call__特殊方法。
尽管前向传递的配方需要在函数中定义，但应该在调用这个函数之后调用 Module 实例，因为这个前者负责执行预处理和后处理步骤，而后者则默默地忽略它们。
示例
>>> import io
>>> import requests
>>> from PIL import Image
>>> import torch
>>> import numpy
>>> from transformers import (
... AutoImageProcessor,
... ConditionalDetrConfig,
... ConditionalDetrForSegmentation,
... )
>>> from transformers.image_transforms import rgb_to_id
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/conditional-detr-resnet-50")
>>> # randomly initialize all weights of the model
>>> config = ConditionalDetrConfig()
>>> model = ConditionalDetrForSegmentation(config)
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> # forward pass
>>> outputs = model(**inputs)
>>> # Use the `post_process_panoptic_segmentation` method of the `image_processor` to retrieve post-processed panoptic segmentation maps
>>> # Segmentation results are returned as a list of dictionaries
>>> result = image_processor.post_process_panoptic_segmentation(outputs, target_sizes=[(300, 500)])
>>> # A tensor of shape (height, width) where each value denotes a segment id, filled with -1 if no segment is found
>>> panoptic_seg = result[0]["segmentation"]
>>> # Get prediction score and segment_id to class_id mapping of each segment
>>> panoptic_segments_info = result[0]["segments_info"]