Transformers 文档
DAB-DETR
并获得增强的文档体验
开始使用
DAB-DETR
概览
DAB-DETR 模型由 Shilong Liu, Feng Li, Hao Zhang, Xiao Yang, Xianbiao Qi, Hang Su, Jun Zhu, Lei Zhang 在 DAB-DETR: Dynamic Anchor Boxes are Better Queries for DETR 中提出。DAB-DETR 是 Conditional DETR 的增强变体。它利用动态更新的锚框来提供参考查询点 (x, y) 和参考锚尺寸 (w, h)，从而改进交叉注意力计算。当使用单个 ResNet-50 模型作为骨干网络训练 50 个 epoch 时，这种新方法实现了 45.7% AP。
论文摘要如下
本文介绍了一种新颖的查询公式，它使用动态锚框用于 DETR (DEtection TRansformer)，并更深入地理解了查询在 DETR 中的作用。这种新公式直接使用框坐标作为 Transformer 解码器中的查询，并逐层动态更新它们。使用框坐标不仅有助于使用显式的位置先验来提高查询到特征的相似性，并消除 DETR 中缓慢的训练收敛问题，而且还允许我们使用框的宽度和高度信息来调节位置注意力图。这种设计清楚地表明，DETR 中的查询可以实现为以级联方式逐层执行软 ROI 池化层。因此，在相同的设置下，它在 MS-COCO 基准测试中实现了 DETR 类检测模型中的最佳性能，例如，使用 ResNet50-DC5 作为骨干网络在 50 个 epoch 中训练时，AP 为 45.7%。我们还进行了广泛的实验，以证实我们的分析并验证我们方法的有效性。
此模型由 davidhajdu 贡献。原始代码可以在 这里 找到。
如何开始使用该模型
使用以下代码开始使用该模型。
import torch
import requests
from PIL import Image
from transformers import AutoModelForObjectDetection, AutoImageProcessor
url = 'http://images.cocodataset.org/val2017/000000039769.jpg'
image = Image.open(requests.get(url, stream=True).raw)
image_processor = AutoImageProcessor.from_pretrained("IDEA-Research/dab-detr-resnet-50")
model = AutoModelForObjectDetection.from_pretrained("IDEA-Research/dab-detr-resnet-50")
inputs = image_processor(images=image, return_tensors="pt")
with torch.no_grad():
outputs = model(**inputs)
results = image_processor.post_process_object_detection(outputs, target_sizes=torch.tensor([image.size[::-1]]), threshold=0.3)
for result in results:
for score, label_id, box in zip(result["scores"], result["labels"], result["boxes"]):
score, label = score.item(), label_id.item()
box = [round(i, 2) for i in box.tolist()]
print(f"{model.config.id2label[label]}: {score:.2f} {box}")这应该输出
cat: 0.87 [14.7, 49.39, 320.52, 469.28]
remote: 0.86 [41.08, 72.37, 173.39, 117.2]
cat: 0.86 [344.45, 19.43, 639.85, 367.86]
remote: 0.61 [334.27, 75.93, 367.92, 188.81]
couch: 0.59 [-0.04, 1.34, 639.9, 477.09]还有其他三种实例化 DAB-DETR 模型的方法（取决于您的偏好）
选项 1：使用整个模型的预训练权重实例化 DAB-DETR
>>> from transformers import DabDetrForObjectDetection
>>> model = DabDetrForObjectDetection.from_pretrained("IDEA-Research/dab-detr-resnet-50")选项 2：使用 Transformer 的随机初始化权重实例化 DAB-DETR，但使用骨干网络的预训练权重
>>> from transformers import DabDetrConfig, DabDetrForObjectDetection
>>> config = DabDetrConfig()
>>> model = DabDetrForObjectDetection(config)选项 3：使用骨干网络 + Transformer 的随机初始化权重实例化 DAB-DETR
>>> config = DabDetrConfig(use_pretrained_backbone=False)
>>> model = DabDetrForObjectDetection(config)DabDetrConfig
class transformers.DabDetrConfig
< 源代码 >( use_timm_backbone = True backbone_config = None backbone = 'resnet50' use_pretrained_backbone = True backbone_kwargs = None num_queries = 300 encoder_layers = 6 encoder_ffn_dim = 2048 encoder_attention_heads = 8 decoder_layers = 6 decoder_ffn_dim = 2048 decoder_attention_heads = 8 is_encoder_decoder = True activation_function = 'prelu' hidden_size = 256 dropout = 0.1 attention_dropout = 0.0 activation_dropout = 0.0 init_std = 0.02 init_xavier_std = 1.0 auxiliary_loss = False dilation = False class_cost = 2 bbox_cost = 5 giou_cost = 2 cls_loss_coefficient = 2 bbox_loss_coefficient = 5 giou_loss_coefficient = 2 focal_alpha = 0.25 temperature_height = 20 temperature_width = 20 query_dim = 4 random_refpoints_xy = False keep_query_pos = False num_patterns = 0 normalize_before = False sine_position_embedding_scale = None initializer_bias_prior_prob = None **kwargs )
参数
- use_timm_backbone (
bool, 可选, 默认为True) — 是否使用 timm 库作为骨干网络。如果设置为False，将使用 AutoBackbone API。 - backbone_config (
PretrainedConfig或dict, 可选) — 骨干模型的配置。仅在use_timm_backbone设置为False时使用，在这种情况下，它将默认为ResNetConfig()。 - backbone (
str, 可选, 默认为"resnet50") — 当backbone_config为None时要使用的骨干网络名称。如果use_pretrained_backbone为True，这将从 timm 或 transformers 库加载相应的预训练权重。如果use_pretrained_backbone为False，这将加载骨干网络的配置并使用它来初始化具有随机权重的骨干网络。 - use_pretrained_backbone (
bool, 可选, 默认为True) — 是否对骨干网络使用预训练权重。 - backbone_kwargs (
dict, 可选) — 从检查点加载时，要传递给 AutoBackbone 的关键字参数，例如{'out_indices': (0, 1, 2, 3)}。如果设置了backbone_config，则不能指定此参数。 - num_queries (
int, 可选, 默认为 300) — 对象查询的数量，即检测槽的数量。 这是 DabDetrModel 在单张图像中可以检测到的最大对象数量。 对于 COCO 数据集，我们建议使用 100 个查询。 - encoder_layers (
int, 可选, 默认为 6) — 编码器层数。 - encoder_ffn_dim (
int, 可选, 默认为 2048) — 编码器中“中间”层（通常称为前馈层）的维度。 - encoder_attention_heads (
int, 可选, 默认为 8) — Transformer 编码器中每个注意力层的注意力头数。 - decoder_layers (
int, 可选, 默认为 6) — 解码器层数。 - decoder_ffn_dim (
int, 可选, 默认为 2048) — 解码器中“中间”层（通常称为前馈层）的维度。 - decoder_attention_heads (
int, 可选, 默认为 8) — Transformer 解码器中每个注意力层的注意力头数。 - is_encoder_decoder (
bool, 可选, 默认为True) — 指示 Transformer 模型架构是否为编码器-解码器结构。 - activation_function (
str或function, 可选, 默认为"prelu") — 编码器和池化器中的非线性激活函数（函数或字符串）。如果为字符串，则支持"gelu"、"relu"、"silu"和"gelu_new"。 - hidden_size (
int, 可选, 默认为 256) — 此参数是一个通用的维度参数，定义了组件的维度，例如编码器层和解码器层中的投影参数等。 - dropout (
float, 可选, 默认为 0.1) — 嵌入层、编码器和池化器中所有全连接层的 dropout 概率。 - attention_dropout (
float, 可选, 默认为 0.0) — 注意力概率的 dropout 比率。 - activation_dropout (
float, 可选, 默认为 0.0) — 全连接层内部激活的 dropout 比率。 - init_std (
float, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的截断正态初始化器的标准差。 - init_xavier_std (
float, 可选, 默认为 1.0) — 用于 HM 注意力映射模块中 Xavier 初始化增益的缩放因子。 - auxiliary_loss (
bool, 可选, 默认为False) — 是否使用辅助解码损失（每个解码器层的损失）。 - dilation (
bool, 可选, 默认为False) — 是否在最后一个卷积块 (DC5) 中用空洞卷积替换步幅。 仅当use_timm_backbone=True时才支持。 - class_cost (
float, 可选, 默认为 2) — 匈牙利匹配成本中分类错误的相对权重。 - bbox_cost (
float, 可选, 默认为 5) — 匈牙利匹配成本中边界框坐标 L1 误差的相对权重。 - giou_cost (
float, 可选, 默认为 2) — 匈牙利匹配成本中边界框的广义 IoU 损失的相对权重。 - cls_loss_coefficient (
float, 可选, 默认为 2) — 对象检测损失函数中分类损失的相对权重。 - bbox_loss_coefficient (
float, 可选, 默认为 5) — 对象检测损失中 L1 边界框损失的相对权重。 - giou_loss_coefficient (
float, 可选, 默认为 2) — 对象检测损失中广义 IoU 损失的相对权重。 - focal_alpha (
float, 可选, 默认为 0.25) — Focal loss 中的 Alpha 参数。 - temperature_height (
int, 可选, 默认为 20) — 用于调整位置注意力平坦度的温度参数 (高度)。 - temperature_width (
int, 可选, 默认为 20) — 用于调整位置注意力平坦度的温度参数 (宽度)。 - query_dim (
int, 可选, 默认为 4) — 查询维度参数表示输出向量的大小。 - random_refpoints_xy (
bool, 可选, 默认为False) — 是否使用随机初始化固定锚框的 x 和 y 坐标。 - keep_query_pos (
bool, 可选, 默认为False) — 是否在每个解码器层中将来自对象查询的投影位置嵌入连接到原始查询（键）。 - num_patterns (
int, 可选, 默认为 0) — 模式嵌入的数量。 - normalize_before (
bool, 可选, 默认为False) — 是否在编码器中使用归一化层。 - sine_position_embedding_scale (
float, 可选, 默认为 ‘None’) — 应用于归一化位置编码的缩放因子。 - initializer_bias_prior_prob (
float, 可选) — 偏置初始化器使用的先验概率，用于初始化enc_score_head和class_embed的偏置。 如果为None，则在初始化模型权重时，prior_prob将计算为prior_prob = 1 / (num_labels + 1)。
这是用于存储 DabDetrModel 配置的配置类。 它用于根据指定的参数实例化 DAB-DETR 模型，定义模型架构。 使用默认值实例化配置将产生与 DAB-DETR IDEA-Research/dab_detr-base 架构类似的配置。
配置对象继承自 PretrainedConfig，可用于控制模型输出。 有关更多信息，请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import DabDetrConfig, DabDetrModel
>>> # Initializing a DAB-DETR IDEA-Research/dab_detr-base style configuration
>>> configuration = DabDetrConfig()
>>> # Initializing a model (with random weights) from the IDEA-Research/dab_detr-base style configuration
>>> model = DabDetrModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configDabDetrModel
class transformers.DabDetrModel
< source >( config: DabDetrConfig )
参数
- config (DabDetrConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重，仅加载配置。 查看 from_pretrained() 方法以加载模型权重。
裸 DAB-DETR 模型（由骨干网络和编码器-解码器 Transformer 组成）输出原始隐藏状态、中间隐藏状态、参考点、输出坐标，而顶部没有任何特定的 head。
此模型继承自 PreTrainedModel。 查看超类文档，了解库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝 head 等）。
此模型也是 PyTorch torch.nn.Module 子类。 将其用作常规 PyTorch 模块，并参阅 PyTorch 文档，了解与常规用法和行为相关的所有事项。
forward（前向传播）
< source >( pixel_values: FloatTensor pixel_mask: typing.Optional[torch.LongTensor] = None decoder_attention_mask: typing.Optional[torch.LongTensor] = None encoder_outputs: typing.Optional[torch.FloatTensor] = None inputs_embeds: typing.Optional[torch.FloatTensor] = None decoder_inputs_embeds: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.models.dab_detr.modeling_dab_detr.DabDetrModelOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)的torch.FloatTensor) — 像素值。 如果您提供填充，默认情况下会忽略填充。像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参阅 DetrImageProcessor.call()。
- pixel_mask (形状为
(batch_size, height, width)的torch.LongTensor, 可选) — 用于避免对填充像素值执行注意力的掩码。 在[0, 1]中选择的掩码值：- 1 表示真实的像素（即未被掩码），
- 0 表示填充像素（即被掩码）。
- decoder_attention_mask (形状为
(batch_size, num_queries)的torch.FloatTensor, 可选) — 默认情况下不使用。 可用于掩码对象查询。 - encoder_outputs (
tuple(tuple(torch.FloatTensor), 可选) — 元组由 (last_hidden_state, 可选:hidden_states, 可选:attentions) 组成，其中last_hidden_state的形状为(batch_size, sequence_length, hidden_size), 可选) 是编码器最后一层输出的隐藏状态序列。 用于解码器的交叉注意力。 - inputs_embeds (形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor, 可选) — 可选地，您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（骨干网络 + 投影层的输出）。 - decoder_inputs_embeds (形状为
(batch_size, num_queries, hidden_size)的torch.FloatTensor, 可选) — 可选地，您可以选择直接传递嵌入表示，而不是使用零张量初始化查询。 - output_attentions (
bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息，请参阅返回张量下的attentions。 - output_hidden_states (
bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息，请参阅返回张量下的hidden_states。 - return_dict (
bool, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回值
transformers.models.dab_detr.modeling_dab_detr.DabDetrModelOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.dab_detr.modeling_dab_detr.DabDetrModelOutput 或 torch.FloatTensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），其中包含取决于配置 (DabDetrConfig) 和输入的各种元素。
- last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor) — 模型解码器最后一层输出的隐藏状态序列。 - decoder_hidden_states (
tuple(torch.FloatTensor), 可选, 当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor的元组（每个嵌入输出一个，每层输出一个），形状为(batch_size, sequence_length, hidden_size)。 解码器在每一层输出以及初始嵌入输出处的隐藏状态。 - decoder_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - cross_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 解码器的交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor, 可选) — 模型编码器最后一层输出的隐藏状态序列。 - encoder_hidden_states (
tuple(torch.FloatTensor), 可选, 当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor的元组（每个嵌入输出一个，每层输出一个），形状为(batch_size, sequence_length, hidden_size)。 编码器在每一层输出以及初始嵌入输出处的隐藏状态。 - encoder_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - intermediate_hidden_states (形状为
(config.decoder_layers, batch_size, sequence_length, hidden_size)的torch.FloatTensor, 可选, 当config.auxiliary_loss=True时返回) — 中间解码器激活值，即每个解码器层的输出，它们都经过了 layernorm。 - reference_points (形状为
(config.decoder_layers, batch_size, num_queries, 2 (anchor points))的torch.FloatTensor) — 参考点（解码器每一层的参考点）。
DabDetrModel 的 forward 方法，覆盖了 __call__ 特殊方法。
虽然 forward 传递的配方需要在该函数中定义，但应该在之后调用 Module 实例而不是此函数，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModel
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("IDEA-Research/dab_detr-base")
>>> model = AutoModel.from_pretrained("IDEA-Research/dab_detr-base")
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> # forward pass
>>> outputs = model(**inputs)
>>> # the last hidden states are the final query embeddings of the Transformer decoder
>>> # these are of shape (batch_size, num_queries, hidden_size)
>>> last_hidden_states = outputs.last_hidden_state
>>> list(last_hidden_states.shape)
[1, 300, 256]DabDetrForObjectDetection
class transformers.DabDetrForObjectDetection
< source >( config: DabDetrConfig )
参数
- config (DabDetrConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重，仅加载配置。 查看 from_pretrained() 方法以加载模型权重。
DAB_DETR 模型（由骨干网络和编码器-解码器 Transformer 组成），顶部带有目标检测 head，用于诸如 COCO 检测之类的任务。
此模型继承自 PreTrainedModel。 查看超类文档，了解库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝 head 等）。
此模型也是 PyTorch torch.nn.Module 子类。 将其用作常规 PyTorch 模块，并参阅 PyTorch 文档，了解与常规用法和行为相关的所有事项。
forward（前向传播）
< source >( pixel_values: FloatTensor pixel_mask: typing.Optional[torch.LongTensor] = None decoder_attention_mask: typing.Optional[torch.LongTensor] = None encoder_outputs: typing.Optional[torch.FloatTensor] = None inputs_embeds: typing.Optional[torch.FloatTensor] = None decoder_inputs_embeds: typing.Optional[torch.FloatTensor] = None labels: typing.Optional[typing.List[dict]] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.models.dab_detr.modeling_dab_detr.DabDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)的torch.FloatTensor) — 像素值。 如果您提供填充，默认情况下会忽略填充。像素值可以使用 AutoImageProcessor 获得。 有关详细信息，请参阅 DetrImageProcessor.call()。
- pixel_mask (形状为
(batch_size, height, width)的torch.LongTensor, 可选) — 用于避免对填充像素值执行注意力的掩码。 在[0, 1]中选择的掩码值：- 1 表示真实的像素（即未被掩码），
- 0 表示填充像素（即被掩码）。
- decoder_attention_mask (形状为
(batch_size, num_queries)的torch.FloatTensor, 可选) — 默认情况下不使用。 可用于掩码对象查询。 - encoder_outputs (
tuple(tuple(torch.FloatTensor), optional) — Tuple consists of (last_hidden_state, optional:hidden_states, optional:attentions)last_hidden_stateof shape(batch_size, sequence_length, hidden_size), optional) 是编码器最后一层的隐藏状态序列。在解码器的交叉注意力机制中使用。 - inputs_embeds (
torch.FloatTensorof shape(batch_size, sequence_length, hidden_size), optional) — （可选）您可以选择直接传递图像的扁平化表示，而不是传递扁平化的特征图（backbone + 投影层的输出）。 - decoder_inputs_embeds (
torch.FloatTensorof shape(batch_size, num_queries, hidden_size), optional) — （可选）您可以选择直接传递嵌入表示，而不是使用零张量初始化queries。 - output_attentions (
bool, optional) — （可选）是否返回所有注意力层的注意力张量。详见返回张量下的attentions。 - output_hidden_states (
bool, optional) — （可选）是否返回所有层的隐藏状态。详见返回张量下的hidden_states。 - return_dict (
bool, optional) — （可选）是否返回 ModelOutput 而不是普通的元组。 - labels (
List[Dict]of len(batch_size,), optional) — 用于计算二分图匹配损失的标签。字典列表，每个字典至少包含以下 2 个键：“class_labels”和“boxes”（批次中图像的类别标签和边界框）。类别标签本身应为长度为(number of bounding boxes in the image,)的torch.LongTensor，边界框应为形状为(number of bounding boxes in the image, 4)的torch.FloatTensor。
返回值
transformers.models.dab_detr.modeling_dab_detr.DabDetrObjectDetectionOutput 或 tuple(torch.FloatTensor)
一个 transformers.models.dab_detr.modeling_dab_detr.DabDetrObjectDetectionOutput 或 torch.FloatTensor 元组（如果传递 return_dict=False 或当 config.return_dict=False 时），包含各种元素，具体取决于配置 (DabDetrConfig) 和输入。
- loss (
torch.FloatTensorof shape(1,), optional, 返回于当提供labels时) — 总损失，是类别预测的负对数似然（交叉熵）和边界框损失的线性组合。后者定义为 L1 损失和广义尺度不变 IoU 损失的线性组合。 - loss_dict (
Dict, optional) — 包含各个损失的字典。用于记录日志非常有用。 - logits (
torch.FloatTensorof shape(batch_size, num_queries, num_classes + 1)) — 所有 queries 的分类 logits（包括无对象）。 - pred_boxes (
torch.FloatTensorof shape(batch_size, num_queries, 4)) — 所有 queries 的归一化框坐标，表示为（center_x，center_y，width，height）。这些值在 [0, 1] 范围内归一化，相对于批次中每个单独图像的大小（忽略可能的填充）。您可以使用~DabDetrImageProcessor.post_process_object_detection来检索未归一化的边界框。 - auxiliary_outputs (
list[Dict], optional) — （可选，仅当辅助损失激活时返回，即config.auxiliary_loss设置为True且提供标签时）。它是字典列表，其中包含每个解码器层的上述两个键（logits和pred_boxes）。 - last_hidden_state (
torch.FloatTensorof shape(batch_size, sequence_length, hidden_size), optional) — 模型解码器最后一层的隐藏状态序列。 - decoder_hidden_states (
tuple(torch.FloatTensor), 可选, 当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor的元组（每个嵌入输出一个，每层输出一个），形状为(batch_size, sequence_length, hidden_size)。 解码器在每一层输出以及初始嵌入输出处的隐藏状态。 - decoder_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 解码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。 - cross_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 解码器的交叉注意力层的注意力权重，在注意力 softmax 之后，用于计算交叉注意力头中的加权平均值。 - encoder_last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)的torch.FloatTensor, 可选) — 模型编码器最后一层输出的隐藏状态序列。 - encoder_hidden_states (
tuple(torch.FloatTensor), 可选, 当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor的元组（每个嵌入输出一个，每层输出一个），形状为(batch_size, sequence_length, hidden_size)。 编码器在每一层输出以及初始嵌入输出处的隐藏状态。 - encoder_attentions (
tuple(torch.FloatTensor), 可选, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。 编码器的注意力权重，在注意力 softmax 之后，用于计算自注意力头中的加权平均值。
DabDetrForObjectDetection 的 forward 方法，覆盖了 __call__ 特殊方法。
虽然 forward 传递的配方需要在该函数中定义，但应该在之后调用 Module 实例而不是此函数，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, AutoModelForObjectDetection
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("IDEA-Research/dab-detr-resnet-50")
>>> model = AutoModelForObjectDetection.from_pretrained("IDEA-Research/dab-detr-resnet-50")
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> with torch.no_grad():
>>> outputs = model(**inputs)
>>> # convert outputs (bounding boxes and class logits) to Pascal VOC format (xmin, ymin, xmax, ymax)
>>> target_sizes = torch.tensor([(image.height, image.width)])
>>> results = image_processor.post_process_object_detection(outputs, threshold=0.5, target_sizes=target_sizes)[0]
>>> for score, label, box in zip(results["scores"], results["labels"], results["boxes"]):
... box = [round(i, 2) for i in box.tolist()]
... print(
... f"Detected {model.config.id2label[label.item()]} with confidence "
... f"{round(score.item(), 3)} at location {box}"
... )
Detected remote with confidence 0.833 at location [38.31, 72.1, 177.63, 118.45]
Detected cat with confidence 0.831 at location [9.2, 51.38, 321.13, 469.0]
Detected cat with confidence 0.804 at location [340.3, 16.85, 642.93, 370.95]
Detected remote with confidence 0.683 at location [334.48, 73.49, 366.37, 190.01]
Detected couch with confidence 0.535 at location [0.52, 1.19, 640.35, 475.1]