Transformers 文档
DPT
并获得增强的文档体验
开始使用
DPT
概述
DPT 模型由 René Ranftl、Alexey Bochkovskiy 和 Vladlen Koltun 在 Vision Transformers for Dense Prediction 中提出。DPT 是一个利用 Vision Transformer (ViT) 作为骨干进行密集预测任务(如语义分割和深度估计)的模型。
论文摘要如下:
我们引入了密集视觉 Transformer,这是一种以视觉 Transformer 代替卷积网络作为骨干进行密集预测任务的架构。我们将来自视觉 Transformer 不同阶段的 tokens 组合成不同分辨率的图像状表示,并使用卷积解码器逐步将它们组合成全分辨率预测。Transformer 骨干以恒定且相对较高的分辨率处理表示,并在每个阶段都具有全局感受野。这些特性使得密集视觉 Transformer 能够提供比全卷积网络更细粒度、更全局一致的预测。我们的实验表明,这种架构在密集预测任务上产生了显著的改进,特别是在有大量训练数据可用时。对于单目深度估计,与最先进的全卷积网络相比,我们观察到相对性能提高了多达 28%。当应用于语义分割时,密集视觉 Transformer 在 ADE20K 上以 49.02% 的 mIoU 创造了新的 SOTA。我们进一步表明,该架构可以在 NYUv2、KITTI 和 Pascal Context 等较小数据集上进行微调,并在这些数据集上也创造了新的 SOTA。

使用技巧
DPT 与 AutoBackbone 类兼容。这允许使用 DPT 框架与库中提供的各种计算机视觉骨干,例如 VitDetBackbone
或 Dinov2Backbone
。可以按如下方式创建它:
from transformers import Dinov2Config, DPTConfig, DPTForDepthEstimation
# initialize with a Transformer-based backbone such as DINOv2
# in that case, we also specify `reshape_hidden_states=False` to get feature maps of shape (batch_size, num_channels, height, width)
backbone_config = Dinov2Config.from_pretrained("facebook/dinov2-base", out_features=["stage1", "stage2", "stage3", "stage4"], reshape_hidden_states=False)
config = DPTConfig(backbone_config=backbone_config)
model = DPTForDepthEstimation(config=config)
资源
Hugging Face 官方和社区(以🌎表示)资源列表,帮助您开始使用 DPT。
DPTForDepthEstimation 的演示笔记本可以在此处找到。
如果您有兴趣在此处提交资源,请随时开启 Pull Request,我们将对其进行审查!该资源最好能展示一些新内容,而不是重复现有资源。
DPTConfig
class transformers.DPTConfig
< 源 >( hidden_size = 768 num_hidden_layers = 12 num_attention_heads = 12 intermediate_size = 3072 hidden_act = 'gelu' hidden_dropout_prob = 0.0 attention_probs_dropout_prob = 0.0 initializer_range = 0.02 layer_norm_eps = 1e-12 image_size = 384 patch_size = 16 num_channels = 3 is_hybrid = False qkv_bias = True backbone_out_indices = [2, 5, 8, 11] readout_type = 'project' reassemble_factors = [4, 2, 1, 0.5] neck_hidden_sizes = [96, 192, 384, 768] fusion_hidden_size = 256 head_in_index = -1 use_batch_norm_in_fusion_residual = False use_bias_in_fusion_residual = None add_projection = False use_auxiliary_head = True auxiliary_loss_weight = 0.4 semantic_loss_ignore_index = 255 semantic_classifier_dropout = 0.1 backbone_featmap_shape = [1, 1024, 24, 24] neck_ignore_stages = [0, 1] backbone_config = None backbone = None use_pretrained_backbone = False use_timm_backbone = False backbone_kwargs = None pooler_output_size = None pooler_act = 'tanh' **kwargs )
参数
- hidden_size (
int
, 可选, 默认为 768) — 编码器层和池化层维度。 - num_hidden_layers (
int
, 可选, 默认为 12) — Transformer 编码器中隐藏层的数量。 - num_attention_heads (
int
, 可选, 默认为 12) — Transformer 编码器中每个注意力层的注意力头数量。 - intermediate_size (
int
, 可选, 默认为 3072) — Transformer 编码器中“中间”(即,前馈)层的维度。 - hidden_act (
str
或function
, 可选, 默认为"gelu"
) — 编码器和池化器中的非线性激活函数(函数或字符串)。如果为字符串,支持"gelu"
、"relu"
、"selu"
和"gelu_new"
。 - hidden_dropout_prob (
float
, 可选, 默认为 0.0) — 嵌入、编码器和池化器中所有全连接层的 dropout 概率。 - attention_probs_dropout_prob (
float
, 可选, 默认为 0.0) — 注意力概率的 dropout 比率。 - initializer_range (
float
, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的截断正态初始化器的标准差。 - layer_norm_eps (
float
, 可选, 默认为 1e-12) — 层归一化层使用的 epsilon。 - image_size (
int
, 可选, 默认为 384) — 每张图像的大小(分辨率)。 - patch_size (
int
, 可选, 默认为 16) — 每个补丁的大小(分辨率)。 - num_channels (
int
, 可选, 默认为 3) — 输入通道的数量。 - is_hybrid (
bool
, 可选, 默认为False
) — 是否使用混合骨干。在加载 DPT-Hybrid 模型时有用。 - qkv_bias (
bool
, 可选, 默认为True
) — 是否在 queries、keys 和 values 中添加偏置。 - backbone_out_indices (
list[int]
, 可选, 默认为[2, 5, 8, 11]
) — 要从骨干使用的中间隐藏状态的索引。 - readout_type (
str
, 可选, 默认为"project"
) — 处理 ViT 骨干中间隐藏状态的读取标记(CLS 标记)时使用的读取类型。可以是 ["ignore"
,"add"
,"project"
] 之一。- “ignore”:直接忽略 CLS 标记。
- “add”:通过添加表示将 CLS 标记的信息传递给所有其他标记。
- “project”:通过将读取标记连接到所有其他标记,然后使用线性层后接 GELU 非线性激活将表示投影到原始特征维度 D,从而将信息传递给其他标记。
- reassemble_factors (
list[int]
, 可选, 默认为[4, 2, 1, 0.5]
) — 重组层的上/下采样因子。 - neck_hidden_sizes (
list[str]
, 可选, 默认为[96, 192, 384, 768]
) — 骨干特征图投影的隐藏大小。 - fusion_hidden_size (
int
, 可选, 默认为 256) — 融合前的通道数。 - head_in_index (
int
, 可选, 默认为 -1) — 在头中使用特征的索引。 - use_batch_norm_in_fusion_residual (
bool
, 可选, 默认为False
) — 是否在融合块的预激活残差单元中使用批归一化。 - use_bias_in_fusion_residual (
bool
, 可选, 默认为True
) — 是否在融合块的预激活残差单元中使用偏置。 - add_projection (
bool
, 可选, 默认为False
) — 是否在深度估计头之前添加投影层。 - use_auxiliary_head (
bool
, 可选, 默认为True
) — 训练期间是否使用辅助头。 - auxiliary_loss_weight (
float
, 可选, 默认为 0.4) — 辅助头的交叉熵损失权重。 - semantic_loss_ignore_index (
int
, 可选, 默认为 255) — 语义分割模型的损失函数忽略的索引。 - semantic_classifier_dropout (
float
, 可选, 默认为 0.1) — 语义分类头的 dropout 比率。 - backbone_featmap_shape (
list[int]
, 可选, 默认为[1, 1024, 24, 24]
) — 仅用于hybrid
嵌入类型。骨干特征图的形状。 - neck_ignore_stages (
list[int]
, 可选, 默认为[0, 1]
) — 仅用于hybrid
嵌入类型。要忽略的读取层的阶段。 - backbone_config (
Union[dict[str, Any], PretrainedConfig]
, 可选) — 骨干模型的配置。仅在is_hybrid
为True
或您想利用 AutoBackbone API 时使用。 - backbone (
str
, 可选) — 当backbone_config
为None
时使用的骨干名称。如果use_pretrained_backbone
为True
,这将从 timm 或 transformers 库加载相应的预训练权重。如果use_pretrained_backbone
为False
,这将加载骨干的配置并使用该配置初始化随机权重的骨干。 - use_pretrained_backbone (
bool
, 可选, 默认为False
) — 是否使用骨干的预训练权重。 - use_timm_backbone (
bool
, 可选, 默认为False
) — 是否从 timm 库加载backbone
。如果为False
,则从 transformers 库加载骨干。 - backbone_kwargs (
dict
, 可选) — 从检查点加载时要传递给 AutoBackbone 的关键字参数,例如{'out_indices': (0, 1, 2, 3)}
。如果设置了backbone_config
,则不能指定。 - pooler_output_size (
int
, 可选) — 池化层维度。如果为 None,则默认为hidden_size
。 - pooler_act (
str
, 可选, 默认为"tanh"
) — 池化层使用的激活函数。Flax 和 Pytorch 支持 ACT2FN 的键,Tensorflow 支持 https://tensorflowcn.cn/api_docs/python/tf/keras/activations 的元素。
这是用于存储 DPTModel 配置的配置类。它用于根据指定参数实例化 DPT 模型,定义模型架构。使用默认值实例化配置将产生与 DPT Intel/dpt-large 架构类似的配置。
配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import DPTModel, DPTConfig
>>> # Initializing a DPT dpt-large style configuration
>>> configuration = DPTConfig()
>>> # Initializing a model from the dpt-large style configuration
>>> model = DPTModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
将此实例序列化为 Python 字典。覆盖默认的 to_dict()。返回: dict[str, any]
:构成此配置实例的所有属性的字典,
DPTFeatureExtractor
post_process_semantic_segmentation
< source >( outputs target_sizes: typing.Optional[list[tuple]] = None ) → semantic_segmentation
参数
- outputs (DPTForSemanticSegmentation) — 模型的原始输出。
- target_sizes (
list[Tuple]
,长度为batch_size
,可选) — 对应于每个预测的请求最终大小(高度,宽度)的元组列表。如果未设置,则预测将不会被调整大小。
返回
语义分割
list[torch.Tensor]
,长度为 batch_size
,其中每个项目是形状为 (height, width) 的语义分割图,对应于 target_sizes 条目(如果指定了 target_sizes
)。每个 torch.Tensor
的每个条目对应一个语义类别 ID。
将 DPTForSemanticSegmentation 的输出转换为语义分割图。仅支持 PyTorch。
DPTImageProcessor
class transformers.DPTImageProcessor
< source >( do_resize: bool = True size: typing.Optional[dict[str, int]] = None resample: Resampling = <Resampling.BICUBIC: 3> keep_aspect_ratio: bool = False ensure_multiple_of: int = 1 do_rescale: bool = True rescale_factor: typing.Union[int, float] = 0.00392156862745098 do_normalize: bool = True image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_pad: bool = False size_divisor: typing.Optional[int] = None do_reduce_labels: bool = False **kwargs )
参数
- do_resize (
bool
, 可选, 默认为True
) — 是否调整图像的(高度,宽度)尺寸。可以通过preprocess
中的do_resize
覆盖。 - size (
dict[str, int]
可选, 默认为{"height" -- 384, "width": 384}
): 调整大小后的图像尺寸。可以通过preprocess
中的size
覆盖。 - resample (
PILImageResampling
, 可选, 默认为Resampling.BICUBIC
) — 定义调整图像大小时使用的重采样滤波器。可以通过preprocess
中的resample
覆盖。 - keep_aspect_ratio (
bool
, 可选, 默认为False
) — 如果为True
,则图像将调整为尽可能大的尺寸,同时保持纵横比。可以通过preprocess
中的keep_aspect_ratio
覆盖。 - ensure_multiple_of (
int
, 可选, 默认为 1) — 如果do_resize
为True
,则图像将调整为该值的倍数。可以通过preprocess
中的ensure_multiple_of
覆盖。 - do_rescale (
bool
, 可选, 默认为True
) — 是否通过指定的缩放因子rescale_factor
重新缩放图像。可以通过preprocess
中的do_rescale
覆盖。 - rescale_factor (
int
或float
, 可选, 默认为1/255
) — 如果重新缩放图像,则使用的缩放因子。可以通过preprocess
中的rescale_factor
覆盖。 - do_normalize (
bool
, 可选, 默认为True
) — 是否对图像进行归一化。可以通过preprocess
方法中的do_normalize
参数覆盖。 - image_mean (
float
或list[float]
, 可选, 默认为IMAGENET_STANDARD_MEAN
) — 图像归一化时使用的均值。这是一个浮点数或浮点数列表,长度与图像中的通道数相同。可以通过preprocess
方法中的image_mean
参数覆盖。 - image_std (
float
或list[float]
, 可选, 默认为IMAGENET_STANDARD_STD
) — 图像归一化时使用的标准差。这是一个浮点数或浮点数列表,长度与图像中的通道数相同。可以通过preprocess
方法中的image_std
参数覆盖。 - do_pad (
bool
, 可选, 默认为False
) — 是否应用中心填充。这是在 DINOv2 论文中引入的,该论文将模型与 DPT 结合使用。 - size_divisor (
int
, 可选) — 如果do_pad
为True
,则将图像尺寸填充为可被此值整除。这是在 DINOv2 论文中引入的,该论文将模型与 DPT 结合使用。 - do_reduce_labels (
bool
, 可选, 默认为False
) — 是否将分割图的所有标签值减 1。通常用于 0 表示背景,且背景本身不包含在数据集所有类别中的数据集(例如 ADE20k)。背景标签将替换为 255。可以通过preprocess
方法中的do_reduce_labels
参数覆盖。
构造 DPT 图像处理器。
preprocess
< source >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] segmentation_maps: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor'], NoneType] = None do_resize: typing.Optional[bool] = None size: typing.Optional[int] = None keep_aspect_ratio: typing.Optional[bool] = None ensure_multiple_of: typing.Optional[int] = None resample: Resampling = None do_rescale: typing.Optional[bool] = None rescale_factor: typing.Optional[float] = None do_normalize: typing.Optional[bool] = None image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_pad: typing.Optional[bool] = None size_divisor: typing.Optional[int] = None do_reduce_labels: typing.Optional[bool] = None return_tensors: typing.Union[str, transformers.utils.generic.TensorType, NoneType] = None data_format: ChannelDimension = <ChannelDimension.FIRST: 'channels_first'> input_data_format: typing.Union[str, transformers.image_utils.ChannelDimension, NoneType] = None )
参数
- images (
ImageInput
) — 待预处理的图像。期望单个或批量图像的像素值范围为 0 到 255。如果传入的图像像素值在 0 到 1 之间,请设置do_rescale=False
。 - segmentation_maps (
ImageInput
, 可选) — 待预处理的分割图。 - do_resize (
bool
, 可选, 默认为self.do_resize
) — 是否调整图像大小。 - size (
dict[str, int]
, 可选, 默认为self.size
) — 调整大小后的图像尺寸。如果keep_aspect_ratio
为True
,则图像将调整为尽可能大的尺寸,同时保持纵横比。如果设置了ensure_multiple_of
,则图像将调整为该值的倍数。 - keep_aspect_ratio (
bool
, 可选, 默认为self.keep_aspect_ratio
) — 是否保持图像的纵横比。如果为 False,图像将调整为 (size, size)。如果为 True,图像将调整大小以保持纵横比,并且大小将是最大可能值。 - ensure_multiple_of (
int
, 可选, 默认为self.ensure_multiple_of
) — 确保图像尺寸是此值的倍数。 - resample (
int
, 可选, 默认为self.resample
) — 调整图像大小时使用的重采样滤波器。可以是PILImageResampling
枚举之一。仅当do_resize
设置为True
时有效。 - do_rescale (
bool
, 可选, 默认为self.do_rescale
) — 是否将图像值重新缩放到 [0 - 1] 之间。 - rescale_factor (
float
, 可选, 默认为self.rescale_factor
) — 如果do_rescale
设置为True
,则用于重新缩放图像的缩放因子。 - do_normalize (
bool
, 可选, 默认为self.do_normalize
) — 是否对图像进行归一化。 - image_mean (
float
或list[float]
, 可选, 默认为self.image_mean
) — 图像均值。 - image_std (
float
或list[float]
, 可选, 默认为self.image_std
) — 图像标准差。 - do_reduce_labels (
bool
, 可选, 默认为self.do_reduce_labels
) — 是否将分割图的所有标签值减 1。通常用于 0 表示背景,且背景本身不包含在数据集所有类别中的数据集(例如 ADE20k)。背景标签将替换为 255。 - return_tensors (
str
或TensorType
, 可选) — 返回张量的类型。可以是以下之一:- 未设置:返回
np.ndarray
列表。 TensorType.TENSORFLOW
或'tf'
:返回tf.Tensor
类型的批量数据。TensorType.PYTORCH
或'pt'
:返回torch.Tensor
类型的批量数据。TensorType.NUMPY
或'np'
:返回np.ndarray
类型的批量数据。TensorType.JAX
或'jax'
:返回jax.numpy.ndarray
类型的批量数据。
- 未设置:返回
- data_format (
ChannelDimension
或str
, 可选, 默认为ChannelDimension.FIRST
) — 输出图像的通道维度格式。可以是以下之一:ChannelDimension.FIRST
:图像格式为 (num_channels, height, width)。ChannelDimension.LAST
:图像格式为 (height, width, num_channels)。
- input_data_format (
ChannelDimension
或str
, 可选) — 输入图像的通道维度格式。如果未设置,则从输入图像推断通道维度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:图像格式为 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:图像格式为 (height, width, num_channels)。"none"
或ChannelDimension.NONE
:图像格式为 (height, width)。
预处理一张或一批图像。
DPTImageProcessorFast
class transformers.DPTImageProcessorFast
< source >( **kwargs: typing_extensions.Unpack[transformers.models.dpt.image_processing_dpt_fast.DPTFastImageProcessorKwargs] )
构造一个快速 Dpt 图像处理器。
preprocess
< source >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] segmentation_maps: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor'], NoneType] = None **kwargs: typing_extensions.Unpack[transformers.models.dpt.image_processing_dpt_fast.DPTFastImageProcessorKwargs] ) → <class 'transformers.image_processing_base.BatchFeature'>
参数
- images (
Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]
) — 待预处理的图像。期望单个或批量图像的像素值范围为 0 到 255。如果传入的图像像素值在 0 到 1 之间,请设置do_rescale=False
。 - segmentation_maps (
ImageInput
, 可选) — 待预处理的分割图。 - do_resize (
bool
, 可选) — 是否调整图像大小。 - size (
dict[str, int]
, 可选) — 描述模型的最大输入尺寸。 - default_to_square (
bool
, 可选) — 如果 size 为整数,是否默认将图像调整为正方形。 - resample (
Union[PILImageResampling, F.InterpolationMode, NoneType]
) — 调整图像大小时使用的重采样滤波器。可以是PILImageResampling
枚举之一。仅当do_resize
设置为True
时有效。 - do_center_crop (
bool
, 可选) — 是否对图像进行中心裁剪。 - crop_size (
dict[str, int]
, 可选) — 应用center_crop
后输出图像的大小。 - do_rescale (
bool
, 可选) — 是否缩放图像。 - rescale_factor (
Union[int, float, NoneType]
) — 如果do_rescale
设置为True
,则用于缩放图像的缩放因子。 - do_normalize (
bool
, 可选) — 是否对图像进行归一化。 - image_mean (
Union[float, list[float], NoneType]
) — 用于归一化的图像平均值。仅当do_normalize
设置为True
时有效。 - image_std (
Union[float, list[float], NoneType]
) — 用于归一化的图像标准差。仅当do_normalize
设置为True
时有效。 - do_convert_rgb (
bool
, 可选) — 是否将图像转换为RGB。 - return_tensors (
Union[str, ~utils.generic.TensorType, NoneType]
) — 如果设置为“pt”,则返回堆叠张量,否则返回张量列表。 - data_format (
~image_utils.ChannelDimension
, 可选) — 仅支持ChannelDimension.FIRST
。为与慢速处理器兼容而添加。 - input_data_format (
Union[str, ~image_utils.ChannelDimension, NoneType]
) — 输入图像的通道维度格式。如果未设置,则从输入图像推断通道维度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:图像格式为(通道数, 高度, 宽度)。"channels_last"
或ChannelDimension.LAST
:图像格式为(高度, 宽度, 通道数)。"none"
或ChannelDimension.NONE
:图像格式为(高度, 宽度)。
- device (
torch.device
, 可选) — 处理图像的设备。如果未设置,则从输入图像推断设备。 - disable_grouping (
bool
, 可选) — 是否禁用按大小对图像进行分组以单独处理而不是分批处理。如果为 None,则如果图像在 CPU 上,则设置为 True,否则设置为 False。此选择基于经验观察,详见:https://github.com/huggingface/transformers/pull/38157 - ensure_multiple_of (
int
, 可选, 默认为 1) — 如果do_resize
为True
,则图像将调整大小为该值的倍数。可以通过preprocess
中的ensure_multiple_of
覆盖。 - size_divisor (
int
, 可选) — 如果do_pad
为True
,则将图像尺寸填充为该值的倍数。这是在DINOv2论文中引入的,DINOv2使用该模型与DPT结合。 - do_pad (
bool
, 可选, 默认为False
) — 是否应用中心填充。这是在DINOv2论文中引入的,DINOv2使用该模型与DPT结合。 - keep_aspect_ratio (
bool
, 可选, 默认为False
) — 如果为True
,图像将调整为尽可能大的尺寸,同时保持纵横比。可以通过preprocess
中的keep_aspect_ratio
覆盖。 - do_reduce_labels (
bool
, 可选, 默认为self.do_reduce_labels
) — 是否将分割图的所有标签值减1。通常用于背景标签为0,且背景本身不包含在数据集所有类别中的数据集(例如ADE20k)。背景标签将被替换为255。
返回
<class 'transformers.image_processing_base.BatchFeature'>
- data (
dict
) — 由 call 方法返回的列表/数组/张量字典(“pixel_values”等)。 - tensor_type (
Union[None, str, TensorType]
, 可选) — 您可以在此处提供一个`tensor_type`,以便在初始化时将整数列表转换为PyTorch/TensorFlow/Numpy张量。
post_process_semantic_segmentation
< 来源 >( outputs target_sizes: typing.Optional[list[tuple]] = None ) → semantic_segmentation
参数
- outputs (DPTForSemanticSegmentation) — 模型的原始输出。
- target_sizes (
list[Tuple]
,长度为batch_size
,可选) — 对应于每个预测的请求最终大小(高度,宽度)的元组列表。如果未设置,预测将不会调整大小。
返回
语义分割
list[torch.Tensor]
,长度为 batch_size
,其中每个项目是形状为 (height, width) 的语义分割图,对应于 target_sizes 条目(如果指定了 target_sizes
)。每个 torch.Tensor
的每个条目对应一个语义类别 ID。
将 DPTForSemanticSegmentation 的输出转换为语义分割图。仅支持 PyTorch。
后处理深度估计
< 来源 >( outputs: DepthEstimatorOutput target_sizes: typing.Union[transformers.utils.generic.TensorType, list[tuple[int, int]], NoneType] = None ) → List[Dict[str, TensorType]]
将DepthEstimatorOutput
的原始输出转换为最终深度预测和深度PIL图像。仅支持PyTorch。
DPTModel
类 transformers.DPTModel
< 来源 >( config add_pooling_layer = True )
参数
- config (DPTModel) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型相关的权重,只加载配置。查看from_pretrained()方法以加载模型权重。
- add_pooling_layer (
bool
, 可选, 默认为True
) — 是否添加池化层
裸Dpt模型,输出原始隐藏状态,顶部没有任何特定头。
此模型继承自PreTrainedModel。查看超类文档,了解库为其所有模型实现的一般方法(例如下载或保存、调整输入嵌入大小、修剪头部等)。
此模型也是一个PyTorch torch.nn.Module子类。将其用作常规PyTorch模块,并参考PyTorch文档中与一般用法和行为相关的所有事项。
向前
< 来源 >( pixel_values: FloatTensor head_mask: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.models.dpt.modeling_dpt.BaseModelOutputWithPoolingAndIntermediateActivations
或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
,形状为(batch_size, num_channels, image_size, image_size)
) — 对应于输入图像的张量。像素值可以使用{image_processor_class}
获取。有关详细信息,请参见{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
处理图像)。 - head_mask (
torch.FloatTensor
,形状为(num_heads,)
或(num_layers, num_heads)
, 可选) — 用于使自注意力模块的选定头部无效的掩码。掩码值选择在[0, 1]
:- 1 表示头部未被遮蔽,
- 0 表示头部被遮蔽。
- output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回ModelOutput而不是普通的元组。
返回
transformers.models.dpt.modeling_dpt.BaseModelOutputWithPoolingAndIntermediateActivations
或 tuple(torch.FloatTensor)
一个transformers.models.dpt.modeling_dpt.BaseModelOutputWithPoolingAndIntermediateActivations
或一个torch.FloatTensor
元组(如果传递了return_dict=False
或当config.return_dict=False
时),包含取决于配置(DPTConfig)和输入的各种元素。
-
last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
, 可选,默认为None
) — 模型最后一层输出的隐藏状态序列。 -
pooler_output (
torch.FloatTensor
,形状为(batch_size, hidden_size)
) — 序列中第一个令牌(分类令牌)的最后一层隐藏状态,经过用于辅助预训练任务的层进一步处理。例如,对于BERT家族的模型,这返回经过线性层和tanh激活函数处理后的分类令牌。线性层权重在预训练期间通过下一个句子预测(分类)目标进行训练。 -
hidden_states (
tuple[torch.FloatTensor, ...]
, 可选, 当传入output_hidden_states=True
或config.output_hidden_states=True
时返回) —torch.FloatTensor
的元组(如果模型有嵌入层,则为嵌入层输出一个,每个层输出一个)形状为(batch_size, sequence_length, hidden_size)
。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
-
attentions (
tuple[torch.FloatTensor, ...]
, 可选, 当传入output_attentions=True
或config.output_attentions=True
时返回) —torch.FloatTensor
的元组(每个层一个)形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 后的注意力权重,用于计算自注意力头中的加权平均值。
-
intermediate_activations (
tuple(torch.FloatTensor)
, 可选) — 可用于计算模型在各个层的隐藏状态的中间激活。
DPTModel
forward方法,覆盖了__call__
特殊方法。
尽管前向传递的实现需要在该函数中定义,但之后应该调用Module
实例而不是该函数,因为前者负责运行预处理和后处理步骤,而后者会静默忽略它们。
DPTForDepthEstimation
类 transformers.DPTForDepthEstimation
< 来源 >( config )
参数
- config (DPTForDepthEstimation) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型相关的权重,只加载配置。查看from_pretrained()方法以加载模型权重。
DPT模型,顶部带有深度估计头(由3个卷积层组成),例如用于KITTI、NYUv2。
此模型继承自PreTrainedModel。查看超类文档,了解库为其所有模型实现的一般方法(例如下载或保存、调整输入嵌入大小、修剪头部等)。
此模型也是一个PyTorch torch.nn.Module子类。将其用作常规PyTorch模块,并参考PyTorch文档中与一般用法和行为相关的所有事项。
向前
< 来源 >( pixel_values: FloatTensor head_mask: typing.Optional[torch.FloatTensor] = None labels: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.DepthEstimatorOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
,形状为(batch_size, num_channels, image_size, image_size)
) — 对应于输入图像的张量。像素值可以使用{image_processor_class}
获取。有关详细信息,请参见{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
处理图像)。 - head_mask (
torch.FloatTensor
,形状为(num_heads,)
或(num_layers, num_heads)
, 可选) — 用于使自注意力模块的选定头部无效的掩码。掩码值选择在[0, 1]
:- 1 表示头部未被遮蔽,
- 0 表示头部被遮蔽。
- labels (
torch.LongTensor
,形状为(batch_size, height, width)
, 可选) — 用于计算损失的真实深度估计图。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回ModelOutput而不是普通的元组。
返回
transformers.modeling_outputs.DepthEstimatorOutput 或 tuple(torch.FloatTensor)
一个transformers.modeling_outputs.DepthEstimatorOutput或一个torch.FloatTensor
元组(如果传递了return_dict=False
或当config.return_dict=False
时),包含取决于配置(DPTConfig)和输入的各种元素。
-
loss (形状为
(1,)
的torch.FloatTensor
,可选,当提供labels
时返回) — 分类损失(如果 config.num_labels==1,则为回归损失)。 -
predicted_depth (
torch.FloatTensor
,形状为(batch_size, height, width)
) — 每个像素的预测深度。 -
hidden_states (
tuple(torch.FloatTensor)
, 可选, 当传入output_hidden_states=True
或config.output_hidden_states=True
时返回) —torch.FloatTensor
的元组(如果模型有嵌入层,则为嵌入层输出一个,每个层输出一个)形状为(batch_size, num_channels, height, width)
。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
-
attentions (
tuple(torch.FloatTensor)
, 可选, 当传入output_attentions=True
或config.output_attentions=True
时返回) —torch.FloatTensor
的元组(每个层一个)形状为(batch_size, num_heads, patch_size, sequence_length)
。注意力 softmax 后的注意力权重,用于计算自注意力头中的加权平均值。
DPTForDepthEstimation
forward方法,覆盖了__call__
特殊方法。
尽管前向传递的实现需要在该函数中定义,但之后应该调用Module
实例而不是该函数,因为前者负责运行预处理和后处理步骤,而后者会静默忽略它们。
示例
>>> from transformers import AutoImageProcessor, DPTForDepthEstimation
>>> import torch
>>> import numpy as np
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("Intel/dpt-large")
>>> model = DPTForDepthEstimation.from_pretrained("Intel/dpt-large")
>>> # prepare image for the model
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> with torch.no_grad():
... outputs = model(**inputs)
>>> # interpolate to original size
>>> post_processed_output = image_processor.post_process_depth_estimation(
... outputs,
... target_sizes=[(image.height, image.width)],
... )
>>> # visualize the prediction
>>> predicted_depth = post_processed_output[0]["predicted_depth"]
>>> depth = predicted_depth * 255 / predicted_depth.max()
>>> depth = depth.detach().cpu().numpy()
>>> depth = Image.fromarray(depth.astype("uint8"))
DPTForSemanticSegmentation
类 transformers.DPTForSemanticSegmentation
< 来源 >( config )
参数
- config (DPTForSemanticSegmentation) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型相关的权重,只加载配置。查看from_pretrained()方法以加载模型权重。
DPT模型,顶部带有语义分割头,例如用于ADE20K、CityScapes。
此模型继承自PreTrainedModel。查看超类文档,了解库为其所有模型实现的一般方法(例如下载或保存、调整输入嵌入大小、修剪头部等)。
此模型也是一个PyTorch torch.nn.Module子类。将其用作常规PyTorch模块,并参考PyTorch文档中与一般用法和行为相关的所有事项。
向前
< 来源 >( pixel_values: typing.Optional[torch.FloatTensor] = None head_mask: typing.Optional[torch.FloatTensor] = None labels: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.SemanticSegmenterOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
,形状为(batch_size, num_channels, image_size, image_size)
, 可选) — 对应于输入图像的张量。像素值可以使用{image_processor_class}
获取。有关详细信息,请参见{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
处理图像)。 - head_mask (
torch.FloatTensor
,形状为(num_heads,)
或(num_layers, num_heads)
, 可选) — 用于使自注意力模块的选定头部无效的掩码。掩码值选择在[0, 1]
:- 1 表示头部未被遮蔽,
- 0 表示头部被遮蔽。
- labels (
torch.LongTensor
,形状为(batch_size, height, width)
, 可选) — 用于计算损失的真实语义分割图。索引应在[0, ..., config.num_labels - 1]
范围内。如果config.num_labels > 1
,则计算分类损失(交叉熵)。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回ModelOutput而不是普通的元组。
返回
transformers.modeling_outputs.SemanticSegmenterOutput 或 tuple(torch.FloatTensor)
一个transformers.modeling_outputs.SemanticSegmenterOutput或一个torch.FloatTensor
元组(如果传递了return_dict=False
或当config.return_dict=False
时),包含取决于配置(DPTConfig)和输入的各种元素。
-
loss (形状为
(1,)
的torch.FloatTensor
,可选,当提供labels
时返回) — 分类损失(如果 config.num_labels==1,则为回归损失)。 -
logits (形状为
(batch_size, config.num_labels, logits_height, logits_width)
的torch.FloatTensor
) — 每个像素的分类分数。返回的logits不一定与作为输入传递的
pixel_values
具有相同的大小。这是为了避免两次插值,并在用户需要将logits调整到原始图像大小时,在后处理中损失一些质量。您应该始终检查logits的形状并根据需要进行调整。 -
hidden_states (
tuple(torch.FloatTensor)
, 可选, 当传入output_hidden_states=True
或config.output_hidden_states=True
时返回) —torch.FloatTensor
的元组(一个用于嵌入层的输出,如果模型有嵌入层,+ 每个层的输出一个),形状为(batch_size, patch_size, hidden_size)
。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
-
attentions (
tuple(torch.FloatTensor)
, 可选, 当传入output_attentions=True
或config.output_attentions=True
时返回) —torch.FloatTensor
的元组(每个层一个)形状为(batch_size, num_heads, patch_size, sequence_length)
。注意力 softmax 后的注意力权重,用于计算自注意力头中的加权平均值。
DPTForSemanticSegmentation的forward方法,重写了__call__
特殊方法。
尽管前向传递的实现需要在该函数中定义,但之后应该调用Module
实例而不是该函数,因为前者负责运行预处理和后处理步骤,而后者会静默忽略它们。
示例
>>> from transformers import AutoImageProcessor, DPTForSemanticSegmentation
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("Intel/dpt-large-ade")
>>> model = DPTForSemanticSegmentation.from_pretrained("Intel/dpt-large-ade")
>>> inputs = image_processor(images=image, return_tensors="pt")
>>> outputs = model(**inputs)
>>> logits = outputs.logits