Transformers 文档
DINOv3
并获得增强的文档体验
开始使用
该模型于 2025 年 8 月 13 日在 HF papers 上发布，并于 2025 年 8 月 14 日贡献给 Hugging Face Transformers。
DINOv3
DINOv3 是一系列通用视觉基础模型，无需微调即可在广泛的应用场景中超越特定领域的先进模型。DINOv3 可生成高质量的密集特征，在各种视觉任务上实现卓越表现，显著超越了以往的自监督和弱监督基础模型。
您可以在 DINOv3 合集中找到所有原始的 DINOv3 检查点（checkpoints）。
点击右侧边栏中的 DINOv3 模型，查看更多关于如何将 DINOv3 应用于不同视觉任务的示例。
下面的示例演示了如何使用 Pipeline 或 AutoModel 类获取图像嵌入（embedding）。
from transformers import pipeline
pipe = pipeline(
task="image-feature-extraction",
model="facebook/dinov3-vits16-pretrain-lvd1689m",
)
pipe("https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg")量化通过以较低精度表示权重来减少大型模型的内存负担。有关更多可用量化后端，请参阅量化概述。
以下示例使用torchao仅将权重量化为int4。
# pip install torchao
import torch
from torchao.quantization import Int4WeightOnlyConfig
from transformers import AutoImageProcessor, AutoModel, TorchAoConfig
from transformers.image_utils import load_image
url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = load_image(url)
processor = AutoImageProcessor.from_pretrained("facebook/dinov3-vitsplus-pretrain-lvd1689m")
quant_type = Int4WeightOnlyConfig(group_size=128)
quantization_config = TorchAoConfig(quant_type=quant_type)
model = AutoModel.from_pretrained(
"facebook/dinov3-vit7b16-pretrain-lvd1689m",
device_map="auto",
quantization_config=quantization_config
)
inputs = processor(images=image, return_tensors="pt").to(model.device)
with torch.inference_mode():
outputs = model(**inputs)
pooled_output = outputs.pooler_output
print("Pooled output shape:", pooled_output.shape)注意事项
下面的示例显示如何将输出张量拆分为
- 整个图像的一个嵌入，通常称为
CLStoken，适用于分类和检索任务 - 寄存器 tokens（register tokens） - 作为全局信息专用“内存槽”的可学习嵌入，它们能减少 patch tokens 中的高范数伪影，从而生成更清晰的注意力图，并在密集预测任务上表现更好。
- 一组局部嵌入，输入图像的每个
16x16patch 对应一个，适用于语义分割等密集任务
import torch from transformers import AutoImageProcessor, AutoModel from transformers.image_utils import load_image url = "http://images.cocodataset.org/val2017/000000039769.jpg" image = load_image(url) print("Image size:", image.height, image.width) # [480, 640] processor = AutoImageProcessor.from_pretrained("facebook/dinov3-vits16-pretrain-lvd1689m") model = AutoModel.from_pretrained("facebook/dinov3-vits16-pretrain-lvd1689m", device_map="auto") patch_size = model.config.patch_size print("Patch size:", patch_size) # 16 print("Num register tokens:", model.config.num_register_tokens) # 4 inputs = processor(images=image, return_tensors="pt").to(model.device) print("Preprocessed image size:", inputs.pixel_values.shape) # [1, 3, 224, 224] batch_size, _, img_height, img_width = inputs.pixel_values.shape num_patches_height, num_patches_width = img_height // patch_size, img_width // patch_size num_patches_flat = num_patches_height * num_patches_width with torch.inference_mode(): outputs = model(**inputs) last_hidden_states = outputs.last_hidden_state print(last_hidden_states.shape) # [1, 1 + 4 + 256, 384] assert last_hidden_states.shape == (batch_size, 1 + model.config.num_register_tokens + num_patches_flat, model.config.hidden_size) cls_token = last_hidden_states[:, 0, :] patch_features_flat = last_hidden_states[:, 1 + model.config.num_register_tokens:, :] patch_features = patch_features_flat.unflatten(1, (num_patches_height, num_patches_width))- 整个图像的一个嵌入，通常称为
DINOv3ViTConfig
class transformers.DINOv3ViTConfig
< 源码 >( transformers_version: str | None = None architectures: list[str] | None = None output_hidden_states: bool | None = False return_dict: bool | None = True dtype: typing.Union[str, ForwardRef('torch.dtype'), NoneType] = None chunk_size_feed_forward: int = 0 is_encoder_decoder: bool = False id2label: dict[int, str] | dict[str, str] | None = None label2id: dict[str, int] | dict[str, str] | None = None problem_type: typing.Optional[typing.Literal['regression', 'single_label_classification', 'multi_label_classification']] = None patch_size: int | list[int] | tuple[int, int] = 16 hidden_size: int = 384 intermediate_size: int = 1536 num_hidden_layers: int = 12 num_attention_heads: int = 6 hidden_act: str = 'gelu' attention_dropout: float | int = 0.0 initializer_range: float = 0.02 layer_norm_eps: float = 1e-05 rope_theta: float = 100.0 image_size: int | list[int] | tuple[int, int] = 224 num_channels: int = 3 query_bias: bool = True key_bias: bool = False value_bias: bool = True proj_bias: bool = True mlp_bias: bool = True layerscale_value: float = 1.0 drop_path_rate: float | int = 0.0 use_gated_mlp: bool = False num_register_tokens: int = 0 pos_embed_shift: float | None = None pos_embed_jitter: float | None = None pos_embed_rescale: float | None = 2.0 _out_features: list[str] | None = None _out_indices: list[int] | None = None apply_layernorm: bool = True reshape_hidden_states: bool = True )
参数
- patch_size (
Union[int, list[int], tuple[int, int]], 可选, 默认为16) — 每个 patch 的大小（分辨率）。 - hidden_size (
int, 可选, 默认为384) — 隐藏表示的维度。 - intermediate_size (
int, 可选, 默认为1536) — MLP 表示的维度。 - num_hidden_layers (
int, 可选, 默认为12) — Transformer 解码器中的隐藏层数量。 - num_attention_heads (
int, 可选, 默认为6) — Transformer 解码器中每个注意力层的注意力头数量。 - hidden_act (
str, 可选, 默认为gelu) — 解码器中的非线性激活函数（函数或字符串）。例如："gelu","relu","silu"等。 - attention_dropout (
Union[float, int], 可选, 默认为0.0) — 注意力概率的 Dropout 比率。 - initializer_range (
float, 可选, 默认为0.02) — 用于初始化所有权重矩阵的截断正态初始化器（truncated_normal_initializer）的标准差。 - layer_norm_eps (
float, 可选, 默认为1e-05) — 层归一化层使用的 epsilon 值。 - rope_theta (
float, 可选, 默认为 100.0) — RoPE 嵌入的基周期。 - image_size (
Union[int, list[int], tuple[int, int]], 可选, 默认为224) — 每个图像的大小（分辨率）。 - num_channels (
int, 可选, 默认为3) — 输入通道的数量。 - query_bias (
bool, 可选, 默认为True) — 是否在 query 投影中添加偏置（bias）。 - key_bias (
bool, 可选, 默认为False) — 是否在 key 投影中添加偏置。 - value_bias (
bool, 可选, 默认为True) — 是否在 value 投影中添加偏置。 - proj_bias (
bool, 可选, 默认为True) — 是否在输出投影中添加偏置。 - mlp_bias (
bool, 可选, 默认为True) — 是否在 MLP 层中的 up_proj、down_proj 和 gate_proj 层中使用偏置。 - layerscale_value (
float, 可选, 默认为 1.0) — 用于层缩放（layer scale）的初始值。 - drop_path_rate (
Union[float, int], 可选, 默认为0.0) — 用于 patch 融合的 Drop path 比率。 - use_gated_mlp (
bool, 可选, 默认为False) — 是否使用 SwiGLU 前馈神经网络。 - num_register_tokens (
int, 可选, 默认为 0) — 寄存器 token 的数量。 - pos_embed_shift (
float, 可选) — 随机偏移位置嵌入坐标的量（范围在 [-shift, shift] 内），如果不为None，则仅在训练模式下应用。 - pos_embed_jitter (
float, 可选) — 随机抖动位置嵌入坐标的量（以对数均匀值在 [1/jitter, jitter] 范围内），如果不为None，则仅在训练模式下应用。 - pos_embed_rescale (
float, 可选, 默认为 2.0) — 随机重缩放位置嵌入坐标的量（以对数均匀值在 [1/rescale, rescale] 范围内），如果不为None，则仅在训练模式下应用。 - apply_layernorm (
bool, optional, 默认为True) — 当作为骨干网络 (backbone) 使用时，是否对特征图应用层归一化 (layer normalization)。 - reshape_hidden_states (
bool, optional, 默认为True) — 当作为骨干网络 (backbone) 使用时，是否将隐藏状态重塑为空间维度。
这是用于存储 DINOv3ViTModel 配置的配置类。它用于根据指定的参数实例化一个 Dinov3 Vit 模型，从而定义模型架构。使用默认值实例化配置将生成与 facebook/dinov3-vits16-pretrain-lvd1689m 类似的配置。
配置对象继承自 PreTrainedConfig，可用于控制模型输出。阅读 PreTrainedConfig 的文档以获取更多信息。
示例
>>> from transformers import DINOv3ViTConfig, DINOv3ViTModel
>>> # Initializing a DINOv3 ViT-small style configuration
>>> config = DINOv3ViTConfig()
>>> # Initializing a model (with random weights) from the config
>>> model = DINOv3ViTModel(config)
>>> # Accessing the model config
>>> config = model.configDINOv3ConvNextConfig
class transformers.DINOv3ConvNextConfig
< 源代码 >( transformers_version: str | None = None architectures: list[str] | None = None output_hidden_states: bool | None = False return_dict: bool | None = True dtype: typing.Union[str, ForwardRef('torch.dtype'), NoneType] = None chunk_size_feed_forward: int = 0 is_encoder_decoder: bool = False id2label: dict[int, str] | dict[str, str] | None = None label2id: dict[str, int] | dict[str, str] | None = None problem_type: typing.Optional[typing.Literal['regression', 'single_label_classification', 'multi_label_classification']] = None num_channels: int = 3 hidden_sizes: list[int] | None = None depths: list[int] | None = None hidden_act: str = 'gelu' initializer_range: float = 0.02 layer_norm_eps: float = 1e-06 layer_scale_init_value: float = 1e-06 drop_path_rate: float | int = 0.0 image_size: int | list[int] | tuple[int, int] = 224 _out_features: list[str] | None = None _out_indices: list[int] | None = None )
参数
- num_channels (
int, optional, 默认为3) — 输入通道数。 - hidden_sizes (
list[int], optional) — 模型每一阶段的维度（隐藏层大小）。 - depths (
list[int], optional) — Transformer 中每一层的深度。 - hidden_act (
str, optional, 默认为gelu) — 解码器中的非线性激活函数（函数或字符串）。例如："gelu","relu","silu"等。 - initializer_range (
float, optional, 默认为0.02) — 用于初始化所有权重矩阵的 truncated_normal_initializer 的标准差。 - layer_norm_eps (
float, optional, 默认为1e-06) — 层归一化层使用的 epsilon 值。 - layer_scale_init_value (
float, optional, 默认为1e-06) — 自注意力层中使用的缩放比例。Base 模型为 0.1，Large 模型为 1e-6。设为 0 可禁用层缩放。 - drop_path_rate (
Union[float, int], optional, 默认为0.0) — 用于 Patch 融合 (patch fusion) 的路径丢弃率 (drop path rate)。 - image_size (
Union[int, list[int], tuple[int, int]], optional, 默认为224) — 每张图像的大小（分辨率）。
这是用于存储 DINOv3ConvNextModel 配置的配置类。它用于根据指定的参数实例化一个 Dinov3 Convnext 模型，从而定义模型架构。使用默认值实例化配置将生成与 facebook/dinov3-convnext-tiny-pretrain-lvd1689m 类似的配置。
配置对象继承自 PreTrainedConfig，可用于控制模型输出。阅读 PreTrainedConfig 的文档以获取更多信息。
示例
>>> from transformers import DINOv3ConvNextConfig, DINOv3ConvNextModel
>>> # Initializing a DINOv3ConvNext (tiny variant) style configuration
>>> config = DINOv3ConvNextConfig()
>>> # Initializing a model (with random weights)
>>> model = DINOv3ConvNextModel(config)
>>> # Accessing the model config
>>> config = model.configDINOv3ViTModel
class transformers.DINOv3ViTModel
< 源代码 >( config: DINOv3ViTConfig )
参数
- config (DINOv3ViTConfig) — 模型配置类，包含模型的所有参数。使用配置文件初始化不会加载模型相关的权重，仅加载配置。查看 from_pretrained() 方法以加载模型权重。
Dinov3 Vit 基础模型，输出原始隐藏状态，顶部没有任何特定的分类头。
该模型继承自 PreTrainedModel。请查看超类文档以了解该库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是一个 PyTorch torch.nn.Module 子类。像普通的 PyTorch Module 一样使用它，并参考 PyTorch 文档了解一般用法和行为的所有相关信息。
forward
< 源代码 >( pixel_values: Tensor bool_masked_pos: torch.Tensor | None = None **kwargs: typing_extensions.Unpack[transformers.utils.generic.TransformersKwargs] ) → BaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)的torch.Tensor) — 对应于输入图像的张量。像素值可以使用 DINOv3ViTImageProcessor 获取。详情请参见DINOv3ViTImageProcessor.__call__()（processor_class使用 DINOv3ViTImageProcessor 来处理图像）。 - bool_masked_pos (形状为
(batch_size, sequence_length)的torch.BoolTensor) — 布尔遮蔽位置。指示哪些 patch 被遮蔽 (1)，哪些没有被遮蔽 (0)。仅在预训练时相关。
返回
BaseModelOutputWithPooling or tuple(torch.FloatTensor)
BaseModelOutputWithPooling 或一个 torch.FloatTensor 元组（如果传入了 return_dict=False 或当 config.return_dict=False 时），根据配置（DINOv3ViTConfig）和输入包含各种元素。
DINOv3ViTModel 的 forward 方法，重写了 __call__ 特殊方法。
虽然 forward pass 的实现需要在此函数中定义，但你应该在之后调用
Module实例而不是这个，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
last_hidden_state (
torch.FloatTensor, 形状为(batch_size, sequence_length, hidden_size)) — 模型最后一层输出的隐藏状态序列。pooler_output (
torch.FloatTensor，形状为(batch_size, hidden_size)) — 序列第一个 token（分类 token）在进一步通过用于辅助预训练任务的层后的最后一个隐藏状态。例如，对于 BERT 系列模型，这会返回经过线性层和 tanh 激活函数处理后的分类 token。线性层的权重是通过预训练期间的下一句预测（分类）目标来训练的。hidden_states (
tuple(torch.FloatTensor), optional, 当传递output_hidden_states=True或当config.output_hidden_states=True时返回) —torch.FloatTensor的元组（一个用于嵌入层的输出，如果模型有嵌入层；+一个用于每个层的输出），形状为(batch_size, sequence_length, hidden_size)。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
attentions (
tuple(torch.FloatTensor), optional, 当传递output_attentions=True或当config.output_attentions=True时返回) —torch.FloatTensor的元组（每个层一个），形状为(batch_size, num_heads, sequence_length, sequence_length)。注意力 softmax 后的注意力权重，用于计算自注意力头中的加权平均值。
DINOv3ViTBackbone
class transformers.DINOv3ViTBackbone
< 源代码 >( config model_args: ~utils.generic.ModelArgs | None = None adapter_args: ~utils.generic.AdapterArgs | None = None lora_args: ~utils.generic.LoRAArgs | None = None tokenizer_args: ~utils.generic.TokenizerArgs | None = None dataset_args: ~utils.generic.DatasetArgs | None = None data_args: ~utils.generic.DataArgs | None = None training_args: ~utils.generic.TrainingArgs | None = None generation_args: ~utils.generic.GenerationArgs | None = None vision_tower_args: ~utils.generic.VisionTowerArgs | None = None qlora_args: ~utils.generic.QLoRAArgs | None = None vision_tower_template_args: ~utils.generic.VisionTowerTemplateArgs | None = None video_tower_args: ~utils.generic.VideoTowerArgs | None = None vision_config: ~utils.generic.VisionConfig | None = None video_config: ~utils.generic.VideoConfig | None = None load_dataset: bool | None = None load_data_collator: bool | None = None load_processor: bool | None = None load_lora_adapter: bool | None = None load_adapter: bool | None = None load_qlora_adapter: bool | None = None **kwargs: typing_extensions.Unpack[transformers.modeling_utils.PreTrainedModelKwargs] )
参数
- config (DINOv3ViTBackbone) — 模型配置类，包含模型的所有参数。使用配置文件初始化不会加载模型相关的权重，仅加载配置。查看 from_pretrained() 方法以加载模型权重。
Dinov3 Vit 骨干网络。
该模型继承自 PreTrainedModel。请查看超类文档以了解该库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是一个 PyTorch torch.nn.Module 子类。像普通的 PyTorch Module 一样使用它，并参考 PyTorch 文档了解一般用法和行为的所有相关信息。
forward
< 源代码 >( pixel_values: Tensor **kwargs: typing_extensions.Unpack[transformers.utils.generic.TransformersKwargs] ) → DINOv3ViTBackboneOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)的torch.Tensor) — 对应于输入图像的张量。像素值可以使用 DINOv3ViTImageProcessor 获取。详情请参见DINOv3ViTImageProcessor.__call__()（processor_class使用 DINOv3ViTImageProcessor 来处理图像）。
返回
DINOv3ViTBackboneOutput 或 tuple(torch.FloatTensor)
一个 DINOv3ViTBackboneOutput 或一个 torch.FloatTensor 元组（如果传入了 return_dict=False 或当 config.return_dict=False 时），根据配置（DINOv3ViTConfig）和输入包含各种元素。
DINOv3ViTBackbone 的 forward 方法，重写了 __call__ 特殊方法。
虽然 forward pass 的实现需要在此函数中定义，但你应该在之后调用
Module实例而不是这个，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
feature_maps (
tuple(torch.FloatTensor)of shape(batch_size, num_channels, height, width)) — 阶段的特征图。hidden_states (
tuple(torch.FloatTensor), optional, returned whenoutput_hidden_states=Trueis passed or whenconfig.output_hidden_states=True) —torch.FloatTensor元组（一个用于嵌入输出 + 每个层输出一个）的形状为(batch_size, sequence_length, hidden_size)或(batch_size, num_channels, height, width)，具体取决于主干网络。模型在每个阶段输出的隐藏状态以及初始嵌入输出。
attentions (
tuple(torch.FloatTensor), optional, returned whenoutput_attentions=Trueis passed or whenconfig.output_attentions=True) —torch.FloatTensor元组（每个层一个）的形状为(batch_size, num_heads, sequence_length, sequence_length)。仅当主干网络使用注意力时适用。注意力 softmax 后的注意力权重，用于计算自注意力头中的加权平均值。
cls_tokens (
tuple(torch.FloatTensor), optional) — 来自每个选定特征阶段的 CLS token，每个形状为(batch_size, hidden_size)。仅在config.return_class_token=True时存在。
DINOv3ConvNextModel
class transformers.DINOv3ConvNextModel
< 源代码 >( config: DINOv3ConvNextConfig )
参数
- config (DINOv3ConvNextConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化模型不会加载相关的权重，只会加载配置。请查看 from_pretrained() 方法以加载模型权重。
原始的 Dinov3 Convnext 模型，输出原始隐藏状态，顶部没有任何特定的预测头。
该模型继承自 PreTrainedModel。请查看超类文档以了解该库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是一个 PyTorch torch.nn.Module 子类。像普通的 PyTorch Module 一样使用它，并参考 PyTorch 文档了解一般用法和行为的所有相关信息。
forward
< 源码 >( pixel_values: FloatTensor **kwargs ) → BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)的torch.FloatTensor) — 输入图像对应的张量。像素值可以使用image_processor_class获取。有关详细信息，请参阅image_processor_class.__call__（processor_class使用image_processor_class来处理图像）。
返回
BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)
一个 BaseModelOutputWithPoolingAndNoAttention 或一个 torch.FloatTensor 元组（如果传入了 return_dict=False 或 config.return_dict=False 时），根据配置（DINOv3ConvNextConfig）和输入，包含各种不同的元素。
DINOv3ConvNextModel 的 forward 方法，重写了 __call__ 特殊方法。
虽然 forward pass 的实现需要在此函数中定义，但你应该在之后调用
Module实例而不是这个，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
last_hidden_state (
torch.FloatTensor, 形状为(batch_size, num_channels, height, width)) — 模型最后一层输出的隐藏状态序列。pooler_output (
torch.FloatTensor, 形状为(batch_size, hidden_size)) — 经过空间维度池化操作后的最后一层隐藏状态。hidden_states (
tuple(torch.FloatTensor), optional, 当传入output_hidden_states=True或config.output_hidden_states=True时返回) —torch.FloatTensor的元组（如果模型有嵌入层，则包含一个嵌入层输出，加上每层的一个输出），形状为(batch_size, num_channels, height, width)。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
DINOv3ViTImageProcessor
class transformers.DINOv3ViTImageProcessor
< 源码 >( **kwargs: typing_extensions.Unpack[transformers.processing_utils.ImagesKwargs] )
参数
- ***kwargs** (ImagesKwargs, 可选) — 额外的图像预处理选项。特定于模型的 kwargs 列在上方；有关支持参数的完整列表，请参阅 TypedDict 类。
构造一个 DINOv3ViTImageProcessor 图像处理器。
preprocess
< 源码 >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] *args **kwargs: typing_extensions.Unpack[transformers.processing_utils.ImagesKwargs] ) → ~image_processing_base.BatchFeature
参数
- images (
Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list[PIL.Image.Image], list[numpy.ndarray], list[torch.Tensor]]) — 要预处理的图像。期望输入单个图像或一批像素值在 0 到 255 之间的图像。如果传入像素值在 0 到 1 之间的图像，请设置do_rescale=False。 - return_tensors (
str或 TensorType, 可选) — 如果设置为'pt'，则返回堆叠后的张量，否则返回张量列表。 - ***kwargs** (ImagesKwargs, 可选) — 额外的图像预处理选项。特定于模型的 kwargs 列在上方；有关支持参数的完整列表，请参阅 TypedDict 类。
返回
~image_processing_base.BatchFeature
- data (
dict) — 由 call 方法返回的列表/数组/张量字典（“pixel_values”等）。 - tensor_type (
Union[None, str, TensorType], optional) — 您可以在此处提供 tensor_type 以在初始化时将整数列表转换为 PyTorch/Numpy 张量。
DINOv3ConvNextBackbone
class transformers.DINOv3ConvNextBackbone
< 源码 >( config: DINOv3ConvNextConfig )
参数
- config (DINOv3ConvNextConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化模型不会加载相关的权重，只会加载配置。请查看 from_pretrained() 方法以加载模型权重。
Dinov3 Convnext 骨干网络。
该模型继承自 PreTrainedModel。请查看超类文档以了解该库为所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、剪枝头部等）。
此模型也是一个 PyTorch torch.nn.Module 子类。像普通的 PyTorch Module 一样使用它，并参考 PyTorch 文档了解一般用法和行为的所有相关信息。
forward
< 源码 >( pixel_values: FloatTensor **kwargs ) → BackboneOutput 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)的torch.FloatTensor) — 输入图像对应的张量。像素值可以使用image_processor_class获取。有关详细信息，请参阅image_processor_class.__call__（processor_class使用image_processor_class来处理图像）。
返回
BackboneOutput 或 tuple(torch.FloatTensor)
一个 BackboneOutput 或一个 torch.FloatTensor 元组（如果传入了 return_dict=False 或 config.return_dict=False 时），根据配置（DINOv3ConvNextConfig）和输入，包含各种不同的元素。
DINOv3ConvNextBackbone 的 forward 方法，重写了 __call__ 特殊方法。
虽然 forward pass 的实现需要在此函数中定义，但你应该在之后调用
Module实例而不是这个，因为前者负责运行预处理和后处理步骤，而后者会静默地忽略它们。
feature_maps (
tuple(torch.FloatTensor)of shape(batch_size, num_channels, height, width)) — 阶段的特征图。hidden_states (
tuple(torch.FloatTensor), optional, returned whenoutput_hidden_states=Trueis passed or whenconfig.output_hidden_states=True) —torch.FloatTensor元组（一个用于嵌入输出 + 每个层输出一个）的形状为(batch_size, sequence_length, hidden_size)或(batch_size, num_channels, height, width)，具体取决于主干网络。模型在每个阶段输出的隐藏状态以及初始嵌入输出。
attentions (
tuple(torch.FloatTensor), optional, returned whenoutput_attentions=Trueis passed or whenconfig.output_attentions=True) —torch.FloatTensor元组（每个层一个）的形状为(batch_size, num_heads, sequence_length, sequence_length)。仅当主干网络使用注意力时适用。注意力 softmax 后的注意力权重，用于计算自注意力头中的加权平均值。