Hugging Face 的 LOGO

Transformers 文档

MobileViTV2

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

MobileViTV2

PyTorch

概述

MobileViTV2 模型由 Sachin Mehta 和 Mohammad Rastegari 在论文 Separable Self-attention for Mobile Vision Transformers 中提出。

MobileViTV2 是 MobileViT 的第二个版本，通过将 MobileViT 中的多头自注意力替换为可分离自注意力构建而成。

论文摘要如下：

移动视觉 Transformer（MobileViT）可以在包括分类和检测在内的多个移动视觉任务上达到最先进的性能。尽管这些模型参数较少，但与基于卷积神经网络的模型相比，它们的延迟较高。MobileViT 的主要效率瓶颈在于 Transformer 中的多头自注意力（MHA），其时间复杂度相对于 token（或 patch）数量 k 为 O(k²)。此外，MHA 需要昂贵的运算（例如，批处理矩阵乘法）来计算自注意力，这影响了在资源受限设备上的延迟。本文介绍了一种具有线性复杂度的可分离自注意力方法，即 O(k)。该方法的一个简单而有效的特点是它使用逐元素操作来计算自注意力，使其成为资源受限设备的理想选择。改进后的模型 MobileViTV2，在包括 ImageNet 对象分类和 MS-COCO 对象检测在内的多个移动视觉任务上达到了最先进水平。MobileViTV2 拥有约三百万个参数，在 ImageNet 数据集上实现了 75.6% 的 top-1 准确率，性能超过 MobileViT 约 1%，同时在移动设备上的运行速度快 3.2 倍。

该模型由 shehan97 贡献。原始代码可以在这里找到。

使用技巧

  • MobileViTV2 更像一个 CNN 而不是 Transformer 模型。它不处理序列数据，而是处理批量的图像。与 ViT 不同，它没有嵌入层。主干模型输出一个特征图。
  • 可以使用 MobileViTImageProcessor 为模型准备图像。请注意，如果您自己进行预处理，预训练的检查点期望图像的像素顺序为 BGR（而不是 RGB）。
  • 可用的图像分类检查点是在 ImageNet-1k（也称为 ILSVRC 2012，一个包含 130 万张图像和 1000 个类别的数据集）上预训练的。
  • 分割模型使用 DeepLabV3 头。可用的语义分割检查点是在 PASCAL VOC 上预训练的。

MobileViTV2Config

class transformers.MobileViTV2Config

< >

( num_channels = 3 image_size = 256 patch_size = 2 expand_ratio = 2.0 hidden_act = 'swish' conv_kernel_size = 3 output_stride = 32 classifier_dropout_prob = 0.1 initializer_range = 0.02 layer_norm_eps = 1e-05 aspp_out_channels = 512 atrous_rates = [6, 12, 18] aspp_dropout_prob = 0.1 semantic_loss_ignore_index = 255 n_attn_blocks = [2, 4, 3] base_attn_unit_dims = [128, 192, 256] width_multiplier = 1.0 ffn_multiplier = 2 attn_dropout = 0.0 ffn_dropout = 0.0 **kwargs )

参数

  • num_channels (int, 可选, 默认为 3) — 输入通道的数量。
  • image_size (int, 可选, 默认为 256) — 每张图像的大小（分辨率）。
  • patch_size (int, 可选, 默认为 2) — 每个 patch 的大小（分辨率）。
  • expand_ratio (float, 可选, 默认为 2.0) — MobileNetv2 层的扩展因子。
  • hidden_act (str 或 function, 可选, 默认为 "swish") — Transformer 编码器和卷积层中的非线性激活函数（函数或字符串）。
  • conv_kernel_size (int, 可选, 默认为 3) — MobileViTV2 层中卷积核的大小。
  • output_stride (int, 可选, 默认为 32) — 输出的空间分辨率与输入图像分辨率的比率。
  • classifier_dropout_prob (float, 可选, 默认为 0.1) — 附加分类器的 dropout 比率。
  • initializer_range (float, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的 truncated_normal_initializer 的标准差。
  • layer_norm_eps (float, 可选, 默认为 1e-05) — 层归一化层使用的 epsilon。
  • aspp_out_channels (int, 可选, 默认为 512) — 用于语义分割的 ASPP 层中的输出通道数。
  • atrous_rates (list[int], 可选, 默认为 [6, 12, 18]) — 用于语义分割的 ASPP 层中的扩张（atrous）因子。
  • aspp_dropout_prob (float, 可选, 默认为 0.1) — 用于语义分割的 ASPP 层的 dropout 比率。
  • semantic_loss_ignore_index (int, 可选, 默认为 255) — 语义分割模型的损失函数忽略的索引。
  • n_attn_blocks (list[int], 可选, 默认为 [2, 4, 3]) — 每个 MobileViTV2Layer 中的注意力块数量。
  • base_attn_unit_dims (list[int], 可选, 默认为 [128, 192, 256]) — 每个 MobileViTV2Layer 中注意力块维度的基础乘数。
  • width_multiplier (float, 可选, 默认为 1.0) — MobileViTV2 的宽度乘数。
  • ffn_multiplier (int, 可选, 默认为 2) — MobileViTV2 的 FFN 乘数。
  • attn_dropout (float, 可选, 默认为 0.0) — 注意力层中的 dropout。
  • ffn_dropout (float, 可选, 默认为 0.0) — FFN 层之间的 dropout。

这是用于存储 MobileViTV2Model 配置的配置类。它用于根据指定的参数实例化 MobileViTV2 模型，定义模型架构。使用默认值实例化配置将产生与 MobileViTV2 apple/mobilevitv2-1.0 架构类似的配置。

配置对象继承自 PretrainedConfig，可用于控制模型输出。有关更多信息，请阅读 PretrainedConfig 的文档。

示例

>>> from transformers import MobileViTV2Config, MobileViTV2Model

>>> # Initializing a mobilevitv2-small style configuration
>>> configuration = MobileViTV2Config()

>>> # Initializing a model from the mobilevitv2-small style configuration
>>> model = MobileViTV2Model(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

MobileViTV2Model

class transformers.MobileViTV2Model

< >

( config: MobileViTV2Config expand_output: bool = True )

参数

  • config (MobileViTV2Config) — 包含模型所有参数的模型配置类。使用配置文件进行初始化不会加载与模型相关的权重，只会加载配置。请查阅 from_pretrained() 方法来加载模型权重。
  • expand_output (bool, 可选, 默认为 True) — 是否扩展模型的输出。如果为 True，模型将输出池化特征以及隐藏状态。如果为 False，则只返回隐藏状态。

裸 Mobilevitv2 模型，输出原始隐藏状态，顶部没有任何特定的头。

该模型继承自 PreTrainedModel。请查看超类的文档以了解该库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头等）。

该模型也是 PyTorch torch.nn.Module 的子类。可以像常规 PyTorch 模块一样使用它，并参考 PyTorch 文档了解所有与常规用法和行为相关的事项。

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)

参数

  • pixel_values (torch.Tensor，形状为 (batch_size, num_channels, image_size, image_size)，可选) — 对应于输入图像的张量。像素值可以使用 {image_processor_class} 获取。有关详细信息，请参见 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 处理图像）。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参见返回的张量下的 hidden_states。
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通的元组。

返回

transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)

一个 transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或一个 torch.FloatTensor 的元组（如果传递 return_dict=False 或当 config.return_dict=False 时），包含各种元素，具体取决于配置（MobileViTV2Config）和输入。

  • last_hidden_state (torch.FloatTensor, 形状为 (batch_size, num_channels, height, width)) — 模型最后一层输出的隐藏状态序列。

  • pooler_output (torch.FloatTensor, 形状为 (batch_size, hidden_size)) — 经过空间维度池化操作后的最后一层隐藏状态。

  • hidden_states (tuple(torch.FloatTensor), 可选, 在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 每个层的输出各一个），形状为 (batch_size, num_channels, height, width)。

    模型在每个层输出的隐藏状态以及可选的初始嵌入输出。

MobileViTV2Model 的 forward 方法，重写了 __call__ 特殊方法。

尽管前向传播的流程需要在此函数内定义，但之后应调用 Module 实例而不是此函数，因为前者会处理前处理和后处理步骤，而后者会静默地忽略它们。

示例

MobileViTV2ForImageClassification

class transformers.MobileViTV2ForImageClassification

< >

( config: MobileViTV2Config )

参数

  • config (MobileViTV2Config) — 包含模型所有参数的模型配置类。使用配置文件进行初始化不会加载与模型相关的权重，只会加载配置。请查阅 from_pretrained() 方法来加载模型权重。

带有图像分类头的 MobileViTV2 模型（在池化特征之上加一个线性层），例如用于 ImageNet。

该模型继承自 PreTrainedModel。请查看超类的文档以了解该库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头等）。

该模型也是 PyTorch torch.nn.Module 的子类。可以像常规 PyTorch 模块一样使用它，并参考 PyTorch 文档了解所有与常规用法和行为相关的事项。

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = None output_hidden_states: typing.Optional[bool] = None labels: typing.Optional[torch.Tensor] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或 tuple(torch.FloatTensor)

参数

  • pixel_values (torch.Tensor，形状为 (batch_size, num_channels, image_size, image_size)，可选) — 对应于输入图像的张量。像素值可以使用 {image_processor_class} 获取。有关详细信息，请参见 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 处理图像）。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参见返回的张量下的 hidden_states。
  • labels (torch.LongTensor，形状为 (batch_size,)，可选) — 用于计算图像分类/回归损失的标签。索引应在 [0, ..., config.num_labels - 1] 范围内。如果 config.num_labels == 1，则计算回归损失（均方损失）。如果 config.num_labels > 1，则计算分类损失（交叉熵）。
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通的元组。

返回

transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或 tuple(torch.FloatTensor)

一个 transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或一个 torch.FloatTensor 的元组（如果传递 return_dict=False 或当 config.return_dict=False 时），包含各种元素，具体取决于配置（MobileViTV2Config）和输入。

  • loss (形状为 (1,) 的 torch.FloatTensor，可选，当提供 labels 时返回) — 分类损失（如果 config.num_labels==1，则为回归损失）。
  • logits (形状为 (batch_size, config.num_labels) 的 torch.FloatTensor) — 分类（如果 config.num_labels==1，则为回归）分数（SoftMax 之前）。
  • hidden_states (tuple(torch.FloatTensor), 可选, 在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 每个阶段的输出各一个），形状为 (batch_size, num_channels, height, width)。模型在每个阶段输出的隐藏状态（也称为特征图）。

MobileViTV2ForImageClassification 的 forward 方法，重写了 __call__ 特殊方法。

尽管前向传播的流程需要在此函数内定义，但之后应调用 Module 实例而不是此函数，因为前者会处理前处理和后处理步骤，而后者会静默地忽略它们。

示例

>>> from transformers import AutoImageProcessor, MobileViTV2ForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0")
>>> model = MobileViTV2ForImageClassification.from_pretrained("apple/mobilevitv2-1.0")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...

MobileViTV2ForSemanticSegmentation

class transformers.MobileViTV2ForSemanticSegmentation

< >

( config: MobileViTV2Config )

参数

  • config (MobileViTV2Config) — 包含模型所有参数的模型配置类。使用配置文件进行初始化不会加载与模型相关的权重，只会加载配置。请查看 from_pretrained() 方法来加载模型权重。

MobileViTV2 模型，其顶部带有一个语义分割头，例如用于 Pascal VOC 数据集。

该模型继承自 PreTrainedModel。请查看超类的文档以了解该库为其所有模型实现的通用方法（例如下载或保存、调整输入嵌入大小、修剪头等）。

该模型也是 PyTorch torch.nn.Module 的子类。可以像常规 PyTorch 模块一样使用它，并参考 PyTorch 文档了解所有与常规用法和行为相关的事项。

forward

< >

( pixel_values: typing.Optional[torch.Tensor] = None labels: typing.Optional[torch.Tensor] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.SemanticSegmenterOutput 或 tuple(torch.FloatTensor)

参数

  • pixel_values (torch.Tensor，形状为 (batch_size, num_channels, image_size, image_size), 可选) — 与输入图像对应的张量。像素值可以使用 {image_processor_class} 获取。更多详情请参阅 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 处理图像）。
  • labels (torch.LongTensor，形状为 (batch_size, height, width), 可选) — 用于计算损失的真实语义分割图。索引应在 [0, ..., config.num_labels - 1] 范围内。如果 config.num_labels > 1，则会计算分类损失（交叉熵）。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量下的 hidden_states。
  • return_dict (bool, 可选) — 是返回一个 ModelOutput 而不是一个普通的元组。

返回

transformers.modeling_outputs.SemanticSegmenterOutput 或 tuple(torch.FloatTensor)

一个 transformers.modeling_outputs.SemanticSegmenterOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），根据配置 (MobileViTV2Config) 和输入包含不同的元素。

  • loss (形状为 (1,) 的 torch.FloatTensor，可选，当提供 labels 时返回) — 分类损失（如果 config.num_labels==1，则为回归损失）。

  • logits (形状为 (batch_size, config.num_labels, logits_height, logits_width) 的 torch.FloatTensor) — 每个像素的分类分数。

    返回的 logits 不一定与作为输入传递的 pixel_values 具有相同的大小。这是为了避免当用户需要将 logits 调整到原始图像大小作为后处理时进行两次插值而损失一些质量。您应该始终检查 logits 的形状并根据需要调整大小。

  • hidden_states (tuple(torch.FloatTensor), 可选, 当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（如果模型有嵌入层，则第一个是嵌入层的输出，然后是每一层的输出），形状为 (batch_size, patch_size, hidden_size)。

    模型在每个层输出的隐藏状态以及可选的初始嵌入输出。

  • attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每层一个），形状为 (batch_size, num_heads, patch_size, sequence_length)。

    注意力 softmax 后的注意力权重，用于计算自注意力头中的加权平均值。

MobileViTV2ForSemanticSegmentation 的前向方法，覆盖了 __call__ 特殊方法。

尽管前向传播的流程需要在此函数内定义，但之后应调用 Module 实例而不是此函数，因为前者会处理前处理和后处理步骤，而后者会静默地忽略它们。

示例

>>> import requests
>>> import torch
>>> from PIL import Image
>>> from transformers import AutoImageProcessor, MobileViTV2ForSemanticSegmentation

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")
>>> model = MobileViTV2ForSemanticSegmentation.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")

>>> inputs = image_processor(images=image, return_tensors="pt")

>>> with torch.no_grad():
...     outputs = model(**inputs)

>>> # logits are of shape (batch_size, num_labels, height, width)
>>> logits = outputs.logits
< > 在 GitHub 上更新

←MobileViT NAT→