Hugging Face的标志

Transformers文档

MobileViTV2

Hugging Face's logo
加入Hugging Face社区

并获取增强文档体验

开始使用

MobileViTV2

概述

MobileViTV2 模型由 Sachin Mehta 和 Mohammad Rastegari 在《可分离自注意力在移动视觉 Transformer 中》一文中提出，详细内容可参考这篇论文。

MobileViTV2 是 MobileViT 的第二个版本，其通过将 MobileViT 中的多头自注意力替换为可分离自注意力来构建。

以下是该论文的摘要

移动视觉 Transformer（MobileViT）在多个移动视觉任务中实现了最先进的性能，包括分类和检测。虽然这些模型的参数较少，但与基于卷积神经网络的模型相比，它们具有较高的延迟。MobileViT 的主要效率瓶颈在于 transformer 中的多头自注意力（MHA），它需要与标记数（或补丁）k 相关联的 O(k2) 时间复杂度。此外，MHA 需要成本较高的操作（例如批量矩阵乘法）来计算自注意力，这影响了对资源受限设备上的延迟。本文提出了一种具有线性复杂度（即 O(k)）的可分离自注意力方法。该方法的一个简单而有效的特征是它使用逐元素操作来计算自注意力，使其成为资源受限设备的理想选择。改进后的模型 MobileViTV2 在多个移动视觉任务上处于最前沿，包括 ImageNet 物体分类和 MS-COCO 物体检测。MobileViTV2 包含大约三百万个参数，在 ImageNet 数据集上实现了 75.6% 的 top-1 准确率，比 MobileViT 高出约 1%，同时在移动设备上运行速度快 3.2 倍。

该模型由shehan97贡献。原始代码可以在此处找到。

使用说明

  • MobileViTV2 与 CNN 模型的相似度高于 Transformer 模型。它不处理序列数据，而是处理图像批次。与 ViT 不同，它没有嵌入。主干网络输出一个特征图。
  • 可以使用 MobileViTImageProcessor 准备用于模型的图像。注意，如果您自己进行预处理，预训练的检查点期望图像以 BGR 像素顺序（而不是 RGB）。
  • 可用的图像分类检查点在 ImageNet-1k 上进行预训练（也称为 ILSVRC 2012，包含 130 万张图像和 1,000 个类别）。
  • 分割模型使用 DeepLabV3 头。可用的语义分割检查点在 PASCAL VOC 上进行预训练。

MobileViTV2Config

类 transformers.MobileViTV2Config

< >

（ num_channels = 3 image_size = 256 patch_size = 2 expand_ratio = 2.0 hidden_act = 'swish' conv_kernel_size = 3 output_stride = 32 classifier_dropout_prob = 0.1 initializer_range = 0.02 layer_norm_eps = 1e-05 aspp_out_channels = 512 atrous_rates = [6, 12, 18] aspp_dropout_prob = 0.1 semantic_loss_ignore_index = 255 n_attn_blocks = [2, 4, 3] base_attn_unit_dims = [128, 192, 256] width_multiplier = 1.0 ffn_multiplier = 2 attn_dropout = 0.0 ffn_dropout = 0.0 **kwargs ）

参数

  • num_channels （int，可选，默认为3） — 输入通道的数量。
  • image_size (int, 可选，默认值为 256) — 每个图像的大小（分辨率）。
  • patch_size (int, 可选，默认值为 2) — 每个补丁的大小（分辨率）。
  • expand_ratio (float, 可选，默认值为 2.0) — MobileNetv2 层的扩展因子。
  • hidden_act (str 或 function，可选，默认为 "swish"）— Transformer 编码器和卷积层中使用的非线性激活函数（函数或字符串）。
  • conv_kernel_size (int，可选，默认为 3）— MobileViTV2 层中卷积核的大小。
  • output_stride (int，可选，默认为 32）— 输出图像与输入图像的分辨率比。
  • classifier_dropout_prob (float, 可选, 默认为 0.1) — 用于附加分类器的 dropout 比率。
  • initializer_range (float, 可选, 默认为 0.02) — 初始化所有权重矩阵的 truncated_normal initializer 的标准差。
  • layer_norm_eps (float, 可选, 默认为 1e-05) — 层归一化层使用的 epsilon。
  • aspp_out_channels (int, 可选, 默认为 512) — 在语义分割中用于 ASPP 层的输出通道数量。
  • atrous_rates (List[int], 可选，默认为 [6, 12, 18]) — 用于语义分割ASPP层的膨胀（atrous）因子。
  • aspp_dropout_prob (float, 可选，默认为 0.1) — 语义分割ASPP层的dropout比例。
  • semantic_loss_ignore_index (int, 可选，默认为 255) — 语义分割模型损失函数中忽略的索引。
  • n_attn_blocks (List[int], 可选，默认为 [2, 4, 3]) — 每个MobileViTV2Layer中的注意块的数量。
  • base_attn_unit_dims (列表[int], 可选，默认值为 [128, 192, 256]) — 每个MobileViTV2Layer中注意力块维度的基数乘子。
  • width_multiplier (float, 可选，默认值为 1.0) — MobileViTV2的宽度乘子。
  • ffn_multiplier (int, 可选，默认值为 2) — MobileViTV2的FFN乘子。
  • attn_dropout (float, 可选, 默认为 0.0) — 注意力层的 dropout。
  • ffn_dropout (float, 可选, 默认为 0.0) — FFN 层间的 dropout。

这是存储 MobileViTV2Model 配置的配置类。它用于根据指定的参数实例化 MobileViTV2 模型，定义模型架构。使用默认值实例化配置将得出与 MobileViTV2 apple/mobilevitv2-1.0 架构相似配置。

配置对象继承自 PretrainedConfig 并可用于控制模型输出。有关更多信息，请参阅 PretrainedConfig 文档。

示例

>>> from transformers import MobileViTV2Config, MobileViTV2Model

>>> # Initializing a mobilevitv2-small style configuration
>>> configuration = MobileViTV2Config()

>>> # Initializing a model from the mobilevitv2-small style configuration
>>> model = MobileViTV2Model(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

MobileViTV2Model

class transformers.MobileViTV2Model

参数

裸MobileViTV2模型，输出原始隐藏状态而没有任何特定的头部。这是一个PyTorch torch.nn.Module子类。将其作为一个常规的PyTorch模块使用，并查阅PyTorch文档以获取有关一般使用和行为的所有问题。

forward方法

< >

( pixel_values: 可选 = None output_hidden_states: 可选 = None return_dict: 可选 = None ) → transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor of shape (batch_size, num_channels, height, width)) — 像素值。可以使用 AutoImageProcessor 获取像素值。有关详细信息，请参见 MobileViTImageProcessor.call()。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。关于返回张量中的 hidden_states 的更多详细信息，请参阅。
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是普通的元组。

返回值

transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或 tuple(torch.FloatTensor)

若 return_dict=False 被传递或当 config.return_dict=False 时，返回一个包含各种元素的 transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention 或一个 torch.FloatTensor 的元组（每个元素对应模型配置（MobileViTV2Config）和输入。

  • last_hidden_state (torch.FloatTensor 形状为 (batch_size, num_channels, height, width)) — 模型最后一层输出的隐藏状态序列。

  • pooler_output (torch.FloatTensor 形状为 (batch_size, hidden_size)) — 对空间维度进行池化操作后的最后一层隐藏状态。

  • hidden_states (tuple(torch.FloatTensor), optional，在传递了 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — 一个包含 torch.FloatTensor 的元组（一个用于嵌入层的输出，如果有的话，加上每个层的输出）形状为 (batch_size, num_channels, height, width)。

    模型的每个层的输出隐藏状态以及可选的初始嵌入输出。

MobileViTV2Model 的前向方法覆盖了特设方法 __call__。

虽然前向传通过的良方需要在函数内部定义，但是在之后应该调用 Module 实例而不是这个调用，因为前者负责运行预处理和后处理步骤，而后者默默地忽略了它们。

示例

>>> from transformers import AutoImageProcessor, MobileViTV2Model
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image", trust_remote_code=True)
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")
>>> model = MobileViTV2Model.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     outputs = model(**inputs)

>>> last_hidden_states = outputs.last_hidden_state
>>> list(last_hidden_states.shape)
[1, 512, 8, 8]

MobileViTV2ForImageClassification

class transformers.MobileViTV2ForImageClassification

< >

( config: MobileViTV2Config )

参数

  • config (MobileViTV2Config) — 包含模型所有参数的配置类。使用配置文件初始化不加载模型相关的权重，只有配置。查看 from_pretrained() 方法以加载模型权重。

MobileViTV2模型在顶部添加了图像分类头（池化特征之上的线性层），例如用于ImageNet。

这是一个PyTorch torch.nn.Module子类。将其用作常规PyTorch模块，并参阅PyTorch文档以了解所有与一般用途和行为相关的内容。

forward方法

< >

( pixel_values: 可选 = None output_hidden_states: 可选 = None labels: 可选 = None return_dict: 可选 = None ) → transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或 tuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor 形状 (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获取。详细信息请见 MobileViTImageProcessor.call()。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。详细信息请见返回张量中的 hidden_states。
  • return_dict (bool, optional) — 是否返回ModelOutput而不是普通的元组。
  • labels (torch.LongTensor of shape (batch_size,), optional) — 图像分类/回归损失的标签。索引应在[0, ..., config.num_labels - 1]之间。如果config.num_labels == 1，则计算回归损失（均方损失）。如果config.num_labels > 1，则计算分类损失（交叉熵）。

返回值

transformers.modeling_outputs.ImageClassifierOutputWithNoAttention或tuple(torch.FloatTensor)

当传递return_dict=False或当config.return_dict=False时，返回transformers.modeling_outputs.ImageClassifierOutputWithNoAttention或包含各种元素的元组torch.FloatTensor（取决于配置MobileViTV2Config)和输入。

  • loss (torch.FloatTensor of shape (1,), optional, returned when labels is provided) — 当提供标签时，分类（或当config.num_labels==1时的回归）损失。
  • logits (torch.FloatTensor of shape (batch_size, config.num_labels)) — 分类（或当config.num_labels==1时的回归）分数（在SoftMax之前）。
  • hidden_states (tuple(torch.FloatTensor), optional, returned when output_hidden_states=True is passed or when config.output_hidden_states=True) — 一个包含形状为(batch_size, num_channels, height, width)的torch.FloatTensor的元组（如果有嵌入层，则包括嵌入层的输出和每个阶段的输出）。每个阶段的模型输出被称为隐藏状态（也称为特征图）。

MobileViTV2ForImageClassification的前向方法覆盖了特殊的__call__方法。

虽然前向传通过的良方需要在函数内部定义，但是在之后应该调用 Module 实例而不是这个调用，因为前者负责运行预处理和后处理步骤，而后者默默地忽略了它们。

示例

>>> from transformers import AutoImageProcessor, MobileViTV2ForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image", trust_remote_code=True)
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")
>>> model = MobileViTV2ForImageClassification.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
tabby, tabby cat

( config: MobileViTV2Config )

参数

在顶部带有语义分割头的MobileViTV2模型，例如用于Pascal VOC。

这是一个PyTorch torch.nn.Module子类。将其用作常规PyTorch模块，并参阅PyTorch文档以了解所有与一般用途和行为相关的内容。

forward方法

< >

( pixel_values: Optional = None labels: Optional = None output_hidden_states: Optional = None return_dict: Optional = None ) → transformers.modeling_outputs.SemanticSegmenterOutput or tuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor of shape (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获取。有关详细信息，请参阅 MobileViTImageProcessor.call()。
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。更多详细内容请参阅返回的 tensors 中的 hidden_states。
  • return_dict (bool, 可选) — 是否返回一个ModelOutput而不是普通的元组。
  • labels (torch.LongTensor 形状为 (batch_size, height, width), 可选) — 用于计算损失的地面真实语义分割图。索引应在 [0, ..., config.num_labels - 1] 范围内。如果 config.num_labels > 1，则计算分类损失（交叉熵）。

返回值

transformers.modeling_outputs.SemanticSegmenterOutput 或 tuple(torch.FloatTensor)

A transformers.modeling_outputs.SemanticSegmenterOutput 或一个由代码 ModelOutput 组成的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），其元素取决于配置（MobileViTV2Config）和输入。

  • loss (torch.FloatTensor of shape (1,), optional, returned when labels is provided) — 当提供标签时，分类（或当config.num_labels==1时的回归）损失。

  • logits（《PyTorch中的torch.FloatTensor类型》，形状为(batch_size, config.num_labels, logits_height, logits_width)）——每像素的分类分数。

    返回的logits并不一定和传入的输入pixel_values的大小相同。这是为了避免进行两次插值，以免在用户需要将logits调整至原始图像大小作为后处理时损失一些质量。您应该始终检查logits的形状并根据需要进行调整。

  • hidden_states（《torch.FloatTensor的元组》可选，在传递output_hidden_states=True或者当config.output_hidden_states=True时返回）——包含torch.FloatTensor的元组（如果有嵌入层则包含嵌入层的输出，每个层一个）的形状为(batch_size, patch_size, hidden_size)。

    模型的每个层的输出隐藏状态以及可选的初始嵌入输出。

  • attentions（《torch.FloatTensor的元组》可选，在传递output_attentions=True或者当config.output_attentions=True时返回）——包含torch.FloatTensor的元组（每个层一个），形状为(batch_size, num_heads, patch_size, sequence_length)。

    注意力softmax之后的关注权重，用于计算自注意力头中的加权平均。

MobileViTV2ForSemanticSegmentation的 forwarding 方法覆盖了__call__特殊方法。

虽然前向传通过的良方需要在函数内部定义，但是在之后应该调用 Module 实例而不是这个调用，因为前者负责运行预处理和后处理步骤，而后者默默地忽略了它们。

示例

>>> import requests
>>> import torch
>>> from PIL import Image
>>> from transformers import AutoImageProcessor, MobileViTV2ForSemanticSegmentation

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> image_processor = AutoImageProcessor.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")
>>> model = MobileViTV2ForSemanticSegmentation.from_pretrained("apple/mobilevitv2-1.0-imagenet1k-256")

>>> inputs = image_processor(images=image, return_tensors="pt")

>>> with torch.no_grad():
...     outputs = model(**inputs)

>>> # logits are of shape (batch_size, num_labels, height, width)
>>> logits = outputs.logits
< > 在GitHub上更新

←MobileViT NAT→