Transformers 文档
RegNet
并获得增强的文档体验
开始使用
RegNet
概述
RegNet 模型由 Ilija Radosavovic、Raj Prateek Kosaraju、Ross Girshick、Kaiming He、Piotr Dollár 在 Designing Network Design Spaces 一文中提出。
作者设计了搜索空间来执行神经网络架构搜索(NAS)。他们首先从高维搜索空间开始,然后根据当前搜索空间中采样到的最佳性能模型,通过经验性地应用约束来迭代地缩小搜索空间。
论文摘要如下:
在这项工作中,我们提出了一种新的网络设计范式。我们的目标是帮助增进对网络设计的理解,并发现可泛化到不同设置的设计原则。我们不再专注于设计单个网络实例,而是设计参数化网络群体的网络设计空间。整个过程类似于经典的手动网络设计,但提升到了设计空间层面。通过我们的方法,我们探索了网络设计的结构方面,并得到了一个由简单、规则网络组成的低维设计空间,我们称之为 RegNet。RegNet 参数化的核心思想出奇地简单:优秀网络的宽度和深度可以用分段线性函数来解释。我们分析了 RegNet 设计空间,并得出了与当前网络设计实践不符的有趣发现。RegNet 设计空间提供了简单、快速的网络,在各种浮点运算(flop)方案中都能很好地工作。在可比较的训练设置和浮点运算量下,RegNet 模型优于流行的 EfficientNet 模型,并且在 GPU 上速度可达 5 倍。
该模型由 Francesco 贡献。该模型的 TensorFlow 版本由 sayakpaul 和 ariG23498 贡献。原始代码可以在 这里 找到。
来自 Self-supervised Pretraining of Visual Features in the Wild 的大型 10B 模型,在十亿张 Instagram 图像上训练,可在 Hub 上获取。
资源
Hugging Face 官方资源和社区(由 🌎 指示)资源列表,帮助您开始使用 RegNet。
- RegNetForImageClassification 由此示例脚本和notebook支持。
- 另请参阅:图像分类任务指南
如果您有兴趣在此处提交资源,请随时开启 Pull Request,我们将对其进行审查!该资源最好能展示一些新内容,而不是重复现有资源。
RegNetConfig
class transformers.RegNetConfig
< 源 >( num_channels = 3 embedding_size = 32 hidden_sizes = [128, 192, 512, 1088] depths = [2, 6, 12, 2] groups_width = 64 layer_type = 'y' hidden_act = 'relu' **kwargs )
参数
- num_channels (
int
, 可选, 默认为 3) — 输入通道数。 - embedding_size (
int
, 可选, 默认为 64) — 嵌入层的维度(隐藏大小)。 - hidden_sizes (
list[int]
, 可选, 默认为[256, 512, 1024, 2048]
) — 每个阶段的维度(隐藏大小)。 - depths (
list[int]
, 可选, 默认为[3, 4, 6, 3]
) — 每个阶段的深度(层数)。 - layer_type (
str
, 可选, 默认为"y"
) — 要使用的层,可以是"x"
或"y"
。x
层是 ResNet 的 BottleNeck 层,其中reduction
固定为1
。而y
层是带有挤压和激励的x
层。请参阅论文以获取这些层如何构建的详细解释。 - hidden_act (
str
, 可选, 默认为"relu"
) — 每个块中的非线性激活函数。如果为字符串,则支持"gelu"
、"relu"
、"selu"
和"gelu_new"
。 - downsample_in_first_stage (
bool
, 可选, 默认为False
) — 如果为True
,第一阶段将使用步长 2 对输入进行下采样。
这是用于存储 RegNetModel 配置的配置类。它用于根据指定参数实例化 RegNet 模型,定义模型架构。使用默认值实例化配置将产生与 RegNet facebook/regnet-y-040 架构类似的配置。
配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请查阅 PretrainedConfig 的文档。
示例
>>> from transformers import RegNetConfig, RegNetModel
>>> # Initializing a RegNet regnet-y-40 style configuration
>>> configuration = RegNetConfig()
>>> # Initializing a model from the regnet-y-40 style configuration
>>> model = RegNetModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
RegNetModel
class transformers.RegNetModel
< 源 >( config )
参数
- config (RegNetModel) — 包含模型所有参数的模型配置类。使用配置文件初始化并不会加载与模型相关的权重,只会加载配置。请查阅 from_pretrained() 方法以加载模型权重。
裸 Regnet 模型,输出原始隐藏状态,顶部没有任何特定头部。
此模型继承自 PreTrainedModel。查阅超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、修剪头部等)。
此模型也是 PyTorch torch.nn.Module 子类。将其作为常规 PyTorch 模块使用,并参考 PyTorch 文档以了解与通用用法和行为相关的所有事项。
forward
< 源 >( pixel_values: Tensor output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention
或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)
的torch.Tensor
) — 对应于输入图像的张量。像素值可以使用{image_processor_class}
获取。详情请参阅{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
处理图像)。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention
或 tuple(torch.FloatTensor)
一个 transformers.modeling_outputs.BaseModelOutputWithPoolingAndNoAttention
或一个 torch.FloatTensor
元组(如果传递 return_dict=False
或 config.return_dict=False
),包含根据配置(RegNetConfig)和输入的不同元素。
-
last_hidden_state (
torch.FloatTensor
, 形状为(batch_size, num_channels, height, width)
) — 模型最后一层输出的隐藏状态序列。 -
pooler_output (
torch.FloatTensor
, 形状为(batch_size, hidden_size)
) — 经过空间维度池化操作后的最后一层隐藏状态。 -
hidden_states (
tuple(torch.FloatTensor)
, 可选, 当output_hidden_states=True
被传递或当config.output_hidden_states=True
时返回) —torch.FloatTensor
的元组(一个用于嵌入层输出,如果模型有嵌入层,+ 一个用于每个层输出),形状为(batch_size, num_channels, height, width)
。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
RegNetModel 的 forward 方法,重写了 `__call__` 特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
RegNetForImageClassification
class transformers.RegNetForImageClassification
< 源 >( config )
参数
- config (RegNetForImageClassification) — 包含模型所有参数的模型配置类。使用配置文件初始化并不会加载与模型相关的权重,只会加载配置。请查阅 from_pretrained() 方法以加载模型权重。
带有图像分类头(在池化特征顶部的一个线性层)的 RegNet 模型,例如用于 ImageNet。
此模型继承自 PreTrainedModel。查阅超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、修剪头部等)。
此模型也是 PyTorch torch.nn.Module 子类。将其作为常规 PyTorch 模块使用,并参考 PyTorch 文档以了解与通用用法和行为相关的所有事项。
forward
< 源 >( pixel_values: typing.Optional[torch.FloatTensor] = None labels: typing.Optional[torch.LongTensor] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或 tuple(torch.FloatTensor)
参数
- pixel_values (形状为
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
, 可选) — 对应于输入图像的张量。像素值可以使用{image_processor_class}
获取。详情请参阅{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
处理图像)。 - labels (形状为
(batch_size,)
的torch.LongTensor
, 可选) — 用于计算图像分类/回归损失的标签。索引应在[0, ..., config.num_labels - 1]
范围内。如果config.num_labels > 1
,则计算分类损失(交叉熵)。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或 tuple(torch.FloatTensor)
一个 transformers.modeling_outputs.ImageClassifierOutputWithNoAttention 或一个 torch.FloatTensor
元组(如果传递 return_dict=False
或 config.return_dict=False
),包含根据配置(RegNetConfig)和输入的不同元素。
- loss (形状为
(1,)
的torch.FloatTensor
,可选,当提供labels
时返回) — 分类损失(如果 config.num_labels==1,则为回归损失)。 - logits (形状为
(batch_size, config.num_labels)
的torch.FloatTensor
) — 分类(如果 config.num_labels==1,则为回归)分数(SoftMax 之前)。 - hidden_states (
tuple(torch.FloatTensor)
, 可选, 当output_hidden_states=True
被传递或当config.output_hidden_states=True
时返回) —torch.FloatTensor
的元组(一个用于嵌入层输出,如果模型有嵌入层,+ 一个用于每个阶段输出),形状为(batch_size, num_channels, height, width)
。模型的隐藏状态(也称为特征图)位于每个阶段的输出处。
RegNetForImageClassification 的 forward 方法,重写了 `__call__` 特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, RegNetForImageClassification
>>> import torch
>>> from datasets import load_dataset
>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]
>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = RegNetForImageClassification.from_pretrained("facebook/regnet-y-040")
>>> inputs = image_processor(image, return_tensors="pt")
>>> with torch.no_grad():
... logits = model(**inputs).logits
>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...
TFRegNetModel
class transformers.TFRegNetModel
< 源 >( config: RegNetConfig *inputs **kwargs )
参数
- config (RegNetConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化并不会加载与模型相关的权重,只会加载配置。请查阅 from_pretrained() 方法以加载模型权重。
裸 RegNet 模型,输出原始特征,顶部没有任何特定头部。此模型是 Tensorflow keras.layers.Layer 子类。将其作为常规 Tensorflow 模块使用,并参考 Tensorflow 文档以了解与通用用法和行为相关的所有事项。
调用
< 源 >( pixel_values: Tensor output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None training: bool = False ) → transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingAndNoAttention
或 tuple(tf.Tensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 像素值。像素值可以使用 AutoImageProcessor 获取。详情请参阅ConveNextImageProcessor.__call__
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingAndNoAttention
或 tuple(tf.Tensor)
一个 transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingAndNoAttention
或一个 tf.Tensor
元组(如果传递 return_dict=False
或 config.return_dict=False
),包含根据配置(RegNetConfig)和输入的不同元素。
-
last_hidden_state (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 模型最后一层输出的隐藏状态序列。 -
pooler_output (形状为
(batch_size, hidden_size)
的tf.Tensor
) — 在空间维度上进行池化操作后最后一层的隐藏状态。 -
hidden_states (
tuple(tf.Tensor)
, 可选, 当output_hidden_states=True
被传递或当config.output_hidden_states=True
时返回) —tf.Tensor
的元组(一个用于嵌入层输出,如果模型有嵌入层,+ 一个用于每个层输出),形状为(batch_size, num_channels, height, width)
。模型在每个层输出的隐藏状态以及可选的初始嵌入输出。
RegNetModel 的 call 方法,重写了 `__call__` 特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, TFRegNetModel
>>> from datasets import load_dataset
>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]
>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = TFRegNetModel.from_pretrained("facebook/regnet-y-040")
>>> inputs = image_processor(image, return_tensors="tf")
>>> outputs = model(**inputs)
>>> last_hidden_states = outputs.last_hidden_state
>>> list(last_hidden_states.shape)
[1, 1088, 7, 7]
TFRegNetForImageClassification
class transformers.TFRegNetForImageClassification
< 源 >( config: RegNetConfig *inputs **kwargs )
参数
- config (RegNetConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化并不会加载与模型相关的权重,只会加载配置。请查阅 from_pretrained() 方法以加载模型权重。
带有图像分类头(在池化特征顶部的一个线性层)的 RegNet 模型,例如用于 ImageNet。
此模型是 Tensorflow keras.layers.Layer 子类。将其作为常规 Tensorflow 模块使用,并参考 Tensorflow 文档以了解与通用用法和行为相关的所有事项。
调用
< 源 >( pixel_values: typing.Optional[tensorflow.python.framework.tensor.Tensor] = None labels: typing.Optional[tensorflow.python.framework.tensor.Tensor] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None training: bool = False ) → transformers.modeling_tf_outputs.TFSequenceClassifierOutput 或 tuple(tf.Tensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 像素值。像素值可以使用 AutoImageProcessor 获取。详情请参阅ConveNextImageProcessor.__call__
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。 - labels (
tf.Tensor
,形状为(batch_size,)
,可选) — 用于计算图像分类/回归损失的标签。索引应在[0, ..., config.num_labels - 1]
范围内。如果config.num_labels > 1
,则计算分类损失(交叉熵)。
返回
transformers.modeling_tf_outputs.TFSequenceClassifierOutput 或 tuple(tf.Tensor)
一个 transformers.modeling_tf_outputs.TFSequenceClassifierOutput 或一个 tf.Tensor
元组(如果传入 return_dict=False
或当 config.return_dict=False
时),包含根据配置 (RegNetConfig) 和输入而定的各种元素。
-
loss (
tf.Tensor
,形状为(batch_size, )
,可选,当提供labels
时返回) — 分类损失(如果 config.num_labels==1,则为回归损失)。 -
logits (
tf.Tensor
,形状为(batch_size, config.num_labels)
) — 分类(或回归,如果 config.num_labels==1)分数(SoftMax 之前)。 -
hidden_states (
tuple(tf.Tensor)
,可选,当传入output_hidden_states=True
或当config.output_hidden_states=True
时返回) —tf.Tensor
的元组(一个用于嵌入层输出 + 一个用于每个层的输出),形状为(batch_size, sequence_length, hidden_size)
。模型在每个层输出的隐藏状态加上初始嵌入输出。
-
attentions (
tuple(tf.Tensor)
,可选,当传入output_attentions=True
或当config.output_attentions=True
时返回) —tf.Tensor
的元组(每个层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 后的注意力权重,用于计算自注意力头中的加权平均值。
TFRegNetForImageClassification 的 forward 方法,覆盖了 __call__
特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, TFRegNetForImageClassification
>>> import tensorflow as tf
>>> from datasets import load_dataset
>>> dataset = load_dataset("huggingface/cats-image"))
>>> image = dataset["test"]["image"][0]
>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = TFRegNetForImageClassification.from_pretrained("facebook/regnet-y-040")
>>> inputs = image_processor(image, return_tensors="tf")
>>> logits = model(**inputs).logits
>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = int(tf.math.argmax(logits, axis=-1))
>>> print(model.config.id2label[predicted_label])
tabby, tabby cat
FlaxRegNetModel
class transformers.FlaxRegNetModel
< source >( config: RegNetConfig input_shape = (1, 224, 224, 3) seed: int = 0 dtype: dtype = <class 'jax.numpy.float32'> _do_init: bool = True **kwargs )
参数
- config (RegNetConfig) — 模型配置类,包含模型的所有参数。使用配置文件初始化并不会加载与模型相关的权重,仅加载配置。查看 from_pretrained() 方法以加载模型权重。
- dtype (
jax.numpy.dtype
,可选,默认为jax.numpy.float32
) — 计算的数据类型。可以是jax.numpy.float32
、jax.numpy.float16
(在 GPU 上)和jax.numpy.bfloat16
(在 TPU 上)之一。这可用于在 GPU 或 TPU 上启用混合精度训练或半精度推理。如果指定,所有计算都将使用给定的
dtype
执行。请注意,这仅指定计算的 dtype,不影响模型参数的 dtype。
裸 RegNet 模型,输出原始特征,顶部没有特定头部。
此模型继承自 FlaxPreTrainedModel。有关库为其所有模型实现的通用方法(例如下载、保存和转换 PyTorch 模型权重)的详细信息,请查看超类文档。
此模型也是 flax.linen.Module 的子类。将其作为常规 Flax linen 模块使用,并参考 Flax 文档中有关一般用法和行为的所有事项。
最后,此模型支持固有的 JAX 功能,例如
__call__
< source >( pixel_values params: typing.Optional[dict] = None train: bool = False output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
返回
transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
一个 transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或一个 torch.FloatTensor
元组(如果传入 return_dict=False
或当 config.return_dict=False
时),包含根据配置(<class 'transformers.models.regnet.configuration_regnet.RegNetConfig'>
)和输入而定的各种元素。
-
last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)
的jnp.ndarray
) — 模型最后一层输出的隐藏状态序列。 -
pooler_output (形状为
(batch_size, hidden_size)
的jnp.ndarray
) — 序列第一个 token(分类 token)的最后一层隐藏状态,经线性层和 Tanh 激活函数进一步处理。线性层权重在预训练期间通过下一句预测(分类)目标进行训练。 -
hidden_states (
tuple(jnp.ndarray)
,可选,当传入output_hidden_states=True
或当config.output_hidden_states=True
时返回) —jnp.ndarray
的元组(一个用于嵌入层输出 + 一个用于每个层的输出),形状为(batch_size, sequence_length, hidden_size)
。模型在每个层输出的隐藏状态加上初始嵌入输出。
-
attentions (
tuple(jnp.ndarray)
,可选,当传入output_attentions=True
或当config.output_attentions=True
时返回) —jnp.ndarray
的元组(每个层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 后的注意力权重,用于计算自注意力头中的加权平均值。
FlaxRegNetPreTrainedModel
的 forward 方法,覆盖了 __call__
特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, FlaxRegNetModel
>>> from PIL import Image
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = FlaxRegNetModel.from_pretrained("facebook/regnet-y-040")
>>> inputs = image_processor(images=image, return_tensors="np")
>>> outputs = model(**inputs)
>>> last_hidden_states = outputs.last_hidden_state
FlaxRegNetForImageClassification
class transformers.FlaxRegNetForImageClassification
< source >( config: RegNetConfig input_shape = (1, 224, 224, 3) seed: int = 0 dtype: dtype = <class 'jax.numpy.float32'> _do_init: bool = True **kwargs )
参数
- config (RegNetConfig) — 模型配置类,包含模型的所有参数。使用配置文件初始化并不会加载与模型相关的权重,仅加载配置。查看 from_pretrained() 方法以加载模型权重。
- dtype (
jax.numpy.dtype
,可选,默认为jax.numpy.float32
) — 计算的数据类型。可以是jax.numpy.float32
、jax.numpy.float16
(在 GPU 上)和jax.numpy.bfloat16
(在 TPU 上)之一。这可用于在 GPU 或 TPU 上启用混合精度训练或半精度推理。如果指定,所有计算都将使用给定的
dtype
执行。请注意,这仅指定计算的 dtype,不影响模型参数的 dtype。
带有图像分类头(在池化特征顶部的一个线性层)的 RegNet 模型,例如用于 ImageNet。
此模型继承自 FlaxPreTrainedModel。有关库为其所有模型实现的通用方法(例如下载、保存和转换 PyTorch 模型权重)的详细信息,请查看超类文档。
此模型也是 flax.linen.Module 的子类。将其作为常规 Flax linen 模块使用,并参考 Flax 文档中有关一般用法和行为的所有事项。
最后,此模型支持固有的 JAX 功能,例如
__call__
< source >( pixel_values params: typing.Optional[dict] = None train: bool = False output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_flax_outputs.FlaxImageClassifierOutputWithNoAttention
或 tuple(torch.FloatTensor)
返回
transformers.modeling_flax_outputs.FlaxImageClassifierOutputWithNoAttention
或 tuple(torch.FloatTensor)
一个 transformers.modeling_flax_outputs.FlaxImageClassifierOutputWithNoAttention
或一个 torch.FloatTensor
元组(如果传入 return_dict=False
或当 config.return_dict=False
时),包含根据配置(<class 'transformers.models.regnet.configuration_regnet.RegNetConfig'>
)和输入而定的各种元素。
- logits (形状为
(batch_size, config.num_labels)
的jnp.ndarray
) — 分类(如果 config.num_labels==1,则为回归)分数(SoftMax 之前)。 - hidden_states (
tuple(jnp.ndarray)
,可选,当传入output_hidden_states=True
或当 config.output_hidden_states=True
):jnp.ndarray
的元组(如果模型有嵌入层,则其中一个用于嵌入层输出,加上每个阶段输出的隐藏状态),形状为(batch_size, num_channels, height, width)
。模型在每个阶段输出处的隐藏状态(也称为特征图)。
FlaxRegNetPreTrainedModel
的 forward 方法,覆盖了 __call__
特殊方法。
尽管前向传播的配方需要在该函数中定义,但在此之后应该调用 Module
实例,因为前者负责运行预处理和后处理步骤,而后者则默默地忽略它们。
示例
>>> from transformers import AutoImageProcessor, FlaxRegNetForImageClassification
>>> from PIL import Image
>>> import jax
>>> import requests
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = FlaxRegNetForImageClassification.from_pretrained("facebook/regnet-y-040")
>>> inputs = image_processor(images=image, return_tensors="np")
>>> outputs = model(**inputs)
>>> logits = outputs.logits
>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_class_idx = jax.numpy.argmax(logits, axis=-1)
>>> print("Predicted class:", model.config.id2label[predicted_class_idx.item()])