参数

• pixel_values (torch.FloatTensor 形状为 (batch_size, num_channels, height, width)) — 像素值。像素值可以通过 AutoImageProcessor 获取。详情请参见 ViTImageProcessor.call()。
• head_mask (torch.FloatTensor 形状为 (num_heads,) 或 (num_layers, num_heads)，可选) — 用于使自注意力模块的选定头部无效的掩码。掩码值在 [0, 1] 中选择：
  • 1 表示头部未被掩码，
  • 0 表示头部被掩码。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。有关详细信息，请参见返回张量中的 attentions。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。有关详细信息，请参见返回张量中的 hidden_states。
• interpolate_pos_encoding (bool，可选) — 是否插值预训练的位置编码。
• return_dict (bool，可选) — 是否返回一个 ModelOutput 而不是一个简单的元组。
• bool_masked_pos (torch.BoolTensor 形状为 (batch_size, num_patches)，可选) — 布尔掩码位置。指示哪些补丁被掩码 (1) 以及哪些没有 (0)。

一个 transformers.modeling_outputs.BaseModelOutputWithPooling 或者一个 torch.FloatTensor 元组（如果传递 return_dict=False 或 config.return_dict=False）包含根据配置 (ViTConfig) 和输入的不同元素。

• last_hidden_state (torch.FloatTensor 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层输出处的隐藏状态序列。

• pooler_output (torch.FloatTensor 形状为 (batch_size, hidden_size)) — 序列第一个标记（分类标记）的最后一层隐藏状态，经过用于辅助预训练任务的层的进一步处理。例如，对于 BERT 家族模型，这将返回经过线性层和 tanh 激活函数处理后的分类标记。线性层权重是在预训练期间从下一个句子预测（分类）目标中训练出来的。

• hidden_states (tuple(torch.FloatTensor)，可选，当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（如果模型有嵌入层，则一个用于嵌入层的输出，+ 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态，加上可选的初始嵌入输出。

• attentions (tuple(torch.FloatTensor)，可选，当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• pixel_values (torch.FloatTensor 形状为 (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获取。有关详细信息，请参阅 ViTImageProcessor.call()。
• head_mask (torch.FloatTensor 形状为 (num_heads,) 或 (num_layers, num_heads)，可选) — 掩码，用于使自注意力模块中选定的头无效。在 [0, 1] 中选择掩码值：
  • 1 表示头未被掩码，
  • 0 表示头被掩码。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息，请参阅返回张量中的 attentions。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量中的 hidden_states。
• interpolate_pos_encoding (bool，可选) — 是否对预训练的位置编码进行插值。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。
• bool_masked_pos (torch.BoolTensor 形状为 (batch_size, num_patches)) — 布尔掩码位置。指示哪些补丁被掩码 (1) 以及哪些没有 (0)。

transformers.modeling_outputs.MaskedImageModelingOutput 或 torch.FloatTensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含取决于配置 (ViTConfig) 和输入的各种元素。

• loss (torch.FloatTensor 形状为 (1,)，可选，在提供 bool_masked_pos 时返回) — 重建损失。
• reconstruction (torch.FloatTensor 形状为 (batch_size, num_channels, height, width)) — 重建/完成的图像。
• hidden_states (tuple(torch.FloatTensor), 可选，当传递 output_hidden_states=True 或
• 当 config.output_hidden_states=True) — torch.FloatTensor 元组（一个用于嵌入层的输出，如果模型具有嵌入层，加上每个阶段的输出）形状为 (batch_size, sequence_length, hidden_size)。模型在每个阶段输出处的隐藏状态（也称为特征图）。
• attentions (tuple(torch.FloatTensor), 可选，当传递 output_attentions=True 或当
• config.output_attentions=True): torch.FloatTensor 元组（每个层一个）形状为 (batch_size, num_heads, patch_size, sequence_length)。注意力 softmax 后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• pixel_values (torch.FloatTensor 形状为 (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获取。查看 ViTImageProcessor.call() 获取详细信息。
• head_mask (torch.FloatTensor 形状为 (num_heads,) 或 (num_layers, num_heads), 可选) — 用于使自注意力模块的选定头无效的掩码。掩码值在 [0, 1] 中选择：
  • 1 表示头 **未被掩盖**，
  • 0 表示头 **被掩盖**。
• output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息，请参阅返回张量中的 attentions。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量中的 hidden_states。
• interpolate_pos_encoding (bool, 可选) — 是否插值预训练的位置编码。
• return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。
• labels (torch.LongTensor 形状为 (batch_size,), 可选) — 用于计算图像分类/回归损失的标签。索引应在 [0, ..., config.num_labels - 1] 中。如果 config.num_labels == 1，则计算回归损失（均方误差损失），如果 config.num_labels > 1，则计算分类损失（交叉熵）。

一个 transformers.modeling_outputs.ImageClassifierOutput 或 torch.FloatTensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含取决于配置 (ViTConfig) 和输入的各种元素。

• loss (torch.FloatTensor 形状为 (1,), 可选, 当提供 labels 时返回) — 分类（或如果 config.num_labels==1 则为回归）损失。

• logits (torch.FloatTensor 形状为 (batch_size, config.num_labels)) — 分类（或如果 config.num_labels==1 则为回归）分数（在 SoftMax 之前）。

• hidden_states (tuple(torch.FloatTensor), 可选, 当传递了 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个阶段的输出），形状为 (batch_size, sequence_length, hidden_size)。模型在每个阶段输出的隐藏状态（也称为特征图）。

• attentions (tuple(torch.FloatTensor), 可选, 当传递了 output_attentions=True 或当 config.output_attentions=True 时返回) — torch.FloatTensor 的元组（每个层一个），形状为 (batch_size, num_heads, patch_size, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• pixel_values (np.ndarray, tf.Tensor, List[tf.Tensor] `Dict[str, tf.Tensor] 或 Dict[str, np.ndarray] 且每个示例必须具有形状 (batch_size, num_channels, height, width)) — 像素值。像素值可使用 AutoImageProcessor 获取。有关详细信息，请参阅 ViTImageProcessor.call()。
• head_mask (np.ndarray 或 tf.Tensor 形状为 (num_heads,) 或 (num_layers, num_heads), 可选) — 用于将自注意力模块的选定头归零的掩码。掩码值选择在 [0, 1] 中：
  • 1 表示头未被掩码，
  • 0 表示头被掩码。
• output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息，请参阅返回张量中的 attentions。此参数仅能在急切模式下使用，在图模式下，将使用配置中的值。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量中的 hidden_states。此参数仅能在急切模式下使用，在图模式下，将使用配置中的值。
• interpolate_pos_encoding (bool, 可选) — 是否插值预训练的位置编码。
• return_dict (bool, 可选) — 是否返回一个 ModelOutput 而不是一个简单的元组。此参数可以在急切模式下使用，在图模式下，该值将始终设置为 True。
• training (bool, 可选，默认为 `False“) — 是否在训练模式下使用模型（某些模块，如 dropout 模块，在训练和评估之间的行为有所不同）。

一个 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或一个 tf.Tensor 元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含取决于配置 (ViTConfig) 和输入的各种元素。

• last_hidden_state (tf.Tensor 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层的输出处的隐藏状态序列。

• pooler_output (tf.Tensor 形状为 (batch_size, hidden_size)) — 序列第一个标记（分类标记）的最后一层隐藏状态，经线性层和 Tanh 激活函数进一步处理。线性层权重在预训练期间从下一个句子预测（分类）目标中训练得到。

  此输出通常不是输入语义内容的良好摘要，通常最好对整个输入序列的隐藏状态序列进行平均或池化。

• hidden_states (tuple(tf.Tensor), 可选，当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — tf.Tensor 元组（一个用于嵌入的输出，一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态，加上初始嵌入输出。

• attentions (tuple(tf.Tensor), 可选，当传递 output_attentions=True 或 config.output_attentions=True 时返回) — tf.Tensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• pixel_values (np.ndarray, tf.Tensor, List[tf.Tensor] `Dict[str, tf.Tensor] 或 Dict[str, np.ndarray]，每个样本的形状必须为 (batch_size, num_channels, height, width)) — 像素值。像素值可以使用 AutoImageProcessor 获取。有关详细信息，请参阅 ViTImageProcessor.call()。
• head_mask (形状为 (num_heads,) 或 (num_layers, num_heads) 的 np.ndarray 或 tf.Tensor，可选) — 用于使自注意力模块的选定头部无效的掩码。掩码值在 [0, 1] 中选择：
  • 1 表示头部 未掩码，
  • 0 表示头部 已掩码。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。有关详细信息，请参阅返回张量中的 attentions。此参数只能在急切模式下使用，在图形模式下，将使用配置中的值。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。有关详细信息，请参阅返回张量中的 hidden_states。此参数只能在急切模式下使用，在图形模式下，将使用配置中的值。
• interpolate_pos_encoding (bool，可选) — 是否对预训练的位置编码进行插值。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。此参数可以在急切模式下使用，在图形模式下，该值将始终设置为 True。
• training (bool，可选，默认值为 `False“) — 是否以训练模式使用模型（某些模块，如 dropout 模块，在训练和评估之间具有不同的行为）。
• labels (tf.Tensor 或 np.ndarray 形状为 (batch_size,), 可选) — 用于计算图像分类/回归损失的标签。索引应在 [0, ..., config.num_labels - 1] 中。如果 config.num_labels == 1，则计算回归损失（均方损失），如果 config.num_labels > 1，则计算分类损失（交叉熵）。

一个 transformers.modeling_tf_outputs.TFSequenceClassifierOutput 或一个 tf.Tensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），包含取决于配置 (ViTConfig) 和输入的各种元素。

• loss (tf.Tensor 形状为 (batch_size, ), 可选, 在提供 labels 时返回) — 分类（或如果 config.num_labels==1 则为回归）损失。

• logits (tf.Tensor 形状为 (batch_size, config.num_labels)) — 分类（或如果 config.num_labels==1 则为回归）分数（在 SoftMax 之前）。

• hidden_states (tuple(tf.Tensor), 可选，当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — tf.Tensor 元组（一个用于嵌入的输出，一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态，加上初始嵌入输出。

• attentions (tuple(tf.Tensor), 可选，当传递 output_attentions=True 或 config.output_attentions=True 时返回) — tf.Tensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

一个 transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），包含取决于配置 (<class 'transformers.models.vit.configuration_vit.ViTConfig'>) 和输入的各种元素。

• last_hidden_state (jnp.ndarray 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层的输出处的隐藏状态序列。

• pooler_output (jnp.ndarray 形状为 (batch_size, hidden_size)) — 序列第一个标记（分类标记）的最后一层隐藏状态，通过线性层和 Tanh 激活函数进一步处理。线性层权重在预训练期间从下一个句子预测（分类）目标进行训练。

• hidden_states (tuple(jnp.ndarray), 可选，在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — jnp.ndarray 元组（一个用于嵌入的输出，一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态，加上初始嵌入输出。

• attentions (tuple(jnp.ndarray), 可选，在传递 output_attentions=True 或 config.output_attentions=True 时返回) — jnp.ndarray 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

一个 transformers.modeling_flax_outputs.FlaxSequenceClassifierOutput 或 torch.FloatTensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），包含根据配置（<class 'transformers.models.vit.configuration_vit.ViTConfig'>）和输入而不同的各种元素。

• logits (jnp.ndarray 形状为 (batch_size, config.num_labels)) — 分类（或回归，如果 config.num_labels==1）分数（在 SoftMax 之前）。

• hidden_states (tuple(jnp.ndarray), 可选，在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — jnp.ndarray 元组（一个用于嵌入的输出，一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态，加上初始嵌入输出。

• attentions (tuple(jnp.ndarray), 可选，在传递 output_attentions=True 或 config.output_attentions=True 时返回) — jnp.ndarray 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。