Transformers 文档

BLIP

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

BLIP

概述

BLIP 模型在 BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding and Generation 中提出,作者是 Junnan Li、Dongxu Li、Caiming Xiong、Steven Hoi。

BLIP 是一个能够执行各种多模态任务的模型,包括

  • 视觉问答
  • 图像-文本检索(图像-文本匹配)
  • 图像描述

以下是论文的摘要

视觉-语言预训练 (VLP) 已经显著提升了许多视觉-语言任务的性能。然而,现有的大多数预训练模型仅擅长于理解型任务或生成型任务。此外,性能的提升很大程度上是通过扩大从网络上收集的带噪图像-文本对数据集来实现的,但这并非最优的监督来源。在本文中,我们提出了 BLIP,一种新的 VLP 框架,它可以灵活地迁移到视觉-语言理解和生成任务。BLIP 通过引导式字幕有效地利用了带噪网络数据,其中字幕生成器生成合成字幕,过滤器移除噪声字幕。我们在广泛的视觉-语言任务上取得了最先进的结果,例如图像-文本检索(平均 recall@1 提升 +2.7%)、图像字幕生成(CIDEr 提升 +2.8%)和 VQA(VQA 分数提升 +1.6%)。BLIP 还展示了强大的泛化能力,可以直接以零样本方式迁移到视频语言任务。代码、模型和数据集已发布。

BLIP.gif

此模型由 ybelkada 贡献。原始代码可以在 这里 找到。

资源

  • Jupyter notebook,关于如何在自定义数据集上微调 BLIP 以进行图像字幕生成

BlipConfig

class transformers.BlipConfig

< >

( text_config = None vision_config = None projection_dim = 512 logit_scale_init_value = 2.6592 image_text_hidden_size = 256 label_smoothing = 0.0 **kwargs )

参数

  • text_config (dict, 可选) — 用于初始化 BlipTextConfig 的配置选项字典。
  • vision_config (dict, 可选) — 用于初始化 BlipVisionConfig 的配置选项字典。
  • projection_dim (int, 可选, 默认为 512) — 文本和视觉投影层的维度。
  • logit_scale_init_value (float, 可选, 默认为 2.6592) — logit_scale 参数的初始值。默认值根据原始 BLIP 实现使用。
  • image_text_hidden_size (int, 可选, 默认为 256) — 图像-文本融合层隐藏状态的维度。
  • label_smoothing (float, optional, 可选, 默认为 0.0) — [0.0, 1.0] 范围内的浮点数。指定计算损失时的平滑量,其中 0.0 表示不平滑。目标变为原始真实标签和均匀分布的混合,如 Rethinking the Inception Architecture for Computer Vision <https://arxiv.org/abs/1512.00567>__ 中所述。默认值::math:0.0
  • kwargs (可选) — 关键字参数字典。

BlipConfig 是用于存储 BlipModel 配置的配置类。它用于根据指定的参数实例化 BLIP 模型,定义文本模型和视觉模型配置。使用默认值实例化配置将产生与 BLIP-base Salesforce/blip-vqa-base 架构类似的配置。

配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。

示例

>>> from transformers import BlipConfig, BlipModel

>>> # Initializing a BlipConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipConfig()

>>> # Initializing a BlipPModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

>>> # We can also initialize a BlipConfig from a BlipTextConfig and a BlipVisionConfig

>>> # Initializing a BLIPText and BLIPVision configuration
>>> config_text = BlipTextConfig()
>>> config_vision = BlipVisionConfig()

>>> config = BlipConfig.from_text_vision_configs(config_text, config_vision)

from_text_vision_configs

< >

( text_config: BlipTextConfig vision_config: BlipVisionConfig **kwargs ) BlipConfig

返回

BlipConfig

配置对象的一个实例

从 blip 文本模型配置和 blip 视觉模型配置实例化 BlipConfig (或派生类)。

BlipTextConfig

class transformers.BlipTextConfig

< >

( vocab_size = 30524 hidden_size = 768 encoder_hidden_size = 768 intermediate_size = 3072 projection_dim = 768 num_hidden_layers = 12 num_attention_heads = 8 max_position_embeddings = 512 hidden_act = 'gelu' layer_norm_eps = 1e-12 hidden_dropout_prob = 0.0 attention_probs_dropout_prob = 0.0 initializer_range = 0.02 bos_token_id = 30522 eos_token_id = 2 pad_token_id = 0 sep_token_id = 102 is_decoder = True use_cache = True label_smoothing = 0.0 **kwargs )

参数

  • vocab_size (int, 可选, 默认为 30524) — Blip 文本模型的词汇表大小。定义了调用 BlipModel 时可以通过 inputs_ids 传递的不同 token 的数量。
  • hidden_size (int, 可选, 默认为 768) — 编码器层和池化层的维度。
  • encoder_hidden_size (int, 可选, 默认为 768) — 来自视觉模型的编码器层的维度。
  • intermediate_size (int, 可选, 默认为 3072) — Transformer 编码器中“中间”(即,前馈)层的维度。
  • num_hidden_layers (int, 可选, 默认为 12) — Transformer 编码器中隐藏层的数量。
  • num_attention_heads (int, 可选, 默认为 8) — Transformer 编码器中每个注意力层的注意力头的数量。
  • max_position_embeddings (int, 可选, 默认为 512) — 此模型可能使用的最大序列长度。通常将其设置为较大的值以防万一(例如,512 或 1024 或 2048)。
  • hidden_act (strfunction, 可选, 默认为 "gelu") — 编码器和池化器中的非线性激活函数(函数或字符串)。如果为字符串,则支持 "gelu""relu""selu""gelu_new""gelu"
  • layer_norm_eps (float, 可选, 默认为 1e-12) — 层归一化层使用的 epsilon 值。
  • hidden_dropout_prob (float, 可选, 默认为 0.0) — 嵌入、编码器和池化器中所有全连接层的 dropout 概率。
  • attention_dropout (float, 可选, 默认为 0.0) — 注意力概率的 dropout 比率。
  • initializer_range (float, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的截断正态分布初始化器的标准差。
  • bos_token_id (int, 可选, 默认为 30522) — beginning-of-sequence token 的 id。
  • eos_token_id (int, 可选, 默认为 2) — end-of-sequence token 的 id。
  • pad_token_id (int, optional, defaults to 0) — padding 令牌的 ID。
  • sep_token_id (int, optional, defaults to 102) — separator 令牌的 ID。
  • is_decoder (bool, optional, defaults to True) — 模型是否用作解码器。
  • use_cache (bool, optional, defaults to True) — 模型是否应该返回最后的键/值注意力 (并非所有模型都使用)。
  • label_smoothing (float, optional) — 一个介于 [0.0, 1.0] 之间的浮点数。 指定计算损失时平滑的数量,其中 0.0 表示不平滑。 目标变成原始真实标签和均匀分布的混合,如 Rethinking the Inception Architecture for Computer Vision <https://arxiv.org/abs/1512.00567>__ 中所述。 默认值::math:0.0

这是用于存储 BlipTextModel 配置的配置类。 它用于根据指定的参数实例化 BLIP 文本模型,定义模型架构。 使用默认值实例化配置将产生与 基础架构 使用的 BlipText 类似的配置。

配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。

示例

>>> from transformers import BlipTextConfig, BlipTextModel

>>> # Initializing a BlipTextConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipTextConfig()

>>> # Initializing a BlipTextModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipTextModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

BlipVisionConfig

class transformers.BlipVisionConfig

< >

( hidden_size = 768 intermediate_size = 3072 projection_dim = 512 num_hidden_layers = 12 num_attention_heads = 12 image_size = 384 patch_size = 16 hidden_act = 'gelu' layer_norm_eps = 1e-05 attention_dropout = 0.0 initializer_range = 1e-10 **kwargs )

参数

  • hidden_size (int, optional, defaults to 768) — 编码器层和池化器层的维度。
  • intermediate_size (int, optional, defaults to 3072) — Transformer 编码器中“中间”(即,前馈)层的维度。
  • num_hidden_layers (int, optional, defaults to 12) — Transformer 编码器中隐藏层的数量。
  • num_attention_heads (int, optional, defaults to 12) — Transformer 编码器中每个注意力层的注意力头数。
  • image_size (int, optional, defaults to 384) — 每张图片的大小(分辨率)。
  • patch_size (int, optional, defaults to 16) — 每个图像块的大小(分辨率)。
  • hidden_act (strfunction, optional, defaults to "gelu") — 编码器和池化器中的非线性激活函数(函数或字符串)。 如果是字符串,则支持 "gelu""relu""selu""gelu_new" "gelu"
  • layer_norm_eps (float, optional, defaults to 1e-5) — 层归一化层使用的 epsilon 值。
  • attention_dropout (float, optional, defaults to 0.0) — 注意力概率的 dropout 比率。
  • initializer_range (float, optional, defaults to 1e-10) — 用于初始化所有权重矩阵的 truncated_normal_initializer 的标准差。

这是用于存储 BlipVisionModel 配置的配置类。 它用于根据指定的参数实例化 BLIP 视觉模型,定义模型架构。 实例化默认配置将产生与 Blip-base Salesforce/blip-vqa-base 架构类似的配置。

配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。

示例

>>> from transformers import BlipVisionConfig, BlipVisionModel

>>> # Initializing a BlipVisionConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipVisionConfig()

>>> # Initializing a BlipVisionModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipVisionModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

BlipProcessor

class transformers.BlipProcessor

< >

( image_processor tokenizer **kwargs )

参数

  • image_processor (BlipImageProcessor) — BlipImageProcessor 的实例。 图像处理器是必需的输入。
  • tokenizer (BertTokenizerFast) — [‘BertTokenizerFast`] 的实例。 分词器是必需的输入。

构建一个 BLIP 处理器,它将 BERT 分词器和 BLIP 图像处理器包装到单个处理器中。

BlipProcessor 提供 BlipImageProcessorBertTokenizerFast 的所有功能。 有关更多信息,请参阅 __call__()decode() 的文档字符串。

batch_decode

< >

( *args **kwargs )

此方法将其所有参数转发到 BertTokenizerFast 的 batch_decode()。 有关更多信息,请参阅此方法的文档字符串。

decode

< >

( *args **kwargs )

此方法将其所有参数转发到 BertTokenizerFast 的 decode()。 有关更多信息,请参阅此方法的文档字符串。

BlipImageProcessor

class transformers.BlipImageProcessor

< >

( do_resize: bool = True size: Dict = None resample: Resampling = <Resampling.BICUBIC: 3> do_rescale: bool = True rescale_factor: Union = 0.00392156862745098 do_normalize: bool = True image_mean: Union = None image_std: Union = None do_convert_rgb: bool = True **kwargs )

参数

  • do_resize (bool, 可选, 默认为 True) — 是否将图像的 (height, width) 维度调整为指定的 size 大小。可以被 preprocess 方法中的 do_resize 参数覆盖。
  • size (dict, 可选, 默认为 {"height" -- 384, "width": 384}): 调整大小后输出图像的尺寸。可以被 preprocess 方法中的 size 参数覆盖。
  • resample (PILImageResampling, 可选, 默认为 Resampling.BICUBIC) — 如果调整图像大小,则使用的重采样滤波器。仅当 do_resize 设置为 True 时有效。可以被 preprocess 方法中的 resample 参数覆盖。
  • do_rescale (bool, 可选, 默认为 True) — 是否按照指定的比例 rescale_factor 缩放图像。可以被 preprocess 方法中的 do_rescale 参数覆盖。
  • rescale_factor (intfloat, 可选, 默认为 1/255) — 如果缩放图像,则使用的缩放因子。仅当 do_rescale 设置为 True 时有效。可以被 preprocess 方法中的 rescale_factor 参数覆盖。
  • do_normalize (bool, 可选, 默认为 True) — 是否对图像进行归一化。可以被 preprocess 方法中的 do_normalize 参数覆盖。 可以被 preprocess 方法中的 do_normalize 参数覆盖。
  • image_mean (floatList[float], 可选, 默认为 IMAGENET_STANDARD_MEAN) — 如果对图像进行归一化,则使用的均值。这是一个浮点数或浮点数列表,其长度等于图像中通道的数量。可以被 preprocess 方法中的 image_mean 参数覆盖。 可以被 preprocess 方法中的 image_mean 参数覆盖。
  • image_std (floatList[float], 可选, 默认为 IMAGENET_STANDARD_STD) — 如果对图像进行归一化,则使用的标准差。这是一个浮点数或浮点数列表,其长度等于图像中通道的数量。可以被 preprocess 方法中的 image_std 参数覆盖。 可以被 preprocess 方法中的 image_std 参数覆盖。
  • do_convert_rgb (bool, 可选, 默认为 True) — 是否将图像转换为 RGB 格式。

构建 BLIP 图像处理器。

preprocess

< >

( images: Union do_resize: Optional = None size: Optional = None resample: Resampling = None do_rescale: Optional = None rescale_factor: Optional = None do_normalize: Optional = None image_mean: Union = None image_std: Union = None return_tensors: Union = None do_convert_rgb: bool = None data_format: ChannelDimension = <ChannelDimension.FIRST: 'channels_first'> input_data_format: Union = None )

参数

  • images (ImageInput) — 要预处理的图像。 期望是像素值范围为 0 到 255 的单张或一批图像。如果传入像素值在 0 到 1 之间的图像,请设置 do_rescale=False
  • do_resize (bool, 可选, 默认为 self.do_resize) — 是否调整图像大小。
  • size (Dict[str, int], 可选, 默认为 self.size) — 控制 resize 之后图像的大小。图像的最短边将被调整为 size["shortest_edge"],同时保持宽高比。如果调整大小后的图像的最长边 > int(size["shortest_edge"] * (1333 / 800)),则图像将再次调整大小,使最长边等于 int(size["shortest_edge"] * (1333 / 800))
  • resample (PILImageResampling, 可选, 默认为 self.resample) — 如果调整图像大小,则使用的重采样滤波器。仅当 do_resize 设置为 True 时有效。
  • do_rescale (bool, 可选, 默认为 self.do_rescale) — 是否将图像值重新缩放到 [0 - 1] 之间。
  • rescale_factor (float, 可选, 默认为 self.rescale_factor) — 如果 do_rescale 设置为 True,则用于缩放图像的缩放因子。
  • do_normalize (bool, 可选, 默认为 self.do_normalize) — 是否对图像进行归一化。
  • image_mean (floatList[float], 可选, 默认为 self.image_mean) — 如果 do_normalize 设置为 True,则用于归一化图像的图像均值。
  • image_std (floatList[float], 可选, 默认为 self.image_std) — 如果 do_normalize 设置为 True,则用于归一化图像的图像标准差。
  • do_convert_rgb (bool, 可选, 默认为 self.do_convert_rgb) — 是否将图像转换为 RGB 格式。
  • return_tensors (strTensorType, 可选) — 返回的张量类型。可以是以下之一:
    • Unset: 返回 np.ndarray 列表。
    • TensorType.TENSORFLOW'tf': 返回 tf.Tensor 类型的批次。
    • TensorType.PYTORCH'pt': 返回 torch.Tensor 类型的批次。
    • TensorType.NUMPY'np': 返回 np.ndarray 类型的批次。
    • TensorType.JAX'jax': 返回 jax.numpy.ndarray 类型的批次。
  • data_format (ChannelDimensionstr, 可选, 默认为 ChannelDimension.FIRST) — 输出图像的通道维度格式。可以是以下之一:
    • "channels_first"ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。
    • "channels_last"ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。
    • Unset: 使用输入图像的通道维度格式。
  • input_data_format (ChannelDimensionstr, 可选) — 输入图像的通道维度格式。 如果未设置,则通道维度格式从输入图像推断。可以是以下之一:
    • "channels_first"ChannelDimension.FIRST: 图像格式为 (num_channels, height, width)。
    • "channels_last"ChannelDimension.LAST: 图像格式为 (height, width, num_channels)。
    • "none"ChannelDimension.NONE: 图像格式为 (height, width)。

预处理单张图像或一批图像。

Pytorch
隐藏 Pytorch 内容

BlipModel

BlipModel 将在未来版本中被弃用,请根据您的用例使用 BlipForConditionalGenerationBlipForImageTextRetrievalBlipForQuestionAnswering

class transformers.BlipModel

< >

( config: BlipConfig )

参数

  • config (BlipConfig) — 包含模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 请查看 from_pretrained() 方法来加载模型权重。

此模型将在未来版本中被弃用。请根据您的用例使用 BlipForConditionalGenerationBlipForQuestionAnsweringBlipForImageTextRetrieval

此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。

此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。

forward

< >

( input_ids: Optional = None pixel_values: Optional = None attention_mask: Optional = None position_ids: Optional = None return_loss: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipOutput or tuple(torch.FloatTensor)

参数

  • input_ids (torch.LongTensor, 形状为 (batch_size, sequence_length)) — 词汇表中输入序列 tokens 的索引。 如果您提供填充,默认情况下将被忽略。

    索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅 BlipProcessor.__call__()

    什么是输入 IDs?

  • attention_mask (torch.Tensor, 形状为 (batch_size, sequence_length), 可选) — 掩码,用于避免在填充 token 索引上执行注意力机制。 掩码值在 [0, 1] 中选择:

    • 1 表示 未被掩码 的 token,
    • 0 表示 被掩码 的 token。

    什么是注意力掩码?

  • position_ids (torch.LongTensor, 形状为 (batch_size, sequence_length), 可选) — 每个输入序列 tokens 在位置嵌入中的位置索引。 在范围 [0, config.max_position_embeddings - 1] 中选择。

    什么是位置 IDs?

  • pixel_values (torch.FloatTensor, 形状为 (batch_size, num_channels, height, width)) — 像素值。 如果您提供填充,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • return_loss (bool, 可选) — 是否返回对比损失。
  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参阅返回张量下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。
  • interpolate_pos_encoding (bool, 可选, 默认为 False) — 是否对预训练的位置编码进行插值。

返回

transformers.models.blip.modeling_blip.BlipOutputtuple(torch.FloatTensor)

一个 transformers.models.blip.modeling_blip.BlipOutput 或一个 torch.FloatTensor 元组(如果传递了 return_dict=False 或当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>) 和输入。

  • loss (torch.FloatTensor, 形状为 (1,), 可选, 当 return_lossTrue 时返回) — 图像-文本相似性的对比损失。
  • logits_per_image:(torch.FloatTensor, 形状为 (image_batch_size, text_batch_size)) — image_embedstext_embeds 之间缩放的点积分数。 这表示图像-文本相似度得分。
  • logits_per_text:(torch.FloatTensor, 形状为 (text_batch_size, image_batch_size)) — text_embedsimage_embeds 之间缩放的点积分数。 这表示文本-图像相似度得分。
  • text_embeds(torch.FloatTensor, 形状为 (batch_size, output_dim) — 通过将投影层应用于 BlipTextModel 的池化输出而获得的文本嵌入。
  • image_embeds(torch.FloatTensor, 形状为 (batch_size, output_dim) — 通过将投影层应用于 BlipVisionModel 的池化输出而获得的图像嵌入。
  • text_model_output(BaseModelOutputWithPooling): BlipTextModel 的输出。
  • vision_model_output(BaseModelOutputWithPooling): BlipVisionModel 的输出。

BlipModel 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(
...     text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="pt", padding=True
... )

>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1)  # we can take the softmax to get the label probabilities

get_text_features

< >

( input_ids: Optional = None attention_mask: Optional = None position_ids: Optional = None return_dict: Optional = None ) text_features (torch.FloatTensor, 形状为 (batch_size, output_dim)

参数

  • input_ids (torch.LongTensor, 形状为 (batch_size, sequence_length)) — 词汇表中输入序列 tokens 的索引。 如果您提供填充,默认情况下将被忽略。

    索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅 BlipProcessor.__call__()

    什么是输入 IDs?

  • attention_mask (torch.Tensor, 形状为 (batch_size, sequence_length), 可选) — 掩码,用于避免在填充 token 索引上执行注意力机制。 掩码值在 [0, 1] 中选择:

    • 1 表示 未被掩码 的 token,
    • 0 表示 被掩码 的 token。

    什么是注意力掩码?

  • position_ids (torch.LongTensor, 形状为 (batch_size, sequence_length), 可选) — 每个输入序列 tokens 在位置嵌入中的位置索引。 在范围 [0, config.max_position_embeddings - 1] 中选择。

    什么是位置 IDs?

  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参阅返回张量下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。

返回

text_features (torch.FloatTensor, 形状为 (batch_size, output_dim)

通过将投影层应用于 BlipTextModel 的池化输出而获得的文本嵌入。

BlipModel 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)

get_image_features

< >

( pixel_values: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) image_features (torch.FloatTensor, 形状为 (batch_size, output_dim)

参数

  • pixel_values (torch.FloatTensor, 形状为 (batch_size, num_channels, height, width)) — 像素值。 如果您提供填充,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是纯粹的元组。
  • interpolate_pos_encoding (bool, optional, defaults to False) — 是否插值预训练的位置编码。

返回

image_features (torch.FloatTensor of shape (batch_size, output_dim)

通过将投影层应用于 BlipVisionModel 的 pooled 输出获得的图像嵌入。

BlipModel 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(images=image, return_tensors="pt")

>>> image_features = model.get_image_features(**inputs)

BlipTextModel

class transformers.BlipTextModel

< >

( config add_pooling_layer = True )

该模型可以作为编码器(仅具有自注意力)以及解码器运行,在解码器模式下,自注意力层之间会添加一个交叉注意力层,遵循 Attention is all you need 中描述的架构,作者为 Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser 和 Illia Polosukhin。 argument 并且 is_decoder 设置为 True;然后需要将 encoder_hidden_states 作为前向传递的输入。

forward

< >

( input_ids: Optional = None attention_mask: Optional = None position_ids: Optional = None head_mask: Optional = None inputs_embeds: Optional = None encoder_embeds: Optional = None encoder_hidden_states: Optional = None encoder_attention_mask: Optional = None past_key_values: Optional = None use_cache: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None is_decoder: Optional = False )

encoder_hidden_states (torch.FloatTensor, optional): 编码器最后一层输出的隐藏状态序列。 如果模型配置为解码器,则在交叉注意力中使用。 encoder_attention_mask (torch.FloatTensor, optional): 用于避免对编码器输入的 padding 标记索引执行注意力的掩码。 如果模型配置为解码器,则此掩码在交叉注意力中使用。 掩码值在 [0, 1] 中选择

  • 1 表示未被掩码的标记,
  • 0 表示被掩码的标记。 past_key_values (tuple(tuple(torch.FloatTensor)), optional): 包含注意力块的预计算键和值隐藏状态。 可用于加速解码。 如果使用了 past_key_values,用户可以选择仅输入最后一次的 decoder_input_ids(那些没有将其过去的键值状态提供给此模型的输入),形状为 (batch_size, 1),而不是所有形状为 (batch_size, sequence_length)decoder_input_ids。 use_cache (bool, optional): 如果设置为 True,则返回 past_key_values 键值状态,并且可以用于加速解码(请参阅 past_key_values)。

BlipVisionModel

class transformers.BlipVisionModel

< >

( config: BlipVisionConfig )

forward

< >

( pixel_values: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) transformers.modeling_outputs.BaseModelOutputWithPooling or tuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor of shape (batch_size, num_channels, height, width)) — 像素值。 如果您提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, optional) — 是否返回所有注意力层的注意力张量。 更多细节请查看返回张量下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是纯粹的元组。
  • interpolate_pos_encoding (bool, optional, defaults to False) — 是否插值预训练的位置编码。

返回

transformers.modeling_outputs.BaseModelOutputWithPooling or tuple(torch.FloatTensor)

一个 transformers.modeling_outputs.BaseModelOutputWithPoolingtorch.FloatTensor 的元组 (如果传递了 return_dict=False 或者当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入。

  • last_hidden_state (torch.FloatTensor of shape (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的隐藏状态序列。

  • pooler_output (torch.FloatTensor of shape (batch_size, hidden_size)) — 序列的第一个标记(分类标记)的最后一层隐藏状态,在通过用于辅助预训练任务的层进行进一步处理之后。 例如,对于 BERT 系列模型,这返回通过线性层和 tanh 激活函数处理后的分类标记。 线性层权重从预训练期间的下一句预测(分类)目标中训练而来。

  • hidden_states (tuple(torch.FloatTensor), optional, returned when output_hidden_states=True is passed or when config.output_hidden_states=True) — torch.FloatTensor 的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(torch.FloatTensor), optional, returned when output_attentions=True is passed or when config.output_attentions=True) — torch.FloatTensor 的元组(每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

BlipVisionModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

BlipForConditionalGeneration

class transformers.BlipForConditionalGeneration

< >

( config: BlipConfig )

参数

  • config (BlipConfig) — 具有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法来加载模型权重。

用于图像字幕的 BLIP 模型。 该模型由视觉编码器和文本解码器组成。 可以选择将 input_ids 传递给模型,作为文本提示,以使文本解码器继续提示。 否则,解码器将从 [BOS](序列开始)标记开始生成文本。 将从文本输入开始生成字幕。 如果未提供文本输入,解码器将仅从 [BOS] 标记开始。

此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。

此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。

forward

< >

( pixel_values: FloatTensor input_ids: Optional = None attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None labels: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput or tuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor of shape (batch_size, num_channels, height, width)) — 像素值。 如果您提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, optional) — 是否返回所有注意力层的注意力张量。 更多细节请查看返回张量下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是纯粹的元组。
  • interpolate_pos_encoding (bool, optional, defaults to False) — 是否插值预训练的位置编码。

返回

transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput or tuple(torch.FloatTensor)

一个 transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutputtorch.FloatTensor 的元组 (如果传递了 return_dict=False 或者当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入。

  • loss (torch.FloatTensor, optional, returned when labels is provided, torch.FloatTensor of shape (1,)) — 来自文本解码器的语言建模损失。

  • logits (torch.FloatTensor of shape (batch_size, sequence_length, config.vocab_size), optional) — 文本解码器模型的语言建模头的预测分数。

  • image_embeds (torch.FloatTensor,形状为 (batch_size, output_dim)可选) — 应用 Vision Transformer 模型到输入图像后获得的图像嵌入。

  • last_hidden_state (torch.FloatTensor,形状为 (batch_size, sequence_length, hidden_size)可选) — 模型最后一层的输出处的隐藏状态序列。

  • hidden_states (tuple(torch.FloatTensor)可选,当 output_hidden_states=True 时返回) — torch.FloatTensor 的元组(如果模型有嵌入层,则为嵌入层的输出 + 每层的输出),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(torch.FloatTensor)可选,当传递 output_attentions=True 时返回) — torch.FloatTensor 的元组(每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

BlipForConditionalGeneration 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForConditionalGeneration

>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = BlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"

>>> inputs = processor(images=image, text=text, return_tensors="pt")

>>> outputs = model(**inputs)

BlipForImageTextRetrieval

class transformers.BlipForImageTextRetrieval

< >

( config: BlipConfig )

参数

  • config (BlipConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重,仅加载配置。查看 from_pretrained() 方法来加载模型权重。

带有视觉和文本投影器以及顶部分类头的 BLIP 模型。该模型用于图像-文本检索的上下文中。给定图像和文本,模型返回文本与图像相关的概率。

此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。

此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。

forward

< >

( input_ids: LongTensor pixel_values: FloatTensor use_itm_head: Optional = True attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor,形状为 (batch_size, num_channels, height, width)) — 像素值。如果您提供填充,默认情况下将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参阅返回张量下的 attentions
  • output_hidden_states (bool可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的 hidden_states
  • return_dict (bool可选) — 是否返回 ModelOutput 而不是普通的元组。
  • interpolate_pos_encoding (bool可选,默认为 False) — 是否插值预训练的位置编码。

返回

transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

一个 transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtorch.FloatTensor 的元组 (如果传递 return_dict=False 或当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入。

  • loss (torch.FloatTensor,形状为 (1,)可选,当提供 labels 时返回) — 来自文本解码器的语言建模损失。

  • image_embeds (torch.FloatTensor,形状为 (batch_size, output_dim)可选,当模型使用 with_projection=True 初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。

  • last_hidden_state (torch.FloatTensor of shape (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的隐藏状态序列。

  • hidden_states (tuple(torch.FloatTensor), optional, returned when output_hidden_states=True is passed or when config.output_hidden_states=True) — torch.FloatTensor 的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(torch.FloatTensor), optional, returned when output_attentions=True is passed or when config.output_attentions=True) — torch.FloatTensor 的元组(每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

BlipForImageTextRetrieval 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForImageTextRetrieval

>>> model = BlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"

>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)

BlipForQuestionAnswering

class transformers.BlipForQuestionAnswering

< >

( config: BlipConfig )

参数

  • config (BlipConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重,仅加载配置。查看 from_pretrained() 方法来加载模型权重。

用于视觉问答的 BLIP 模型。该模型由视觉编码器、文本编码器以及文本解码器组成。视觉编码器将编码输入图像,文本编码器将编码输入问题以及图像的编码,文本解码器将输出问题的答案。

此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。

此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。

forward

< >

( input_ids: LongTensor pixel_values: FloatTensor decoder_input_ids: Optional = None decoder_attention_mask: Optional = None attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None labels: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

参数

  • pixel_values (torch.FloatTensor,形状为 (batch_size, num_channels, height, width)) — 像素值。如果您提供填充,默认情况下将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参阅返回张量下的 attentions
  • output_hidden_states (bool可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的 hidden_states
  • return_dict (bool可选) — 是否返回 ModelOutput 而不是普通的元组。
  • interpolate_pos_encoding (bool可选,默认为 False) — 是否插值预训练的位置编码。

返回

transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

一个 transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtorch.FloatTensor 的元组 (如果传递 return_dict=False 或当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入。

  • loss (torch.FloatTensor,形状为 (1,)可选,当提供 labels 时返回) — 来自文本解码器的语言建模损失。

  • image_embeds (torch.FloatTensor,形状为 (batch_size, output_dim)可选,当模型使用 with_projection=True 初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。

  • last_hidden_state (torch.FloatTensor of shape (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的隐藏状态序列。

  • hidden_states (tuple(torch.FloatTensor), optional, returned when output_hidden_states=True is passed or when config.output_hidden_states=True) — torch.FloatTensor 的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(torch.FloatTensor), optional, returned when output_attentions=True is passed or when config.output_attentions=True) — torch.FloatTensor 的元组(每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

BlipForQuestionAnswering 的 forward 方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForQuestionAnswering

>>> model = BlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> labels = processor(text=label, return_tensors="pt").input_ids

>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> loss.backward()

>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
TensorFlow
隐藏 TensorFlow 内容

TFBlipModel

class transformers.TFBlipModel

< >

( config: BlipConfig *inputs **kwargs )

call

< >

( input_ids: tf.Tensor | None = None pixel_values: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_loss: Optional[bool] = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipOutputtuple(tf.Tensor)

参数

  • input_ids (tf.Tensor of shape (batch_size, sequence_length)) — 词汇表中输入序列 tokens 的索引。 默认情况下,如果您提供填充,则填充将被忽略。

    索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅 BlipProcessor.__call__()

    什么是输入 IDs?

  • attention_mask (tf.Tensor of shape (batch_size, sequence_length), optional) — 避免在 padding token 索引上执行 attention 的掩码。在 [0, 1] 中选择的掩码值:

    • 1 表示 未被掩盖 的 tokens,
    • 0 表示 被掩盖 的 tokens。

    什么是 attention masks?

  • position_ids (tf.Tensor of shape (batch_size, sequence_length), optional) — 位置嵌入中每个输入序列 tokens 的位置索引。 在范围 [0, config.max_position_embeddings - 1] 中选择。

    什么是位置 IDs?

  • pixel_values (tf.Tensor of shape (batch_size, num_channels, height, width)) — 像素值。 默认情况下,如果您提供填充,则填充将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • return_loss (bool, optional) — 是否返回对比损失。
  • output_attentions (bool, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是普通元组。

返回

transformers.models.blip.modeling_tf_blip.TFBlipOutputtuple(tf.Tensor)

一个 transformers.models.blip.modeling_tf_blip.TFBlipOutput 或一个 tf.Tensor 元组(如果传递了 return_dict=False 或当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>) 和输入。

  • loss (tf.Tensor of shape (1,), optional, 当 return_lossTrue 时返回) — 图像-文本相似度的对比损失。
  • logits_per_image:(tf.Tensor of shape (image_batch_size, text_batch_size)) — image_embedstext_embeds 之间缩放的点积分数。 这表示图像-文本相似度得分。
  • logits_per_text:(tf.Tensor of shape (text_batch_size, image_batch_size)) — text_embedsimage_embeds 之间缩放的点积分数。 这表示文本-图像相似度得分。
  • text_embeds(tf.Tensor of shape (batch_size, output_dim) — 通过将投影层应用于 BlipTextModel 的池化输出获得的文本嵌入。
  • image_embeds(tf.Tensor of shape (batch_size, output_dim) — 通过将投影层应用于 BlipVisionModel 的池化输出获得的图像嵌入。
  • text_model_output(BaseModelOutputWithPooling): BlipTextModel 的输出。
  • vision_model_output(BaseModelOutputWithPooling): BlipVisionModel 的输出。

TFBlipModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(
...     text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="tf", padding=True
... )

>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
>>> probs = tf.nn.softmax(logits_per_image, axis=1)  # we can take the softmax to get the label probabilities

get_text_features

< >

( input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_dict: Optional[bool] = None ) text_features (tf.Tensor of shape (batch_size, output_dim)

参数

  • input_ids (tf.Tensor of shape (batch_size, sequence_length)) — 词汇表中输入序列 tokens 的索引。 默认情况下,如果您提供填充,则填充将被忽略。

    索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅 BlipProcessor.__call__()

    什么是输入 IDs?

  • attention_mask (tf.Tensor of shape (batch_size, sequence_length), optional) — 避免在 padding token 索引上执行 attention 的掩码。在 [0, 1] 中选择的掩码值:

    • 1 表示 未被掩盖 的 tokens,
    • 0 表示 被掩盖 的 tokens。

    什么是 attention masks?

  • position_ids (tf.Tensor of shape (batch_size, sequence_length), optional) — 位置嵌入中每个输入序列 tokens 的位置索引。 在范围 [0, config.max_position_embeddings - 1] 中选择。

    什么是位置 IDs?

  • output_attentions (bool, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是普通元组。

返回

text_features (tf.Tensor of shape (batch_size, output_dim)

通过将投影层应用于 TFBlipTextModel 的池化输出获得的文本嵌入。

TFBlipModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="tf")
>>> text_features = model.get_text_features(**inputs)

get_image_features

< >

( pixel_values: tf.Tensor | None = None return_dict: Optional[bool] = None ) image_features (tf.Tensor of shape (batch_size, output_dim)

参数

  • pixel_values (tf.Tensor of shape (batch_size, num_channels, height, width)) — 像素值。 默认情况下,如果您提供填充,则填充将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的 attentions
  • output_hidden_states (bool, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的 hidden_states
  • return_dict (bool, optional) — 是否返回 ModelOutput 而不是普通元组。

返回

image_features (tf.Tensor of shape (batch_size, output_dim)

通过将投影层应用于 TFBlipVisionModel 的池化输出获得的图像嵌入。

TFBlipModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(images=image, return_tensors="tf")

>>> image_features = model.get_image_features(**inputs)

TFBlipTextModel

class transformers.TFBlipTextModel

< >

( config add_pooling_layer = True name = None **kwargs )

该模型可以作为编码器(仅具有自注意力)以及解码器运行,在解码器模式下,自注意力层之间会添加一个交叉注意力层,遵循 Attention is all you need 中描述的架构,作者为 Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser 和 Illia Polosukhin。 argument 并且 is_decoder 设置为 True;然后需要将 encoder_hidden_states 作为前向传递的输入。

call

< >

( input_ids: TFModelInputType | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None head_mask: tf.Tensor | None = None inputs_embeds: tf.Tensor | None = None encoder_embeds: tf.Tensor | None = None encoder_hidden_states: tf.Tensor | None = None encoder_attention_mask: tf.Tensor | None = None past_key_values: Tuple[Tuple[tf.Tensor]] | None = None use_cache: bool | None = None output_attentions: bool | None = None output_hidden_states: bool | None = None return_dict: bool | None = None is_decoder: bool = False training: bool = False )

参数

  • input_ids (tf.Tensor, 形状为 (batch_size, sequence_length)) — 词汇表中输入序列 tokens 的索引。如果提供 padding,默认情况下将被忽略。

    索引可以使用 AutoProcessor 获取。 有关详细信息,请参阅 BlipProcessor.__call__()

    什么是输入 IDs?

  • attention_mask (tf.Tensor, 形状为 (batch_size, sequence_length), 可选) — 用于避免在 padding token 索引上执行 attention 的 Mask。Mask 值在 [0, 1] 中选择:

    • 1 表示 未被 Mask 的 tokens,
    • 0 表示 被 Mask 的 tokens。

    什么是 attention masks?

  • position_ids (tf.Tensor, 形状为 (batch_size, sequence_length), 可选) — 每个输入序列 tokens 在 position embeddings 中的位置索引。在范围 [0, config.max_position_embeddings - 1] 中选择。

    什么是 position IDs?

  • output_attentions (bool, 可选) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是纯 tuple。
  • encoder_hidden_states (tf.Tensor, 可选) — 编码器最后一层输出的 hidden-states 序列。 如果模型配置为 decoder,则在 cross-attention 中使用。
  • encoder_attention_mask (tf.Tensor, 可选) — Mask,用于避免对编码器输入的 padding token 索引执行 attention。 如果模型配置为 decoder,则此 mask 在 cross-attention 中使用。 Mask 值在 [0, 1] 中选择:

    • 1 表示 未被 Mask 的 tokens,
    • 0 表示 被 Mask 的 tokens。
  • past_key_values (tuple(tuple(tf.Tensor)), 可选) — 包含 attention blocks 的预计算 key 和 value hidden states。 可用于加速解码。 如果使用 past_key_values,则用户可以选择仅输入最后 decoder_input_ids (那些没有将其 past key value states 提供给此模型的),形状为 (batch_size, 1),而不是所有形状为 (batch_size, sequence_length)decoder_input_ids
  • use_cache (bool, 可选) — 如果设置为 True,则返回 past_key_values key value states,并且可以用于加速解码(请参阅 past_key_values)。

TFBlipTextModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

TFBlipVisionModel

class transformers.TFBlipVisionModel

< >

( config: BlipVisionConfig *args **kwargs )

call

< >

( pixel_values: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling or tuple(tf.Tensor)

参数

  • pixel_values (tf.Tensor, 形状为 (batch_size, num_channels, height, width)) — 像素值。 如果提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获取。 请参阅 BlipImageProcessor.call() 以了解详细信息。
  • output_attentions (bool, 可选) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是纯 tuple。

返回

transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingtuple(tf.Tensor)

一个 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或一个 tf.Tensor 的 tuple (如果传递 return_dict=False 或当 config.return_dict=False 时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入。

  • last_hidden_state (tf.Tensor, 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的 hidden-states 序列。

  • pooler_output (tf.Tensor, 形状为 (batch_size, hidden_size)) — 序列的第一个 token (分类 token) 的最后一层 hidden-state,通过线性层和 Tanh 激活函数进一步处理。 线性层权重在预训练期间从下一个句子预测(分类)目标中训练而来。

    此输出通常不是输入语义内容的良好摘要,通常最好对整个输入序列的 hidden-states 序列进行平均或池化。

  • hidden_states (tuple(tf.Tensor), 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — tf.Tensor 的 Tuple (embeddings 的输出一个 + 每层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每层输出端的 Hidden-states 加上初始 embedding 输出。

  • attentions (tuple(tf.Tensor), 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — tf.Tensor 的 Tuple (每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

TFBlipVisionModel 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

TFBlipForConditionalGeneration

class transformers.TFBlipForConditionalGeneration

< >

( config: BlipConfig *args **kwargs )

参数

  • config (BlipConfig) — 具有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法来加载模型权重。

用于图像字幕的 BLIP 模型。 该模型由视觉编码器和文本解码器组成。 可以选择将 input_ids 传递给模型,作为文本提示,以使文本解码器继续提示。 否则,解码器将从 [BOS](序列开始)标记开始生成文本。 将从文本输入开始生成字幕。 如果未提供文本输入,解码器将仅从 [BOS] 标记开始。

此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。

此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。

call

< >

( pixel_values: tf.Tensor input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput or tuple(tf.Tensor)

参数

  • pixel_values (形状为 (batch_size, num_channels, height, width)tf.Tensor) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。

返回

transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutputtuple(tf.Tensor)

transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutputtf.Tensor 元组 (如果传递 return_dict=False 或当 config.return_dict=False 时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>) 和输入的各种元素。

  • loss (tf.Tensor, 可选, 当提供 labels 时返回, 形状为 (1,)tf.Tensor) — 来自文本解码器的语言建模损失。

  • logits (形状为 (batch_size, sequence_length, config.vocab_size)tf.Tensor, 可选) — 文本解码器模型的语言建模头的预测分数。

  • image_embeds (形状为 (batch_size, output_dim)tf.Tensor, 可选) — 将 Vision Transformer 模型应用于输入图像后获得的图像嵌入。

  • last_hidden_state (形状为 (batch_size, sequence_length, hidden_size)tf.Tensor, 可选) — 模型最后一层输出的隐藏状态序列。

  • hidden_states (tuple(tf.Tensor), 可选, 当 output_hidden_states=True 时返回) — tf.Tensor 元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(tf.Tensor), 可选, 当传递 output_attentions=True 时返回) — tf.Tensor 元组 (每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。`

TFBlipForConditionalGeneration 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForConditionalGeneration

>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = TFBlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"

>>> inputs = processor(images=image, text=text, return_tensors="tf")

>>> outputs = model(**inputs)

TFBlipForImageTextRetrieval

class transformers.TFBlipForImageTextRetrieval

< >

( config: BlipConfig *args **kwargs )

参数

  • config (BlipConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法以加载模型权重。

带有视觉和文本投影器以及顶部分类头的 BLIP 模型。该模型用于图像-文本检索的上下文中。给定图像和文本,模型返回文本与图像相关的概率。

此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。

此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。

call

< >

( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None use_itm_head: Optional[bool] = True attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput or tuple(tf.Tensor)

参数

  • pixel_values (形状为 (batch_size, num_channels, height, width)tf.Tensor) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是普通元组。

返回

transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutputtuple(tf.Tensor)

transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutputtf.Tensor 元组 (如果传递 return_dict=False 或当 config.return_dict=False 时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入的各种元素。

  • itm_score (tf.Tensor) — 图像-文本相似度得分。

  • loss (形状为 (1,)tf.Tensor, 可选, 当提供 labels 时返回) — 来自文本解码器的语言建模损失。

  • image_embeds (形状为 (batch_size, output_dim)tf.Tensor 可选 当模型使用 with_projection=True 初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。

  • last_hidden_state (tf.Tensor, 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的 hidden-states 序列。

  • hidden_states (tuple(tf.Tensor), 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — tf.Tensor 元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • vision_pooler_output (形状为 (batch_size, hidden_size)tf.Tensor, 可选) — 模型的仅视觉分支的视觉部分的最后一层隐藏状态。

  • attentions (tuple(tf.Tensor), 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — tf.Tensor 的 Tuple (每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

  • question_embeds (tf.Tensor) — 由文本投影层获得的问题嵌入。

TFBlipForImageTextRetrieval 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForImageTextRetrieval

>>> model = TFBlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"

>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)

TFBlipForQuestionAnswering

class transformers.TFBlipForQuestionAnswering

< >

( config: BlipConfig *args **kwargs )

参数

  • config (BlipConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法以加载模型权重。

用于视觉问答的 BLIP 模型。该模型由视觉编码器、文本编码器以及文本解码器组成。视觉编码器将编码输入图像,文本编码器将编码输入问题以及图像的编码,文本解码器将输出问题的答案。

此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。

此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。

call

< >

( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None decoder_input_ids: tf.Tensor | None = None decoder_attention_mask: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput or tuple(tf.Tensor)

参数

  • pixel_values (形状为 (batch_size, num_channels, height, width)tf.Tensor) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()
  • output_attentions (bool, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的 attentions
  • output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的 hidden_states
  • return_dict (bool, 可选) — 是否返回 ModelOutput 而不是一个普通的元组。

返回

transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutputtuple(tf.Tensor)

一个 transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput 或一个 tf.Tensor 元组 (如果传递了 return_dict=False 或当 config.return_dict=False 时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和输入的各种元素。

  • loss (形状为 (1,)tf.Tensor, 可选, 当提供 labels 时返回) — 来自文本解码器的语言建模损失。

  • image_embeds (形状为 (batch_size, output_dim)tf.Tensor 可选 当模型使用 with_projection=True 初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。

  • last_hidden_state (tf.Tensor, 形状为 (batch_size, sequence_length, hidden_size)) — 模型最后一层输出的 hidden-states 序列。

  • hidden_states (tuple(tf.Tensor), 可选, 当传递 output_hidden_states=True 或当 config.output_hidden_states=True 时返回) — tf.Tensor 元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为 (batch_size, sequence_length, hidden_size)

    模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。

  • attentions (tuple(tf.Tensor), 可选, 当传递 output_attentions=True 或当 config.output_attentions=True 时返回) — tf.Tensor 的 Tuple (每层一个),形状为 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。

The TFBlipForQuestionAnswering 前向方法,覆盖了 __call__ 特殊方法。

尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module 实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForQuestionAnswering

>>> model = TFBlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> labels = processor(text=label, return_tensors="tf").input_ids

>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss

>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
< > 在 GitHub 上更新