BLIP
概述
BLIP 模型在 BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding and Generation 中提出,作者是 Junnan Li、Dongxu Li、Caiming Xiong、Steven Hoi。
BLIP 是一个能够执行各种多模态任务的模型,包括
- 视觉问答
- 图像-文本检索(图像-文本匹配)
- 图像描述
以下是论文的摘要
视觉-语言预训练 (VLP) 已经显著提升了许多视觉-语言任务的性能。然而,现有的大多数预训练模型仅擅长于理解型任务或生成型任务。此外,性能的提升很大程度上是通过扩大从网络上收集的带噪图像-文本对数据集来实现的,但这并非最优的监督来源。在本文中,我们提出了 BLIP,一种新的 VLP 框架,它可以灵活地迁移到视觉-语言理解和生成任务。BLIP 通过引导式字幕有效地利用了带噪网络数据,其中字幕生成器生成合成字幕,过滤器移除噪声字幕。我们在广泛的视觉-语言任务上取得了最先进的结果,例如图像-文本检索(平均 recall@1 提升 +2.7%)、图像字幕生成(CIDEr 提升 +2.8%)和 VQA(VQA 分数提升 +1.6%)。BLIP 还展示了强大的泛化能力,可以直接以零样本方式迁移到视频语言任务。代码、模型和数据集已发布。
此模型由 ybelkada 贡献。原始代码可以在 这里 找到。
资源
- Jupyter notebook,关于如何在自定义数据集上微调 BLIP 以进行图像字幕生成
BlipConfig
class transformers.BlipConfig
< source >( text_config = None vision_config = None projection_dim = 512 logit_scale_init_value = 2.6592 image_text_hidden_size = 256 label_smoothing = 0.0 **kwargs )
参数
- text_config (
dict
, 可选) — 用于初始化 BlipTextConfig 的配置选项字典。 - vision_config (
dict
, 可选) — 用于初始化 BlipVisionConfig 的配置选项字典。 - projection_dim (
int
, 可选, 默认为 512) — 文本和视觉投影层的维度。 - logit_scale_init_value (
float
, 可选, 默认为 2.6592) — logit_scale 参数的初始值。默认值根据原始 BLIP 实现使用。 - image_text_hidden_size (
int
, 可选, 默认为 256) — 图像-文本融合层隐藏状态的维度。 - label_smoothing (float, optional, 可选, 默认为 0.0) — [0.0, 1.0] 范围内的浮点数。指定计算损失时的平滑量,其中 0.0 表示不平滑。目标变为原始真实标签和均匀分布的混合,如
Rethinking the Inception Architecture for Computer Vision <https://arxiv.org/abs/1512.00567>
__ 中所述。默认值::math:0.0
。 - kwargs (可选) — 关键字参数字典。
BlipConfig 是用于存储 BlipModel 配置的配置类。它用于根据指定的参数实例化 BLIP 模型,定义文本模型和视觉模型配置。使用默认值实例化配置将产生与 BLIP-base Salesforce/blip-vqa-base 架构类似的配置。
配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import BlipConfig, BlipModel
>>> # Initializing a BlipConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipConfig()
>>> # Initializing a BlipPModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
>>> # We can also initialize a BlipConfig from a BlipTextConfig and a BlipVisionConfig
>>> # Initializing a BLIPText and BLIPVision configuration
>>> config_text = BlipTextConfig()
>>> config_vision = BlipVisionConfig()
>>> config = BlipConfig.from_text_vision_configs(config_text, config_vision)
from_text_vision_configs
< source >( text_config: BlipTextConfig vision_config: BlipVisionConfig **kwargs ) → BlipConfig
从 blip 文本模型配置和 blip 视觉模型配置实例化 BlipConfig (或派生类)。
BlipTextConfig
class transformers.BlipTextConfig
< source >( vocab_size = 30524 hidden_size = 768 encoder_hidden_size = 768 intermediate_size = 3072 projection_dim = 768 num_hidden_layers = 12 num_attention_heads = 8 max_position_embeddings = 512 hidden_act = 'gelu' layer_norm_eps = 1e-12 hidden_dropout_prob = 0.0 attention_probs_dropout_prob = 0.0 initializer_range = 0.02 bos_token_id = 30522 eos_token_id = 2 pad_token_id = 0 sep_token_id = 102 is_decoder = True use_cache = True label_smoothing = 0.0 **kwargs )
参数
- vocab_size (
int
, 可选, 默认为 30524) —Blip
文本模型的词汇表大小。定义了调用 BlipModel 时可以通过inputs_ids
传递的不同 token 的数量。 - hidden_size (
int
, 可选, 默认为 768) — 编码器层和池化层的维度。 - encoder_hidden_size (
int
, 可选, 默认为 768) — 来自视觉模型的编码器层的维度。 - intermediate_size (
int
, 可选, 默认为 3072) — Transformer 编码器中“中间”(即,前馈)层的维度。 - num_hidden_layers (
int
, 可选, 默认为 12) — Transformer 编码器中隐藏层的数量。 - num_attention_heads (
int
, 可选, 默认为 8) — Transformer 编码器中每个注意力层的注意力头的数量。 - max_position_embeddings (
int
, 可选, 默认为 512) — 此模型可能使用的最大序列长度。通常将其设置为较大的值以防万一(例如,512 或 1024 或 2048)。 - hidden_act (
str
或function
, 可选, 默认为"gelu"
) — 编码器和池化器中的非线性激活函数(函数或字符串)。如果为字符串,则支持"gelu"
、"relu"
、"selu"
、"gelu_new"
和"gelu"
。 - layer_norm_eps (
float
, 可选, 默认为 1e-12) — 层归一化层使用的 epsilon 值。 - hidden_dropout_prob (
float
, 可选, 默认为 0.0) — 嵌入、编码器和池化器中所有全连接层的 dropout 概率。 - attention_dropout (
float
, 可选, 默认为 0.0) — 注意力概率的 dropout 比率。 - initializer_range (
float
, 可选, 默认为 0.02) — 用于初始化所有权重矩阵的截断正态分布初始化器的标准差。 - bos_token_id (
int
, 可选, 默认为 30522) —beginning-of-sequence
token 的 id。 - eos_token_id (
int
, 可选, 默认为 2) —end-of-sequence
token 的 id。 - pad_token_id (
int
, optional, defaults to 0) —padding
令牌的 ID。 - sep_token_id (
int
, optional, defaults to 102) —separator
令牌的 ID。 - is_decoder (
bool
, optional, defaults toTrue
) — 模型是否用作解码器。 - use_cache (
bool
, optional, defaults toTrue
) — 模型是否应该返回最后的键/值注意力 (并非所有模型都使用)。 - label_smoothing (float, optional) — 一个介于 [0.0, 1.0] 之间的浮点数。 指定计算损失时平滑的数量,其中 0.0 表示不平滑。 目标变成原始真实标签和均匀分布的混合,如
Rethinking the Inception Architecture for Computer Vision <https://arxiv.org/abs/1512.00567>
__ 中所述。 默认值::math:0.0
。
这是用于存储 BlipTextModel 配置的配置类。 它用于根据指定的参数实例化 BLIP 文本模型,定义模型架构。 使用默认值实例化配置将产生与 基础架构 使用的 BlipText
类似的配置。
配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import BlipTextConfig, BlipTextModel
>>> # Initializing a BlipTextConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipTextConfig()
>>> # Initializing a BlipTextModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipTextModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
BlipVisionConfig
class transformers.BlipVisionConfig
< source >( hidden_size = 768 intermediate_size = 3072 projection_dim = 512 num_hidden_layers = 12 num_attention_heads = 12 image_size = 384 patch_size = 16 hidden_act = 'gelu' layer_norm_eps = 1e-05 attention_dropout = 0.0 initializer_range = 1e-10 **kwargs )
参数
- hidden_size (
int
, optional, defaults to 768) — 编码器层和池化器层的维度。 - intermediate_size (
int
, optional, defaults to 3072) — Transformer 编码器中“中间”(即,前馈)层的维度。 - num_hidden_layers (
int
, optional, defaults to 12) — Transformer 编码器中隐藏层的数量。 - num_attention_heads (
int
, optional, defaults to 12) — Transformer 编码器中每个注意力层的注意力头数。 - image_size (
int
, optional, defaults to 384) — 每张图片的大小(分辨率)。 - patch_size (
int
, optional, defaults to 16) — 每个图像块的大小(分辨率)。 - hidden_act (
str
或function
, optional, defaults to"gelu"
) — 编码器和池化器中的非线性激活函数(函数或字符串)。 如果是字符串,则支持"gelu"
、"relu"
、"selu"
和"gelu_new"
"gelu"
。 - layer_norm_eps (
float
, optional, defaults to 1e-5) — 层归一化层使用的 epsilon 值。 - attention_dropout (
float
, optional, defaults to 0.0) — 注意力概率的 dropout 比率。 - initializer_range (
float
, optional, defaults to 1e-10) — 用于初始化所有权重矩阵的 truncated_normal_initializer 的标准差。
这是用于存储 BlipVisionModel 配置的配置类。 它用于根据指定的参数实例化 BLIP 视觉模型,定义模型架构。 实例化默认配置将产生与 Blip-base Salesforce/blip-vqa-base 架构类似的配置。
配置对象继承自 PretrainedConfig,可用于控制模型输出。有关更多信息,请阅读 PretrainedConfig 的文档。
示例
>>> from transformers import BlipVisionConfig, BlipVisionModel
>>> # Initializing a BlipVisionConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipVisionConfig()
>>> # Initializing a BlipVisionModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipVisionModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
BlipProcessor
class transformers.BlipProcessor
< source >( image_processor tokenizer **kwargs )
参数
- image_processor (
BlipImageProcessor
) — BlipImageProcessor 的实例。 图像处理器是必需的输入。 - tokenizer (
BertTokenizerFast
) — [‘BertTokenizerFast`] 的实例。 分词器是必需的输入。
构建一个 BLIP 处理器,它将 BERT 分词器和 BLIP 图像处理器包装到单个处理器中。
BlipProcessor 提供 BlipImageProcessor 和 BertTokenizerFast 的所有功能。 有关更多信息,请参阅 __call__()
和 decode() 的文档字符串。
此方法将其所有参数转发到 BertTokenizerFast 的 batch_decode()。 有关更多信息,请参阅此方法的文档字符串。
此方法将其所有参数转发到 BertTokenizerFast 的 decode()。 有关更多信息,请参阅此方法的文档字符串。
BlipImageProcessor
class transformers.BlipImageProcessor
< source >( do_resize: bool = True size: Dict = None resample: Resampling = <Resampling.BICUBIC: 3> do_rescale: bool = True rescale_factor: Union = 0.00392156862745098 do_normalize: bool = True image_mean: Union = None image_std: Union = None do_convert_rgb: bool = True **kwargs )
参数
- do_resize (
bool
, 可选, 默认为True
) — 是否将图像的 (height, width) 维度调整为指定的size
大小。可以被preprocess
方法中的do_resize
参数覆盖。 - size (
dict
, 可选, 默认为{"height" -- 384, "width": 384}
): 调整大小后输出图像的尺寸。可以被preprocess
方法中的size
参数覆盖。 - resample (
PILImageResampling
, 可选, 默认为Resampling.BICUBIC
) — 如果调整图像大小,则使用的重采样滤波器。仅当do_resize
设置为True
时有效。可以被preprocess
方法中的resample
参数覆盖。 - do_rescale (
bool
, 可选, 默认为True
) — 是否按照指定的比例rescale_factor
缩放图像。可以被preprocess
方法中的do_rescale
参数覆盖。 - rescale_factor (
int
或float
, 可选, 默认为1/255
) — 如果缩放图像,则使用的缩放因子。仅当do_rescale
设置为True
时有效。可以被preprocess
方法中的rescale_factor
参数覆盖。 - do_normalize (
bool
, 可选, 默认为True
) — 是否对图像进行归一化。可以被preprocess
方法中的do_normalize
参数覆盖。 可以被preprocess
方法中的do_normalize
参数覆盖。 - image_mean (
float
或List[float]
, 可选, 默认为IMAGENET_STANDARD_MEAN
) — 如果对图像进行归一化,则使用的均值。这是一个浮点数或浮点数列表,其长度等于图像中通道的数量。可以被preprocess
方法中的image_mean
参数覆盖。 可以被preprocess
方法中的image_mean
参数覆盖。 - image_std (
float
或List[float]
, 可选, 默认为IMAGENET_STANDARD_STD
) — 如果对图像进行归一化,则使用的标准差。这是一个浮点数或浮点数列表,其长度等于图像中通道的数量。可以被preprocess
方法中的image_std
参数覆盖。 可以被preprocess
方法中的image_std
参数覆盖。 - do_convert_rgb (
bool
, 可选, 默认为True
) — 是否将图像转换为 RGB 格式。
构建 BLIP 图像处理器。
preprocess
< source >( images: Union do_resize: Optional = None size: Optional = None resample: Resampling = None do_rescale: Optional = None rescale_factor: Optional = None do_normalize: Optional = None image_mean: Union = None image_std: Union = None return_tensors: Union = None do_convert_rgb: bool = None data_format: ChannelDimension = <ChannelDimension.FIRST: 'channels_first'> input_data_format: Union = None )
参数
- images (
ImageInput
) — 要预处理的图像。 期望是像素值范围为 0 到 255 的单张或一批图像。如果传入像素值在 0 到 1 之间的图像,请设置do_rescale=False
。 - do_resize (
bool
, 可选, 默认为self.do_resize
) — 是否调整图像大小。 - size (
Dict[str, int]
, 可选, 默认为self.size
) — 控制resize
之后图像的大小。图像的最短边将被调整为size["shortest_edge"]
,同时保持宽高比。如果调整大小后的图像的最长边 >int(size["shortest_edge"] * (1333 / 800))
,则图像将再次调整大小,使最长边等于int(size["shortest_edge"] * (1333 / 800))
。 - resample (
PILImageResampling
, 可选, 默认为self.resample
) — 如果调整图像大小,则使用的重采样滤波器。仅当do_resize
设置为True
时有效。 - do_rescale (
bool
, 可选, 默认为self.do_rescale
) — 是否将图像值重新缩放到 [0 - 1] 之间。 - rescale_factor (
float
, 可选, 默认为self.rescale_factor
) — 如果do_rescale
设置为True
,则用于缩放图像的缩放因子。 - do_normalize (
bool
, 可选, 默认为self.do_normalize
) — 是否对图像进行归一化。 - image_mean (
float
或List[float]
, 可选, 默认为self.image_mean
) — 如果do_normalize
设置为True
,则用于归一化图像的图像均值。 - image_std (
float
或List[float]
, 可选, 默认为self.image_std
) — 如果do_normalize
设置为True
,则用于归一化图像的图像标准差。 - do_convert_rgb (
bool
, 可选, 默认为self.do_convert_rgb
) — 是否将图像转换为 RGB 格式。 - return_tensors (
str
或TensorType
, 可选) — 返回的张量类型。可以是以下之一:- Unset: 返回
np.ndarray
列表。 TensorType.TENSORFLOW
或'tf'
: 返回tf.Tensor
类型的批次。TensorType.PYTORCH
或'pt'
: 返回torch.Tensor
类型的批次。TensorType.NUMPY
或'np'
: 返回np.ndarray
类型的批次。TensorType.JAX
或'jax'
: 返回jax.numpy.ndarray
类型的批次。
- Unset: 返回
- data_format (
ChannelDimension
或str
, 可选, 默认为ChannelDimension.FIRST
) — 输出图像的通道维度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
: 图像格式为 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
: 图像格式为 (height, width, num_channels)。- Unset: 使用输入图像的通道维度格式。
- input_data_format (
ChannelDimension
或str
, 可选) — 输入图像的通道维度格式。 如果未设置,则通道维度格式从输入图像推断。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
: 图像格式为 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
: 图像格式为 (height, width, num_channels)。"none"
或ChannelDimension.NONE
: 图像格式为 (height, width)。
预处理单张图像或一批图像。
BlipModel
BlipModel
将在未来版本中被弃用,请根据您的用例使用 BlipForConditionalGeneration
、BlipForImageTextRetrieval
或 BlipForQuestionAnswering
。
class transformers.BlipModel
< source >( config: BlipConfig )
参数
- config (BlipConfig) — 包含模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 请查看 from_pretrained() 方法来加载模型权重。
此模型将在未来版本中被弃用。请根据您的用例使用 BlipForConditionalGeneration
、BlipForQuestionAnswering
或 BlipForImageTextRetrieval
。
此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。
此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。
forward
< source >( input_ids: Optional = None pixel_values: Optional = None attention_mask: Optional = None position_ids: Optional = None return_loss: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipOutput
or tuple(torch.FloatTensor)
参数
- input_ids (
torch.LongTensor
, 形状为(batch_size, sequence_length)
) — 词汇表中输入序列 tokens 的索引。 如果您提供填充,默认情况下将被忽略。索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅
BlipProcessor.__call__()
。 - attention_mask (
torch.Tensor
, 形状为(batch_size, sequence_length)
, 可选) — 掩码,用于避免在填充 token 索引上执行注意力机制。 掩码值在[0, 1]
中选择:- 1 表示 未被掩码 的 token,
- 0 表示 被掩码 的 token。
- position_ids (
torch.LongTensor
, 形状为(batch_size, sequence_length)
, 可选) — 每个输入序列 tokens 在位置嵌入中的位置索引。 在范围[0, config.max_position_embeddings - 1]
中选择。 - pixel_values (
torch.FloatTensor
, 形状为(batch_size, num_channels, height, width)
) — 像素值。 如果您提供填充,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - return_loss (
bool
, 可选) — 是否返回对比损失。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。 - interpolate_pos_encoding (
bool
, 可选, 默认为False
) — 是否对预训练的位置编码进行插值。
返回
transformers.models.blip.modeling_blip.BlipOutput
或 tuple(torch.FloatTensor)
一个 transformers.models.blip.modeling_blip.BlipOutput
或一个 torch.FloatTensor
元组(如果传递了 return_dict=False
或当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>
) 和输入。
- loss (
torch.FloatTensor
, 形状为(1,)
, 可选, 当return_loss
为True
时返回) — 图像-文本相似性的对比损失。 - logits_per_image:(
torch.FloatTensor
, 形状为(image_batch_size, text_batch_size)
) —image_embeds
和text_embeds
之间缩放的点积分数。 这表示图像-文本相似度得分。 - logits_per_text:(
torch.FloatTensor
, 形状为(text_batch_size, image_batch_size)
) —text_embeds
和image_embeds
之间缩放的点积分数。 这表示文本-图像相似度得分。 - text_embeds(
torch.FloatTensor
, 形状为(batch_size, output_dim
) — 通过将投影层应用于 BlipTextModel 的池化输出而获得的文本嵌入。 - image_embeds(
torch.FloatTensor
, 形状为(batch_size, output_dim
) — 通过将投影层应用于 BlipVisionModel 的池化输出而获得的图像嵌入。 - text_model_output(
BaseModelOutputWithPooling
): BlipTextModel 的输出。 - vision_model_output(
BaseModelOutputWithPooling
): BlipVisionModel 的输出。
BlipModel 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(
... text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="pt", padding=True
... )
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1) # we can take the softmax to get the label probabilities
get_text_features
< source >( input_ids: Optional = None attention_mask: Optional = None position_ids: Optional = None return_dict: Optional = None ) → text_features (torch.FloatTensor
, 形状为 (batch_size, output_dim
)
参数
- input_ids (
torch.LongTensor
, 形状为(batch_size, sequence_length)
) — 词汇表中输入序列 tokens 的索引。 如果您提供填充,默认情况下将被忽略。索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅
BlipProcessor.__call__()
。 - attention_mask (
torch.Tensor
, 形状为(batch_size, sequence_length)
, 可选) — 掩码,用于避免在填充 token 索引上执行注意力机制。 掩码值在[0, 1]
中选择:- 1 表示 未被掩码 的 token,
- 0 表示 被掩码 的 token。
- position_ids (
torch.LongTensor
, 形状为(batch_size, sequence_length)
, 可选) — 每个输入序列 tokens 在位置嵌入中的位置索引。 在范围[0, config.max_position_embeddings - 1]
中选择。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
text_features (torch.FloatTensor
, 形状为 (batch_size, output_dim
)
通过将投影层应用于 BlipTextModel 的池化输出而获得的文本嵌入。
BlipModel 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)
get_image_features
< source >( pixel_values: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → image_features (torch.FloatTensor
, 形状为 (batch_size, output_dim
)
参数
- pixel_values (
torch.FloatTensor
, 形状为(batch_size, num_channels, height, width)
) — 像素值。 如果您提供填充,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参阅返回张量下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是纯粹的元组。 - interpolate_pos_encoding (
bool
, optional, defaults toFalse
) — 是否插值预训练的位置编码。
返回
image_features (torch.FloatTensor
of shape (batch_size, output_dim
)
通过将投影层应用于 BlipVisionModel 的 pooled 输出获得的图像嵌入。
BlipModel 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="pt")
>>> image_features = model.get_image_features(**inputs)
BlipTextModel
该模型可以作为编码器(仅具有自注意力)以及解码器运行,在解码器模式下,自注意力层之间会添加一个交叉注意力层,遵循 Attention is all you need 中描述的架构,作者为 Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser 和 Illia Polosukhin。 argument 并且 is_decoder
设置为 True
;然后需要将 encoder_hidden_states
作为前向传递的输入。
forward
< source >( input_ids: Optional = None attention_mask: Optional = None position_ids: Optional = None head_mask: Optional = None inputs_embeds: Optional = None encoder_embeds: Optional = None encoder_hidden_states: Optional = None encoder_attention_mask: Optional = None past_key_values: Optional = None use_cache: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None is_decoder: Optional = False )
encoder_hidden_states (torch.FloatTensor
, optional): 编码器最后一层输出的隐藏状态序列。 如果模型配置为解码器,则在交叉注意力中使用。 encoder_attention_mask (torch.FloatTensor
, optional): 用于避免对编码器输入的 padding 标记索引执行注意力的掩码。 如果模型配置为解码器,则此掩码在交叉注意力中使用。 掩码值在 [0, 1]
中选择
- 1 表示未被掩码的标记,
- 0 表示被掩码的标记。 past_key_values (
tuple(tuple(torch.FloatTensor))
, optional): 包含注意力块的预计算键和值隐藏状态。 可用于加速解码。 如果使用了past_key_values
,用户可以选择仅输入最后一次的decoder_input_ids
(那些没有将其过去的键值状态提供给此模型的输入),形状为(batch_size, 1)
,而不是所有形状为(batch_size, sequence_length)
的decoder_input_ids
。 use_cache (bool
, optional): 如果设置为True
,则返回past_key_values
键值状态,并且可以用于加速解码(请参阅past_key_values
)。
BlipVisionModel
forward
< source >( pixel_values: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → transformers.modeling_outputs.BaseModelOutputWithPooling or tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
of shape(batch_size, num_channels, height, width)
) — 像素值。 如果您提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, optional) — 是否返回所有注意力层的注意力张量。 更多细节请查看返回张量下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是纯粹的元组。 - interpolate_pos_encoding (
bool
, optional, defaults toFalse
) — 是否插值预训练的位置编码。
返回
transformers.modeling_outputs.BaseModelOutputWithPooling or tuple(torch.FloatTensor)
一个 transformers.modeling_outputs.BaseModelOutputWithPooling 或 torch.FloatTensor
的元组 (如果传递了 return_dict=False
或者当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入。
-
last_hidden_state (
torch.FloatTensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的隐藏状态序列。 -
pooler_output (
torch.FloatTensor
of shape(batch_size, hidden_size)
) — 序列的第一个标记(分类标记)的最后一层隐藏状态,在通过用于辅助预训练任务的层进行进一步处理之后。 例如,对于 BERT 系列模型,这返回通过线性层和 tanh 激活函数处理后的分类标记。 线性层权重从预训练期间的下一句预测(分类)目标中训练而来。 -
hidden_states (
tuple(torch.FloatTensor)
, optional, returned whenoutput_hidden_states=True
is passed or whenconfig.output_hidden_states=True
) —torch.FloatTensor
的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(torch.FloatTensor)
, optional, returned whenoutput_attentions=True
is passed or whenconfig.output_attentions=True
) —torch.FloatTensor
的元组(每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
BlipVisionModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
BlipForConditionalGeneration
class transformers.BlipForConditionalGeneration
< source >( config: BlipConfig )
参数
- config (BlipConfig) — 具有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法来加载模型权重。
用于图像字幕的 BLIP 模型。 该模型由视觉编码器和文本解码器组成。 可以选择将 input_ids
传递给模型,作为文本提示,以使文本解码器继续提示。 否则,解码器将从 [BOS](序列开始)标记开始生成文本。 将从文本输入开始生成字幕。 如果未提供文本输入,解码器将仅从 [BOS] 标记开始。
此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。
此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。
forward
< source >( pixel_values: FloatTensor input_ids: Optional = None attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None labels: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
or tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
of shape(batch_size, num_channels, height, width)
) — 像素值。 如果您提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, optional) — 是否返回所有注意力层的注意力张量。 更多细节请查看返回张量下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的隐藏状态。 更多细节请查看返回张量下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是纯粹的元组。 - interpolate_pos_encoding (
bool
, optional, defaults toFalse
) — 是否插值预训练的位置编码。
返回
transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
or tuple(torch.FloatTensor)
一个 transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
或 torch.FloatTensor
的元组 (如果传递了 return_dict=False
或者当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入。
-
loss (
torch.FloatTensor
, optional, returned whenlabels
is provided,torch.FloatTensor
of shape(1,)
) — 来自文本解码器的语言建模损失。 -
logits (
torch.FloatTensor
of shape(batch_size, sequence_length, config.vocab_size)
, optional) — 文本解码器模型的语言建模头的预测分数。 -
image_embeds (
torch.FloatTensor
,形状为(batch_size, output_dim)
,可选) — 应用 Vision Transformer 模型到输入图像后获得的图像嵌入。 -
last_hidden_state (
torch.FloatTensor
,形状为(batch_size, sequence_length, hidden_size)
,可选) — 模型最后一层的输出处的隐藏状态序列。 -
hidden_states (
tuple(torch.FloatTensor)
,可选,当output_hidden_states=True
时返回) —torch.FloatTensor
的元组(如果模型有嵌入层,则为嵌入层的输出 + 每层的输出),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(torch.FloatTensor)
,可选,当传递output_attentions=True
时返回) —torch.FloatTensor
的元组(每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
BlipForConditionalGeneration 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForConditionalGeneration
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = BlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)
BlipForImageTextRetrieval
class transformers.BlipForImageTextRetrieval
< source >( config: BlipConfig )
参数
- config (BlipConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重,仅加载配置。查看 from_pretrained() 方法来加载模型权重。
带有视觉和文本投影器以及顶部分类头的 BLIP 模型。该模型用于图像-文本检索的上下文中。给定图像和文本,模型返回文本与图像相关的概率。
此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。
此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。
forward
< source >( input_ids: LongTensor pixel_values: FloatTensor use_itm_head: Optional = True attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
,形状为(batch_size, num_channels, height, width)
) — 像素值。如果您提供填充,默认情况下将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
,可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参阅返回张量下的attentions
。 - output_hidden_states (
bool
,可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
,可选) — 是否返回 ModelOutput 而不是普通的元组。 - interpolate_pos_encoding (
bool
,可选,默认为False
) — 是否插值预训练的位置编码。
返回
transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
一个 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 torch.FloatTensor
的元组 (如果传递 return_dict=False
或当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入。
-
loss (
torch.FloatTensor
,形状为(1,)
,可选,当提供labels
时返回) — 来自文本解码器的语言建模损失。 -
image_embeds (
torch.FloatTensor
,形状为(batch_size, output_dim)
,可选,当模型使用with_projection=True
初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。 -
last_hidden_state (
torch.FloatTensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的隐藏状态序列。 -
hidden_states (
tuple(torch.FloatTensor)
, optional, returned whenoutput_hidden_states=True
is passed or whenconfig.output_hidden_states=True
) —torch.FloatTensor
的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(torch.FloatTensor)
, optional, returned whenoutput_attentions=True
is passed or whenconfig.output_attentions=True
) —torch.FloatTensor
的元组(每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
BlipForImageTextRetrieval 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForImageTextRetrieval
>>> model = BlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)
BlipForQuestionAnswering
class transformers.BlipForQuestionAnswering
< source >( config: BlipConfig )
参数
- config (BlipConfig) — 包含模型所有参数的模型配置类。使用配置文件初始化不会加载与模型关联的权重,仅加载配置。查看 from_pretrained() 方法来加载模型权重。
用于视觉问答的 BLIP 模型。该模型由视觉编码器、文本编码器以及文本解码器组成。视觉编码器将编码输入图像,文本编码器将编码输入问题以及图像的编码,文本解码器将输出问题的答案。
此模型继承自 PreTrainedModel。 请查看超类文档以了解库为其所有模型实现的通用方法(例如下载或保存、调整输入嵌入大小、剪枝头等)。
此模型也是 PyTorch torch.nn.Module 子类。 可将其用作常规 PyTorch 模块,并参阅 PyTorch 文档以了解与常规用法和行为相关的所有事项。
forward
< source >( input_ids: LongTensor pixel_values: FloatTensor decoder_input_ids: Optional = None decoder_attention_mask: Optional = None attention_mask: Optional = None output_attentions: Optional = None output_hidden_states: Optional = None labels: Optional = None return_dict: Optional = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
参数
- pixel_values (
torch.FloatTensor
,形状为(batch_size, num_channels, height, width)
) — 像素值。如果您提供填充,默认情况下将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
,可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息,请参阅返回张量下的attentions
。 - output_hidden_states (
bool
,可选) — 是否返回所有层的隐藏状态。有关更多详细信息,请参阅返回张量下的hidden_states
。 - return_dict (
bool
,可选) — 是否返回 ModelOutput 而不是普通的元组。 - interpolate_pos_encoding (
bool
,可选,默认为False
) — 是否插值预训练的位置编码。
返回
transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
一个 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 torch.FloatTensor
的元组 (如果传递 return_dict=False
或当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入。
-
loss (
torch.FloatTensor
,形状为(1,)
,可选,当提供labels
时返回) — 来自文本解码器的语言建模损失。 -
image_embeds (
torch.FloatTensor
,形状为(batch_size, output_dim)
,可选,当模型使用with_projection=True
初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。 -
last_hidden_state (
torch.FloatTensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的隐藏状态序列。 -
hidden_states (
tuple(torch.FloatTensor)
, optional, returned whenoutput_hidden_states=True
is passed or whenconfig.output_hidden_states=True
) —torch.FloatTensor
的元组(如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(torch.FloatTensor)
, optional, returned whenoutput_attentions=True
is passed or whenconfig.output_attentions=True
) —torch.FloatTensor
的元组(每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
BlipForQuestionAnswering 的 forward 方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForQuestionAnswering
>>> model = BlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> labels = processor(text=label, return_tensors="pt").input_ids
>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> loss.backward()
>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
TFBlipModel
call
< source >( input_ids: tf.Tensor | None = None pixel_values: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_loss: Optional[bool] = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipOutput
或 tuple(tf.Tensor)
参数
- input_ids (
tf.Tensor
of shape(batch_size, sequence_length)
) — 词汇表中输入序列 tokens 的索引。 默认情况下,如果您提供填充,则填充将被忽略。索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
of shape(batch_size, sequence_length)
, optional) — 避免在 padding token 索引上执行 attention 的掩码。在[0, 1]
中选择的掩码值:- 1 表示 未被掩盖 的 tokens,
- 0 表示 被掩盖 的 tokens。
- position_ids (
tf.Tensor
of shape(batch_size, sequence_length)
, optional) — 位置嵌入中每个输入序列 tokens 的位置索引。 在范围[0, config.max_position_embeddings - 1]
中选择。 - pixel_values (
tf.Tensor
of shape(batch_size, num_channels, height, width)
) — 像素值。 默认情况下,如果您提供填充,则填充将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - return_loss (
bool
, optional) — 是否返回对比损失。 - output_attentions (
bool
, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.models.blip.modeling_tf_blip.TFBlipOutput
或 tuple(tf.Tensor)
一个 transformers.models.blip.modeling_tf_blip.TFBlipOutput
或一个 tf.Tensor
元组(如果传递了 return_dict=False
或当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>
) 和输入。
- loss (
tf.Tensor
of shape(1,)
, optional, 当return_loss
为True
时返回) — 图像-文本相似度的对比损失。 - logits_per_image:(
tf.Tensor
of shape(image_batch_size, text_batch_size)
) —image_embeds
和text_embeds
之间缩放的点积分数。 这表示图像-文本相似度得分。 - logits_per_text:(
tf.Tensor
of shape(text_batch_size, image_batch_size)
) —text_embeds
和image_embeds
之间缩放的点积分数。 这表示文本-图像相似度得分。 - text_embeds(
tf.Tensor
of shape(batch_size, output_dim
) — 通过将投影层应用于 BlipTextModel 的池化输出获得的文本嵌入。 - image_embeds(
tf.Tensor
of shape(batch_size, output_dim
) — 通过将投影层应用于 BlipVisionModel 的池化输出获得的图像嵌入。 - text_model_output(
BaseModelOutputWithPooling
): BlipTextModel 的输出。 - vision_model_output(
BaseModelOutputWithPooling
): BlipVisionModel 的输出。
TFBlipModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(
... text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="tf", padding=True
... )
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = tf.nn.softmax(logits_per_image, axis=1) # we can take the softmax to get the label probabilities
get_text_features
< source >( input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_dict: Optional[bool] = None ) → text_features (tf.Tensor
of shape (batch_size, output_dim
)
参数
- input_ids (
tf.Tensor
of shape(batch_size, sequence_length)
) — 词汇表中输入序列 tokens 的索引。 默认情况下,如果您提供填充,则填充将被忽略。索引可以使用 AutoProcessor 获得。 有关详细信息,请参阅
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
of shape(batch_size, sequence_length)
, optional) — 避免在 padding token 索引上执行 attention 的掩码。在[0, 1]
中选择的掩码值:- 1 表示 未被掩盖 的 tokens,
- 0 表示 被掩盖 的 tokens。
- position_ids (
tf.Tensor
of shape(batch_size, sequence_length)
, optional) — 位置嵌入中每个输入序列 tokens 的位置索引。 在范围[0, config.max_position_embeddings - 1]
中选择。 - output_attentions (
bool
, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是普通元组。
返回
text_features (tf.Tensor
of shape (batch_size, output_dim
)
通过将投影层应用于 TFBlipTextModel 的池化输出获得的文本嵌入。
TFBlipModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="tf")
>>> text_features = model.get_text_features(**inputs)
get_image_features
< source >( pixel_values: tf.Tensor | None = None return_dict: Optional[bool] = None ) → image_features (tf.Tensor
of shape (batch_size, output_dim
)
参数
- pixel_values (
tf.Tensor
of shape(batch_size, num_channels, height, width)
) — 像素值。 默认情况下,如果您提供填充,则填充将被忽略。 像素值可以使用 BlipImageProcessor 获得。 有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, optional) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的attentions
。 - output_hidden_states (
bool
, optional) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的hidden_states
。 - return_dict (
bool
, optional) — 是否返回 ModelOutput 而不是普通元组。
返回
image_features (tf.Tensor
of shape (batch_size, output_dim
)
通过将投影层应用于 TFBlipVisionModel 的池化输出获得的图像嵌入。
TFBlipModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="tf")
>>> image_features = model.get_image_features(**inputs)
TFBlipTextModel
class transformers.TFBlipTextModel
< source >( config add_pooling_layer = True name = None **kwargs )
该模型可以作为编码器(仅具有自注意力)以及解码器运行,在解码器模式下,自注意力层之间会添加一个交叉注意力层,遵循 Attention is all you need 中描述的架构,作者为 Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser 和 Illia Polosukhin。 argument 并且 is_decoder
设置为 True
;然后需要将 encoder_hidden_states
作为前向传递的输入。
call
< source >( input_ids: TFModelInputType | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None head_mask: tf.Tensor | None = None inputs_embeds: tf.Tensor | None = None encoder_embeds: tf.Tensor | None = None encoder_hidden_states: tf.Tensor | None = None encoder_attention_mask: tf.Tensor | None = None past_key_values: Tuple[Tuple[tf.Tensor]] | None = None use_cache: bool | None = None output_attentions: bool | None = None output_hidden_states: bool | None = None return_dict: bool | None = None is_decoder: bool = False training: bool = False )
参数
- input_ids (
tf.Tensor
, 形状为(batch_size, sequence_length)
) — 词汇表中输入序列 tokens 的索引。如果提供 padding,默认情况下将被忽略。索引可以使用 AutoProcessor 获取。 有关详细信息,请参阅
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
, 形状为(batch_size, sequence_length)
, 可选) — 用于避免在 padding token 索引上执行 attention 的 Mask。Mask 值在[0, 1]
中选择:- 1 表示 未被 Mask 的 tokens,
- 0 表示 被 Mask 的 tokens。
- position_ids (
tf.Tensor
, 形状为(batch_size, sequence_length)
, 可选) — 每个输入序列 tokens 在 position embeddings 中的位置索引。在范围[0, config.max_position_embeddings - 1]
中选择。 - output_attentions (
bool
, 可选) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是纯 tuple。 - encoder_hidden_states (
tf.Tensor
, 可选) — 编码器最后一层输出的 hidden-states 序列。 如果模型配置为 decoder,则在 cross-attention 中使用。 - encoder_attention_mask (
tf.Tensor
, 可选) — Mask,用于避免对编码器输入的 padding token 索引执行 attention。 如果模型配置为 decoder,则此 mask 在 cross-attention 中使用。 Mask 值在[0, 1]
中选择:- 1 表示 未被 Mask 的 tokens,
- 0 表示 被 Mask 的 tokens。
- past_key_values (
tuple(tuple(tf.Tensor))
, 可选) — 包含 attention blocks 的预计算 key 和 value hidden states。 可用于加速解码。 如果使用past_key_values
,则用户可以选择仅输入最后decoder_input_ids
(那些没有将其 past key value states 提供给此模型的),形状为(batch_size, 1)
,而不是所有形状为(batch_size, sequence_length)
的decoder_input_ids
。 - use_cache (
bool
, 可选) — 如果设置为True
,则返回past_key_values
key value states,并且可以用于加速解码(请参阅past_key_values
)。
TFBlipTextModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
TFBlipVisionModel
call
< source >( pixel_values: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling or tuple(tf.Tensor)
参数
- pixel_values (
tf.Tensor
, 形状为(batch_size, num_channels, height, width)
) — 像素值。 如果提供 padding,默认情况下将被忽略。 像素值可以使用 BlipImageProcessor 获取。 请参阅 BlipImageProcessor.call() 以了解详细信息。 - output_attentions (
bool
, 可选) — 是否返回所有 attention 层的 attentions tensors。 有关更多详细信息,请参阅返回的 tensors 下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的 hidden states。 有关更多详细信息,请参阅返回的 tensors 下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是纯 tuple。
返回
transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或 tuple(tf.Tensor)
一个 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或一个 tf.Tensor
的 tuple (如果传递 return_dict=False
或当 config.return_dict=False
时),包含各种元素,具体取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入。
-
last_hidden_state (
tf.Tensor
, 形状为(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的 hidden-states 序列。 -
pooler_output (
tf.Tensor
, 形状为(batch_size, hidden_size)
) — 序列的第一个 token (分类 token) 的最后一层 hidden-state,通过线性层和 Tanh 激活函数进一步处理。 线性层权重在预训练期间从下一个句子预测(分类)目标中训练而来。此输出通常不是输入语义内容的良好摘要,通常最好对整个输入序列的 hidden-states 序列进行平均或池化。
-
hidden_states (
tuple(tf.Tensor)
, 可选, 当传递output_hidden_states=True
或当config.output_hidden_states=True
时返回) —tf.Tensor
的 Tuple (embeddings 的输出一个 + 每层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每层输出端的 Hidden-states 加上初始 embedding 输出。
-
attentions (
tuple(tf.Tensor)
, 可选, 当传递output_attentions=True
或当config.output_attentions=True
时返回) —tf.Tensor
的 Tuple (每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
TFBlipVisionModel 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
TFBlipForConditionalGeneration
class transformers.TFBlipForConditionalGeneration
< source >( config: BlipConfig *args **kwargs )
参数
- config (BlipConfig) — 具有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法来加载模型权重。
用于图像字幕的 BLIP 模型。 该模型由视觉编码器和文本解码器组成。 可以选择将 input_ids
传递给模型,作为文本提示,以使文本解码器继续提示。 否则,解码器将从 [BOS](序列开始)标记开始生成文本。 将从文本输入开始生成字幕。 如果未提供文本输入,解码器将仅从 [BOS] 标记开始。
此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。
此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。
call
< source >( pixel_values: tf.Tensor input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
or tuple(tf.Tensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
或 tuple(tf.Tensor)
transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
或 tf.Tensor
元组 (如果传递 return_dict=False
或当 config.return_dict=False
时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>
) 和输入的各种元素。
-
loss (
tf.Tensor
, 可选, 当提供labels
时返回, 形状为(1,)
的tf.Tensor
) — 来自文本解码器的语言建模损失。 -
logits (形状为
(batch_size, sequence_length, config.vocab_size)
的tf.Tensor
, 可选) — 文本解码器模型的语言建模头的预测分数。 -
image_embeds (形状为
(batch_size, output_dim)
的tf.Tensor
, 可选) — 将 Vision Transformer 模型应用于输入图像后获得的图像嵌入。 -
last_hidden_state (形状为
(batch_size, sequence_length, hidden_size)
的tf.Tensor
, 可选) — 模型最后一层输出的隐藏状态序列。 -
hidden_states (
tuple(tf.Tensor)
, 可选, 当output_hidden_states=True
时返回) —tf.Tensor
元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(tf.Tensor)
, 可选, 当传递output_attentions=True
时返回) —tf.Tensor
元组 (每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。`
TFBlipForConditionalGeneration 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForConditionalGeneration
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = TFBlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)
TFBlipForImageTextRetrieval
class transformers.TFBlipForImageTextRetrieval
< source >( config: BlipConfig *args **kwargs )
参数
- config (BlipConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法以加载模型权重。
带有视觉和文本投影器以及顶部分类头的 BLIP 模型。该模型用于图像-文本检索的上下文中。给定图像和文本,模型返回文本与图像相关的概率。
此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。
此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。
call
< source >( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None use_itm_head: Optional[bool] = True attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
or tuple(tf.Tensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是普通元组。
返回
transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
或 tuple(tf.Tensor)
transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
或 tf.Tensor
元组 (如果传递 return_dict=False
或当 config.return_dict=False
时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入的各种元素。
-
itm_score (
tf.Tensor
) — 图像-文本相似度得分。 -
loss (形状为
(1,)
的tf.Tensor
, 可选, 当提供labels
时返回) — 来自文本解码器的语言建模损失。 -
image_embeds (形状为
(batch_size, output_dim)
的tf.Tensor
可选 当模型使用with_projection=True
初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。 -
last_hidden_state (
tf.Tensor
, 形状为(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的 hidden-states 序列。 -
hidden_states (
tuple(tf.Tensor)
, 可选, 当传递output_hidden_states=True
或当config.output_hidden_states=True
时返回) —tf.Tensor
元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
vision_pooler_output (形状为
(batch_size, hidden_size)
的tf.Tensor
, 可选) — 模型的仅视觉分支的视觉部分的最后一层隐藏状态。 -
attentions (
tuple(tf.Tensor)
, 可选, 当传递output_attentions=True
或当config.output_attentions=True
时返回) —tf.Tensor
的 Tuple (每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
-
question_embeds (
tf.Tensor
) — 由文本投影层获得的问题嵌入。
TFBlipForImageTextRetrieval 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForImageTextRetrieval
>>> model = TFBlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)
TFBlipForQuestionAnswering
class transformers.TFBlipForQuestionAnswering
< source >( config: BlipConfig *args **kwargs )
参数
- config (BlipConfig) — 带有模型所有参数的模型配置类。 使用配置文件初始化不会加载与模型关联的权重,仅加载配置。 查看 from_pretrained() 方法以加载模型权重。
用于视觉问答的 BLIP 模型。该模型由视觉编码器、文本编码器以及文本解码器组成。视觉编码器将编码输入图像,文本编码器将编码输入问题以及图像的编码,文本解码器将输出问题的答案。
此模型继承自 TFPreTrainedModel。 查看超类文档,了解库为其所有模型实现的通用方法(例如下载或保存、调整输入 embeddings 大小、剪枝 heads 等)。
此模型也是 keras.Model 子类。 将其用作常规 TF 2.0 Keras 模型,并参阅 TF 2.0 文档,了解与常规用法和行为相关的所有事项。
call
< source >( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None decoder_input_ids: tf.Tensor | None = None decoder_attention_mask: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
or tuple(tf.Tensor)
参数
- pixel_values (形状为
(batch_size, num_channels, height, width)
的tf.Tensor
) — 像素值。如果您提供填充,默认情况下填充将被忽略。像素值可以使用 BlipImageProcessor 获得。有关详细信息,请参阅 BlipImageProcessor.call()。 - output_attentions (
bool
, 可选) — 是否返回所有注意力层的注意力张量。 有关更多详细信息,请参见返回张量下的attentions
。 - output_hidden_states (
bool
, 可选) — 是否返回所有层的隐藏状态。 有关更多详细信息,请参见返回张量下的hidden_states
。 - return_dict (
bool
, 可选) — 是否返回 ModelOutput 而不是一个普通的元组。
返回
transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
或 tuple(tf.Tensor)
一个 transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
或一个 tf.Tensor
元组 (如果传递了 return_dict=False
或当 config.return_dict=False
时),包含取决于配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和输入的各种元素。
-
loss (形状为
(1,)
的tf.Tensor
, 可选, 当提供labels
时返回) — 来自文本解码器的语言建模损失。 -
image_embeds (形状为
(batch_size, output_dim)
的tf.Tensor
可选 当模型使用with_projection=True
初始化时返回) — 通过将投影层应用于 pooler_output 获得的图像嵌入。 -
last_hidden_state (
tf.Tensor
, 形状为(batch_size, sequence_length, hidden_size)
) — 模型最后一层输出的 hidden-states 序列。 -
hidden_states (
tuple(tf.Tensor)
, 可选, 当传递output_hidden_states=True
或当config.output_hidden_states=True
时返回) —tf.Tensor
元组 (如果模型具有嵌入层,则为嵌入输出,+ 每个层的输出一个),形状为(batch_size, sequence_length, hidden_size)
。模型在每一层输出以及可选的初始嵌入输出处的隐藏状态。
-
attentions (
tuple(tf.Tensor)
, 可选, 当传递output_attentions=True
或当config.output_attentions=True
时返回) —tf.Tensor
的 Tuple (每层一个),形状为(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 之后的注意力权重,用于计算自注意力头中的加权平均值。
The TFBlipForQuestionAnswering 前向方法,覆盖了 __call__
特殊方法。
尽管 forward 传递的配方需要在该函数内定义,但应该在之后调用 Module
实例而不是此函数,因为前者负责运行预处理和后处理步骤,而后者会静默地忽略它们。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForQuestionAnswering
>>> model = TFBlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> labels = processor(text=label, return_tensors="tf").input_ids
>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2