参数

• input_ids (torch.LongTensor 形状为 (batch_size, sequence_length)) — 词汇表中输入序列标记的索引。为了匹配预训练，DPR 输入序列应按如下方式格式化：[CLS] 和 [SEP] 标记：

  (a) 对于序列对（例如标题+文本对）：

一个 transformers.models.dpr.modeling_dpr.DPRContextEncoderOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），包含取决于配置 (DPRConfig) 和输入的各种元素。

• pooler_output (torch.FloatTensor 形状为 (batch_size, embeddings_size)) — DPR 编码器输出对应于上下文表示的 pooler_output。序列的第一个标记（分类标记）的最后一层隐藏状态，并由线性层进一步处理。此输出用于将上下文嵌入到与问题嵌入进行最近邻查询。

• hidden_states (tuple(torch.FloatTensor), 可选, 当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• input_ids (torch.LongTensor 形状为 (batch_size, sequence_length)) — 词汇表中输入序列标记的索引。为了匹配预训练，DPR 输入序列应按如下方式格式化：[CLS] 和 [SEP] 标记：

  (a) 对于序列对（例如标题+文本对）：

一个 transformers.models.dpr.modeling_dpr.DPRQuestionEncoderOutput 或一个 torch.FloatTensor 元组（如果传递了 return_dict=False 或 config.return_dict=False），包含取决于配置 (DPRConfig) 和输入的各种元素。

• pooler_output (torch.FloatTensor 形状为 (batch_size, embeddings_size)) — DPR 编码器输出对应于问题表示的 pooler_output。序列的第一个标记（分类标记）的最后一层隐藏状态，并由线性层进一步处理。此输出用于将问题嵌入到与上下文嵌入进行最近邻查询。

• hidden_states (tuple(torch.FloatTensor), 可选, 当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• input_ids (Tuple[torch.LongTensor] 形状为 (n_passages, sequence_length)) — 词汇表中输入序列标记的索引。它必须是一个序列三元组，其中包含 1) 问题和 2) 段落标题以及 3) 段落文本。为了匹配预训练，DPR 的 input_ids 序列应使用 [CLS] 和 [SEP] 以以下格式进行格式化：

  [CLS] <问题标记 ID> [SEP] <标题 ID> [SEP] <文本 ID>

  DPR 是一个具有绝对位置嵌入的模型，因此通常建议在右侧而不是左侧填充输入。

  可以使用 DPRReaderTokenizer 获取索引。有关更多详细信息，请查看此类文档。

  什么是输入 ID？

• attention_mask (torch.FloatTensor 形状为 (n_passages, sequence_length)，可选) — 用于避免对填充标记索引执行注意力的掩码。在 [0, 1] 中选择掩码值：
  • 1 表示未掩码的标记，
  • 0 表示掩码的标记。

  什么是注意力掩码？

• inputs_embeds (torch.FloatTensor 形状为 (n_passages, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是传递 input_ids。如果您希望比模型的内部嵌入查找矩阵更精确地控制如何将 input_ids 索引转换为关联向量，这将非常有用。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息，请参阅返回张量下的 attentions。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量下的 hidden_states。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。

一个 transformers.models.dpr.modeling_dpr.DPRReaderOutput 或 torch.FloatTensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含取决于配置 (DPRConfig) 和输入的各种元素。

• start_logits (torch.FloatTensor 形状为 (n_passages, sequence_length)) — 每个篇章中跨度起始索引的 logits。

• end_logits (torch.FloatTensor 形状为 (n_passages, sequence_length)) — 每个篇章中跨度结束索引的 logits。

• relevance_logits (torch.FloatTensor 形状为 (n_passages, )) — DPRReader 的 QA 分类器的输出，对应于每个篇章回答问题的得分，与所有其他篇章相比。

• hidden_states (tuple(torch.FloatTensor), 可选, 当传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — torch.FloatTensor 元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• input_ids (Numpy 数组 或 tf.Tensor 形状为 (batch_size, sequence_length)) — 词汇表中输入序列标记的索引。为了匹配预训练，DPR 输入序列应以如下方式格式化 [CLS] 和 [SEP] 标记：

  (a) 对于序列对（例如，对于标题+文本对）：

一个 transformers.models.dpr.modeling_tf_dpr.TFDPRContextEncoderOutput 或 tf.Tensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含根据配置 (DPRConfig) 和输入而变化的各种元素。

• pooler_output (tf.Tensor 形状为 (batch_size, embeddings_size)) — DPR 编码器输出 pooler_output，对应于上下文表示。序列第一个标记（分类标记）的最后一层隐藏状态，由线性层进一步处理。此输出用于将上下文嵌入到问题的嵌入中，以便进行最近邻查询。

• hidden_states (tuple(tf.Tensor)，可选，在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — tf.Tensor 的元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(tf.Tensor)，可选，在传递 output_attentions=True 或 config.output_attentions=True 时返回) — tf.Tensor 的元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• input_ids (Numpy 数组 或 tf.Tensor 形状为 (batch_size, sequence_length)) — 词汇表中输入序列标记的索引。为了匹配预训练，DPR 输入序列应格式化为带有 [CLS] 和 [SEP] 标记，如下所示：

  (a) 对于序列对（例如，对于标题+文本对）：

一个 transformers.models.dpr.modeling_tf_dpr.TFDPRQuestionEncoderOutput 或一个 tf.Tensor 的元组（如果传递了 return_dict=False 或当 config.return_dict=False 时），包含根据配置 (DPRConfig) 和输入而变化的各种元素。

• pooler_output (tf.Tensor 形状为 (batch_size, embeddings_size)) — DPR 编码器输出 pooler_output，它对应于问题表示。序列的第一个标记（分类标记）的最后一层隐藏状态，通过线性层进一步处理。此输出用于将问题嵌入到与上下文嵌入的最近邻查询中。

• hidden_states (tuple(tf.Tensor)，可选，在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — tf.Tensor 的元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(tf.Tensor)，可选，在传递 output_attentions=True 或 config.output_attentions=True 时返回) — tf.Tensor 的元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。

参数

• input_ids (NumPy 数组 或 tf.Tensor 形状为 (n_passages, sequence_length)) — 词汇表中输入序列标记的索引。它必须是一个包含以下三个部分的三元组序列：1）问题，2）段落标题和 3）段落文本。为了匹配预训练，DPR 的 input_ids 序列应以 [CLS] 和 [SEP] 格式化，格式如下：

  [CLS] <问题标记 ID> [SEP] <标题 ID> [SEP] <文本 ID>

  DPR 是一个使用绝对位置嵌入的模型，因此通常建议在右侧而不是左侧填充输入。

  可以使用 DPRReaderTokenizer 获取索引。有关更多详细信息，请参阅此类文档。

• attention_mask (NumPy 数组 或 tf.Tensor 形状为 (n_passages, sequence_length)，可选) — 用于避免对填充标记索引执行注意力的掩码。掩码值选择在 [0, 1] 中：
  • 1 表示未掩码的标记，
  • 0 表示已掩码的标记。

  什么是注意力掩码？

• inputs_embeds (NumPy 数组 或 tf.Tensor 形状为 (n_passages, sequence_length, hidden_size)，可选) — 可选地，您可以选择直接传递嵌入表示，而不是传递 input_ids。如果您希望比模型的内部嵌入查找矩阵更精细地控制如何将 input_ids 索引转换为关联向量，这将非常有用。
• output_hidden_states (bool，可选) — 是否返回所有层的隐藏状态。有关更多详细信息，请参阅返回张量下的 hidden_states。此参数只能在急切模式下使用，在图形模式下将使用配置中的值。
• return_dict (bool，可选) — 是否返回 ModelOutput 而不是普通元组。此参数可在急切模式下使用，在图形模式下，该值将始终设置为 True。
• training (bool，可选，默认为 False) — 是否以训练模式使用模型（某些模块，如 dropout 模块，在训练和评估之间具有不同的行为）。

一个 transformers.models.dpr.modeling_tf_dpr.TFDPRReaderOutput 或一个 tf.Tensor 的元组（如果传递了 return_dict=False 或 config.return_dict=False 时），包含根据配置 (DPRConfig) 和输入而变化的各种元素。

• start_logits (tf.Tensor 形状为 (n_passages, sequence_length)) — 每个段落跨度的起始索引的 logits。

• end_logits (tf.Tensor 形状为 (n_passages, sequence_length)) — 每个段落跨度的结束索引的 logits。

• relevance_logits (tf.Tensor 形状为 (n_passages, )) — DPRReader 的 QA 分类器的输出，对应于每个段落回答问题的得分，与所有其他段落相比。

• hidden_states (tuple(tf.Tensor)，可选，在传递 output_hidden_states=True 或 config.output_hidden_states=True 时返回) — tf.Tensor 的元组（一个用于嵌入的输出 + 一个用于每一层的输出），形状为 (batch_size, sequence_length, hidden_size)。

  模型在每一层输出处的隐藏状态加上初始嵌入输出。

• attentions (tuple(torch.FloatTensor), 可选, 当传递 output_attentions=True 或 config.output_attentions=True 时返回) — torch.FloatTensor 元组（每一层一个），形状为 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 之后的注意力权重，用于计算自注意力头中的加权平均值。