参数

• 截断 (bool) — 启用截断功能，将长度大于 max_length 的输入序列截断为 max_length。
• pad_to_multiple_of (int, 可选) — 如果设置，将序列填充到给定值的倍数。
  这尤其适用于启用NVIDIA硬件上的Tensor Cores，计算能力为>= 7.5（Volta），或在TPU上，如果序列长度是128的倍数会从中受益。

• return_attention_mask (bool, 可选) — 是否返回注意力掩码。如果保留默认值，则将返回特定feature_extractor的默认注意力掩码。
  什么是注意力掩码？

• 返回tensores而非python整数的列表（str或TensorType，可选）。可接受以下值：
• 采样率（int，可选） — raw_speech输入的采样率。强烈建议在forward调用时传递sampling_rate以防止静默错误。
• 填充值（float，默认为0.0） —

参数

• pretrained_model_name_or_path (字符串 或 os.PathLike) — 这可以是以下之一:
  • 一个字符串，一个在huggingface.co模型库内部的预训练特征提取器的模型id。
  • 一个指向包含使用save_pretrained()方法保存的特征提取器文件的目录的路径，例如，./my_model_directory/。
  • 一个指向已保存特征提取器JSON 文件的路径或URL，例如，./my_model_directory/preprocessor_config.json。**kwargs — 传递给from_pretrained()和~tokenization_utils_base.PreTrainedTokenizer.from_pretrained的额外关键字参数。

参数

• save_directory (str 或 os.PathLike) — 存储功能提取器 JSON 文件和分词器文件的目录（如果不存在，将创建目录）。
• push_to_hub (bool，可选，默认为 False) — 是否在保存模型后将模型推送到 Hugging Face 模型仓库。您可以使用 repo_id 指定要推送到的存储库（将在您的命名空间中将默认为 save_directory 的名称）。
• kwargs (Dict[str, Any], 可选) — 传递给push_to_hub() 方法的额外关键字参数。

参数

• input_features (torch.LongTensor of shape (batch_size, sequence_length)) — 输入序列标记的索引，位于词汇表中。

  可以通过 Wav2Vec2CTCTokenizer 获取索引。有关详细信息，请参阅 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什么是输入ID？

• attention_mask (torch.FloatTensor 形状为 (batch_size, sequence_length)，可选) — 用于避免在填充标记索引上执行注意力的掩码。掩码值在 [0, 1] 范围内选择：
  • 1 代表 未掩码 的标记，
  • 0 代表 掩码 的标记。

  什么是注意力掩码？

• head_mask (torch.FloatTensor 形状为 (num_heads,) 或 (num_layers, num_heads)，可选) — 用于使自注意力模块中选定的头无效的掩码。掩码值在 [0, 1] 范围内选择：
  • 1 表示 未掩码 的头，
  • 0 表示 掩码 的头。
• output_attentions (bool，可选) — 是否返回所有注意力层的注意力张量。有关更多详细信息，请参阅返回张量下的 attentions。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。详见返回张量的 hidden_states 的详细说明。
• return_dict (bool, 可选) — 是否返回一个 ModelOutput 而不是普通元组。

transformers.modeling_outputs.BaseModelOutput 或一个包含各种元素的 torch.FloatTensor 元组（若传递了 return_dict=False 或当 config.return_dict=False 时），具体取决于配置（MCTCTConfig）和输入。

• last_hidden_state （形状为 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor） — 模型的最后一层输出的隐藏状态序列。

• hidden_states （tuple(torch.FloatTensor)，可选，当传递了 output_hidden_states=True 或当 config.output_hidden_states=True 时返回） — 一个 torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出）的形状为 (batch_size, sequence_length, hidden_size)。

  模型在每个层的输出以及可选的初始嵌入输出。

• attentions （tuple(torch.FloatTensor)，可选，当传递了 output_attentions=True 或当 config.output_attentions=True 时返回） — 一个形状为 (batch_size, num_heads, sequence_length, sequence_length) 的 torch.FloatTensor 的元组（一个用于每个层）。

  注意力softmax后的注意力权重，用于在自注意力头中进行加权平均。

参数

• input_features (torch.LongTensor of shape ({0})) — 输入序列标记在词汇表中的索引。

  索引可以使用 Wav2Vec2CTCTokenizer 获取。有关详细信息，请参阅 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call().

  什么是输入ID？

• attention_mask (torch.FloatTensor 形状为 ({0})，可选) — 避免在填充标记索引上进行注意力操作的工具。选择的屏蔽值在 [0, 1] 之间：
  • 1 表示 未屏蔽 的标记；
  • 0 表示 屏蔽 的标记。

  什么是注意力屏蔽？

• head_mask (torch.FloatTensor 形状为 (num_heads,) 或 (num_layers, num_heads)，可选) — 可以屏蔽自注意力模块中选定的头部。选择的屏蔽值在 [0, 1] 之间：
  • 1 表示头部 未屏蔽；
  • 0 表示头部 屏蔽。
• output_attentions (bool，可选) — 是否返回所有注意力层的张量。有关更多详细信息，请参阅返回张量中的 attentions。
• output_hidden_states (bool, 可选) — 是否返回所有层的隐藏状态。有关返回张量中hidden_states的更多详细信息，请参阅。
• return_dict (bool, 可选) — 是否返回ModelOutput而不是普通元组。
• labels (torch.LongTensor of shape (batch_size, target_length), 可选) — 连接时序分类的标签。注意，target_length必须小于或等于输出对数序列的长度。索引在[-100, 0, ..., config.vocab_size - 1]中选择。所有设置为-100的标签都被忽略（掩码），只对[0, ..., config.vocab_size - 1]中的标签计算损失。

A transformers.modeling_outputs.CausalLMOutput或由torch.FloatTensor组成的元组（如果传递return_dict=False或当config.return_dict=False时），由配置（MCTCTConfig）和输入定义的各个元素组成。

• loss (torch.FloatTensor of shape (1,), 可选，当提供labels时返回) — 语言模型损失（用于预测下一个标记）。

• logits （形状为 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor） — 语言建模头部预测分数（每个词汇表标记在SoftMax之前的分数）。

• hidden_states （tuple(torch.FloatTensor)，可选，当传递了 output_hidden_states=True 或当 config.output_hidden_states=True 时返回） — 一个 torch.FloatTensor 的元组（一个用于嵌入层的输出，如果模型有嵌入层，+ 一个用于每个层的输出）的形状为 (batch_size, sequence_length, hidden_size)。

  模型在每个层的输出以及可选的初始嵌入输出。

• attentions （tuple(torch.FloatTensor)，可选，当传递了 output_attentions=True 或当 config.output_attentions=True 时返回） — 一个形状为 (batch_size, num_heads, sequence_length, sequence_length) 的 torch.FloatTensor 的元组（一个用于每个层）。

  注意力softmax后的注意力权重，用于在自注意力头中进行加权平均。