Optimum 文档

用于 TFLite 导出的配置类

您正在查看 主分支 版本,需要从源代码安装. 如果你想使用常规的 pip 安装,请查看最新的稳定版本 (v1.23.1).
Hugging Face's logo
加入 Hugging Face 社区

并获得增强型文档体验

开始使用

用于 TFLite 导出的配置类

基类

class optimum.exporters.tflite.TFLiteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

参数

  • config (transformers.PretrainedConfig) — 模型配置.
  • task (str, 默认值为 "feature-extraction") — 模型应该导出执行的任务.
  • 其余 参数用于指定模型可以接受的输入的形状. —
  • 它们 是必需的还是不必要的,取决于 TFLiteConfig 所针对的模型。 —

TFLite 可导出模型的基类,描述了通过 TFLite 格式导出模型的元数据。

类属性

  • NORMALIZED_CONFIG_CLASS (Type) — 从 NormalizedConfig 派生的类,指定如何规范化模型配置。

  • DUMMY_INPUT_GENERATOR_CLASSES (Tuple[Type]) — 从 DummyInputGenerator 派生的类元组,指定如何创建虚拟输入。

  • ATOL_FOR_VALIDATION (Union[float, Dict[str, float]]) — 一个浮点数或一个字典,将任务名称映射到浮点数,其中浮点数表示模型转换验证期间使用的绝对容差值。

  • MANDATORY_AXES (Tuple[Union[str, Tuple[Union[str, Tuple[str]]]]]) — 一个元组,其中每个元素都是:

    • 一个轴名称,例如“batch_size”或“sequence_length”,表示需要轴维度来导出模型,
    • 或包含两个元素的元组
      • 第一个元素是一个字符串或字符串元组,指定需要轴的哪个任务(或哪些任务)。
      • 第二个元素是轴名称。

    例如:MANDATORY_AXES = ("batch_size", "sequence_length", ("multiple-choice", "num_choices")) 表示,为了导出模型,始终需要指定批大小和序列长度值,并且当任务是多项选择时,需要为可能的选择数量指定一个值。

输入

< >

( ) List[str]

返回值

List[str]

输入名称列表。

包含导出模型应该接受的输入名称的列表。

输出

< >

( ) List[str]

返回值

List[str]

输出名称列表。

包含导出模型应该具有的输出名称的列表。

生成虚拟输入

< >

( ) Dict[str, tf.Tensor]

返回值

Dict[str, tf.Tensor]

一个将输入名称映射到虚拟张量的字典。

生成导出模型应该能够处理的虚拟输入。此方法实际上用于确定导出所需的输入规范。

中间层类

class optimum.exporters.tflite.config.TextEncoderTFliteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

处理基于编码器的文本架构。

class optimum.exporters.tflite.config.VisionTFLiteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

处理视觉架构。

< > 在 GitHub 上更新