Optimum 文档

TFLite 导出配置类

您正在查看 main 版本,该版本需要从源代码安装。如果您想进行常规 pip 安装,请查看最新的稳定版本 (v1.24.0)。
Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

TFLite 导出配置类

基础类

class optimum.exporters.tflite.TFLiteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

参数

  • config (transformers.PretrainedConfig) — 模型配置。
  • task (str, 默认为 "feature-extraction") — 模型应导出的任务。
  • 其余参数 用于指定模型可以接受的输入的形状。 —
  • 它们 是否是必需的取决于 TFLiteConfig 设计用于的模型。 —

TFLite 可导出模型的基础类,描述了如何通过 TFLite 格式导出模型的元数据。

类属性

  • NORMALIZED_CONFIG_CLASS (Type) — 一个派生自 NormalizedConfig 的类,指定如何标准化模型配置。

  • DUMMY_INPUT_GENERATOR_CLASSES (Tuple[Type]) — 一个派生自 DummyInputGenerator 的类元组,指定如何创建虚拟输入。

  • ATOL_FOR_VALIDATION (Union[float, Dict[str, float]]) — 一个浮点数或一个将任务名称映射到浮点数的字典,其中浮点数值表示在模型转换验证期间使用的绝对容差值。

  • MANDATORY_AXES (Tuple[Union[str, Tuple[Union[str, Tuple[str]]]]]) — 一个元组,其中每个元素可以是:

    • 轴名称,例如“batch_size”或“sequence_length”,表示导出模型需要该轴维度,
    • 或包含两个元素的元组
      • 第一个元素可以是字符串或字符串元组,并指定需要该轴的任务,
      • 第二个元素是轴名称。

    例如:MANDATORY_AXES = ("batch_size", "sequence_length", ("multiple-choice", "num_choices")) 表示要导出模型,始终需要指定批次大小和序列长度值,并且当任务是多项选择时,需要指定可能选择的数量值。

inputs

< >

( ) List[str]

返回

List[str]

输入名称列表。

包含导出模型应接受的输入名称的列表。

outputs

< >

( ) List[str]

返回

List[str]

输出名称列表。

包含导出模型应具有的输出名称的列表。

generate_dummy_inputs

< >

( ) Dict[str, tf.Tensor]

返回

Dict[str, tf.Tensor]

将输入名称映射到虚拟张量的字典。

生成导出模型应能够处理的虚拟输入。此方法实际上用于确定导出所需的输入规范。

中间层类

class optimum.exporters.tflite.config.TextEncoderTFliteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

处理基于编码器的文本架构。

class optimum.exporters.tflite.config.VisionTFLiteConfig

< >

( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )

处理视觉架构。

< > Update on GitHub