用于 TFLite 导出的配置类
基类
class optimum.exporters.tflite.TFLiteConfig
< 源代码 >( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )
TFLite 可导出模型的基类,描述了通过 TFLite 格式导出模型的元数据。
类属性
NORMALIZED_CONFIG_CLASS (
Type
) — 从 NormalizedConfig 派生的类,指定如何规范化模型配置。DUMMY_INPUT_GENERATOR_CLASSES (
Tuple[Type]
) — 从 DummyInputGenerator 派生的类元组,指定如何创建虚拟输入。ATOL_FOR_VALIDATION (
Union[float, Dict[str, float]]
) — 一个浮点数或一个字典,将任务名称映射到浮点数,其中浮点数表示模型转换验证期间使用的绝对容差值。MANDATORY_AXES (
Tuple[Union[str, Tuple[Union[str, Tuple[str]]]]]
) — 一个元组,其中每个元素都是:- 一个轴名称,例如“batch_size”或“sequence_length”,表示需要轴维度来导出模型,
- 或包含两个元素的元组
- 第一个元素是一个字符串或字符串元组,指定需要轴的哪个任务(或哪些任务)。
- 第二个元素是轴名称。
例如:
MANDATORY_AXES = ("batch_size", "sequence_length", ("multiple-choice", "num_choices"))
表示,为了导出模型,始终需要指定批大小和序列长度值,并且当任务是多项选择时,需要为可能的选择数量指定一个值。
包含导出模型应该接受的输入名称的列表。
包含导出模型应该具有的输出名称的列表。
生成导出模型应该能够处理的虚拟输入。此方法实际上用于确定导出所需的输入规范。
中间层类
class optimum.exporters.tflite.config.TextEncoderTFliteConfig
< 源代码 >( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )
处理基于编码器的文本架构。
class optimum.exporters.tflite.config.VisionTFLiteConfig
< 源代码 >( config: PretrainedConfig task: str batch_size: int = 1 sequence_length: typing.Optional[int] = None num_choices: typing.Optional[int] = None width: typing.Optional[int] = None height: typing.Optional[int] = None num_channels: typing.Optional[int] = None feature_size: typing.Optional[int] = None nb_max_frames: typing.Optional[int] = None audio_sequence_length: typing.Optional[int] = None point_batch_size: typing.Optional[int] = None nb_points_per_image: typing.Optional[int] = None )
处理视觉架构。