Optimum

参数

• model_id (Union[str, Path]) — 可以是：
  • 一个字符串，表示托管在 huggingface.co 上的模型仓库中的预训练模型的模型 ID。有效的模型 ID 可以位于根级别，例如 bert-base-uncased，或者位于用户或组织名称下的命名空间中，例如 dbmdz/bert-base-german-cased。
  • 使用 ~OptimizedModel.save_pretrained 保存的模型所在的目录的路径，例如 ./my_model_directory/。
• export (bool，默认为 False) — 定义是否需要将提供的 model_id 导出为目标格式。
• force_download (bool，默认为 True) — 是否强制（重新）下载模型权重和配置文件，覆盖现有的缓存版本。
• use_auth_token (Optional[Union[bool,str]]，默认为 None) — 已弃用。请改用 token 参数。
• token (Optional[Union[bool,str]]，默认为 None) — 用作远程文件 HTTP 授权标头的令牌。如果为 True，则使用运行 huggingface-cli login 时生成的令牌（存储在 huggingface_hub.constants.HF_TOKEN_PATH 中）。
• cache_dir (Optional[str]，默认为 None) — 下载的预训练模型配置应缓存到的目录的路径，如果不想使用标准缓存。
• subfolder (str，默认为 "") — 如果相关文件位于模型仓库的子文件夹中（本地或在 huggingface.co 上），则可以在这里指定文件夹名称。
• config (Optional[transformers.PretrainedConfig]，默认为 None) — 模型配置。
• local_files_only (Optional[bool]，默认为 False) — 是否只查看本地文件（即不尝试下载模型）。
• trust_remote_code (bool，默认为 False) — 是否允许 Hub 中定义的自定义代码在其自己的模型中使用。此选项仅应在您信任的存储库中且已阅读代码的情况下设置为 True，因为它将在您的本地机器上执行 Hub 上存在的代码。
• provider (str，默认为 "VitisAIExecutionProvider") — 用于加载模型的 ONNX Runtime 提供程序。有关可能的提供程序，请参阅 https://onnxruntime.ai/docs/execution-providers/。
• session_options (Optional[onnxruntime.SessionOptions]，默认为 None) — 用于加载模型的 ONNX Runtime 会话选项。
• provider_options (Optional[Dict[str, Any]]，默认为 None) — 与所用提供程序相对应的提供程序选项字典。请参阅每个提供程序的可用选项： https://onnxruntime.ai/docs/api/c/group___global.html。
• kwargs (Dict[str, Any]) — 将传递给底层模型加载方法。

解码器模型的参数 (RyzenAIForSpeechSeq2Seq)

• use_cache (Optional[bool]，默认为 True) — 是否应使用过去的键/值缓存。默认为 True。

加载的 RyzenAIModel 模型。

参数

• save_directory (Union[str, os.PathLike]) — 要保存到的目录。如果不存在，则会创建它。
• push_to_hub (bool，可选，默认为 False) — 保存模型后是否将其推送到 Hugging Face 模型中心。

  使用 push_to_hub=True 将同步您正在推送到 save_directory 的存储库，这需要 save_directory 是您正在推送到存储库的本地克隆（如果它是一个现有文件夹）。传递 temp_dir=True 以使用临时目录。

参数

• input_shape_dict (Dict[str, Tuple[int]]) — 模型的输入形状。
• output_shape_dict (Dict[str, Tuple[int]]) — 模型的输出形状。

更新输入形状后模型的路径。

• ValueError — 如果提供的模型在输入/输出中具有动态轴，并且未提供输入/输出形状。