Optimum 文档

笔记本

您正在查看 主分支 版本,需要从源代码安装. 如果你想使用 pip 安装,请查看最新的稳定版本 (v1.23.1).
Hugging Face's logo
加入 Hugging Face 社区

并获取增强的文档体验

开始使用

笔记本

推理

笔记本 描述
如何使用 OpenVINO 运行推理 解释如何将您的模型导出到 OpenVINO,以及如何使用 OpenVINO Runtime 在各种任务上运行推理 Open in Colab Open in AWS Studio

量化

笔记本 描述
如何使用 OpenVINO NNCF 量化问答模型 展示如何使用 NNCF 对问答模型应用训练后量化 Open in Colab Open in AWS Studio
如何使用 OpenVINO NNCF 量化 Stable Diffusion 模型 展示如何使用 NNCF 对 Stable Diffusion 模型应用训练后混合量化 Open in Colab Open in AWS Studio
< > 更新 在 GitHub 上