Optimum 文档
笔记本
加入 Hugging Face 社区
并获取增强的文档体验
开始使用
笔记本
推理
笔记本 | 描述 | ||
---|---|---|---|
如何使用 OpenVINO 运行推理 | 解释了如何将您的模型导出到 OpenVINO,并在各种任务上使用 OpenVINO Runtime 运行推理 |
量化
笔记本 | 描述 | ||
---|---|---|---|
如何使用 OpenVINO NNCF 量化问答模型 | 展示如何使用 NNCF 对问答模型应用训练后量化 | ||
如何使用 OpenVINO NNCF 量化 Stable Diffusion 模型 | 展示如何使用 NNCF 对 Stable Diffusion 模型应用训练后混合量化 |