Optimum 文档

概述

Optimum

概述

🤗 Optimum 安装快速入门 Notebooks

概念指南

Nvidia

AMD

Intel

AWS Trainium/Inferentia

Google TPUs

for Intel Gaudi

Furiosa

🤗 Optimum Furiosa 安装

操作指南

概述建模量化

参考

ExecuTorch

ONNX Runtime

导出器

BetterTransformer

Torch FX

LLM 量化

实用工具

您正在查看 main 版本，该版本需要从源码安装。如果您想要常规 pip 安装，请查看最新的稳定版本 (v1.24.0)。

加入 Hugging Face 社区

并获得增强的文档体验

协作处理模型、数据集和 Spaces

通过加速推理获得更快的示例

切换文档主题

开始使用

概述

欢迎来到 🤗 Optimum Furiosa 操作指南！这些指南探讨更高级的主题，并将向您展示如何轻松从 NPU 中获得最佳性能

←安装建模→