Optimum 文档

概述

Optimum

概述

🤗 Optimum 安装快速入门笔记本

概念指南

英伟达

AMD

英特尔

AWS Trainium/Inferentia

Google TPU

Habana

Furiosa

🤗 Optimum Furiosa 安装

操作指南

概述建模量化

参考

ONNX 运行时

导出器

BetterTransformer

Torch FX

LLM 量化

实用程序

您正在查看主分支版本，需要从源代码安装。如果您想使用常规的 pip 安装，请查看最新稳定版本 (v1.23.1)。

加入 Hugging Face 社区

并获得增强文档体验

协作模型、数据集和空间

使用加速推理获得更快的示例

在文档主题之间切换

开始使用

概述

欢迎来到 🤗 Optimum Furiosa 操作指南！这些指南涵盖更高级的主题，将向您展示如何轻松获得 NPU 的最佳性能。

←安装建模→