Optimum

概述

概念指南

Nvidia

AMD

英特尔

AWS Trainium/Inferentia

Google TPUs

Habana

Furiosa

操作指南

参考

ONNX 运行时

导出器

BetterTransformer

Torch FX

LLM 量化

实用程序

您正在查看主版本，需要从源代码安装。如果您想使用常规的 pip 安装，请查看最新的稳定版本（v1.23.1）。

加入 Hugging Face 社区

并获得增强型文档体验

在模型、数据集和空间上进行协作

通过加速推理获得更快的示例

在文档主题之间切换

开始使用

🤗 最佳 Furiosa

🤗 最佳 Furiosa 是 🤗 Transformers 库与 Furiosa NPU Furiosa Warboy 之间的接口。它提供了一套工具，使不同下游任务的模型加载和推理变得容易。

实用指南，帮助您实现特定目标。查看这些指南以了解如何使用 🤗 最佳 Furiosa 来解决现实世界中的问题。

关于 🤗 最佳 Furiosa 的类和方法如何工作的技术描述。