Hugging Face
模型
数据集
空间
社区
文档
企业版
定价
登录
注册
Learn
Optimum 文档
笔记本
Optimum
🏡 查看所有文档
AWS Trainium & Inferentia
Accelerate
Argilla
AutoTrain
Bitsandbytes
聊天用户界面
数据集查看器
数据集
在 AWS 上部署
Diffusers
Distilabel
Evaluate
Gradio
Hub
Hub Python 库
Huggingface.js
推理端点(专用)
推理服务提供商
LeRobot
排行榜
Lighteval
Microsoft Azure
Optimum
PEFT
Safetensors
Sentence Transformers
TRL
任务
文本嵌入推理
文本生成推理
Tokenizers
Transformers
Transformers.js
smolagents
timm
搜索文档
main
v1.27.0
v1.26.1
v1.25.2
v1.24.0
v1.23.3
v1.22.0
v1.21.4
v1.20.0
v1.19.0
v1.18.1
v1.17.1
v1.16.2
v1.15.0
v1.14.0
v1.13.2
v1.12.0
v1.11.2
v1.10.1
v1.9.0
v1.8.6
v1.7.3
v1.6.4
v1.5.2
v1.4.1
v1.3.0
v1.2.3
v1.0.0
英
概览
🤗 Optimum
安装
快速入门
Notebooks
概念指南
量化
英伟达
AMD
Intel
🤗 Optimum Intel
安装
Neural Compressor
OpenVINO
IPEX
推理
支持的模型
教程
笔记本
AWS Trainium/Inferentia
Google TPUs
适用于 Intel Gaudi
ExecuTorch
Furiosa
ONNX Runtime
导出器
Torch FX
LLM 量化
实用工具
您正在查看的是需要
从源码安装
。如果您希望通过pip常规安装,请查看最新的稳定版本 (
v1.27.0
)。
加入 Hugging Face 社区
并获得增强的文档体验
在模型、数据集和 Spaces 上进行协作
通过加速推理获得更快的示例
切换文档主题
注册
开始使用
Notebooks
推理
笔记本
描述
如何使用IPEX运行推理
解释如何将模型导出到IPEX,并使用IPEX模型在文本生成任务上运行推理
<
>
在 GitHub 上更新
←
支持的模型
🤗 Optimum Neuron
→
Notebooks
推理