AMD Ryzen AI

Ryzen AI 支持正在开发中，未来几个月将得到大幅改进和扩展。

AMD 的 Ryzen™ AI 系列笔记本处理器为用户提供了集成神经网络处理单元（NPU），可将 AI 处理任务从主机 CPU 和 GPU 上分载。Ryzen™ AI 软件包含适用于 ONNX Runtime 的 Vitis™ AI 执行提供程序（EP），以及量化工具和预优化模型库。所有这些都基于 AMD XDNA™ 架构上的 Ryzen™ AI 技术实现，该架构专为高效地本地运行 AI 工作负载而设计，为创新下一代突破性 AI 应用程序的开发者提供了诸多优势。

Optimum-AMD 为在 Ryzen AI 加速器上加载和推理 Hugging Face 模型提供了便捷的界面。

安装

Ryzen AI 环境设置

需要启用 Ryzen AI 环境才能使用此库。请参阅 Ryzen AI 的安装和运行时设置。

注意：RyzenAI 模型需要运行时配置文件。该运行时配置文件的默认版本可以在 Ryzen AI VOE 包中找到，在安装过程中会以 `vaip_config.json` 的名称提取。有关更多信息，请参阅运行时配置文件

如果未提供运行时配置文件，库将使用 RyzenAIXXX 模型类中定义的配置。有关可用配置，请参阅ryzenai/configs/。

安装 Optimum-amd

git clone https://github.com/huggingface/optimum-amd.git
cd optimum-amd
pip install -e .[ryzenai]

使用预优化模型进行推理

RyzenAI 提供用于图像分类、超分辨率、目标检测等各种任务的预优化模型。以下是运行 Resnet 进行图像分类的示例。

>>> from functools import partial

>>> from datasets import load_dataset

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import AutoImageProcessor, pipeline


>>> model_id = "amd/resnet50"

>>> model = RyzenAIModelForImageClassification.from_pretrained(model_id)
>>> processor = AutoImageProcessor.from_pretrained(model_id)

>>> # Load image
>>> dataset = load_dataset("imagenet-1k", split="validation", streaming=True, trust_remote_code=True)
>>> data = next(iter(dataset))
>>> image = data["image"]

>>> cls_pipe = pipeline(
...    "image-classification", model=model, image_processor=partial(processor, data_format="channels_last")
... )
>>> outputs = cls_pipe(image)
>>> print(outputs)

Ryzen 预优化模型不兼容 Transformer 管道进行推理。

🤗 Timm 的最小工作示例

先决条件

使用Optimum Exporters导出模型。
使用 RyzenAI 量化工具对 ONNX 模型进行量化。有关量化的更多信息，请参阅模型量化指南。

使用 Ryzen AI 类加载模型

>>> import requests
>>> from PIL import Image

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import PretrainedConfig, pipeline

>>> import timm
>>> import torch

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> #  See [quantize.py](https://huggingface.co/mohitsha/timm-resnet18-onnx-quantized-ryzen/blob/main/quantize.py) for more details on quantization.
>>> quantized_model_path = "mohitsha/timm-resnet18-onnx-quantized-ryzen"

>>> model = RyzenAIModelForImageClassification.from_pretrained(quantized_model_path)

>>> config = PretrainedConfig.from_pretrained(quantized_model_path)

>>> # preprocess config
>>> data_config = timm.data.resolve_data_config(pretrained_cfg=config.pretrained_cfg)
>>> transforms = timm.data.create_transform(**data_config, is_training=False)

>>> output = model(transforms(image).unsqueeze(0)).logits  # unsqueeze single image into batch of 1
>>> top5_probabilities, top5_class_indices = torch.topk(torch.softmax(output, dim=1) * 100, k=5)

Timm 模型不兼容 transformer 管道进行推理。

🤗 Transformers 的最小工作示例

先决条件

使用Optimum Exporters导出模型。
使用 RyzenAI 量化工具对 ONNX 模型进行量化。有关量化的更多信息，请参阅模型量化指南。

使用 Ryzen AI 类加载模型

要加载 transformers 模型并使用 RyzenAI 进行推理，您只需将 `AutoModelForXxx` 类替换为对应的 `RyzenAIModelForXxx` 类即可。

请参阅下面的图像分类示例。

>>> import requests
>>> from PIL import Image

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import AutoFeatureExtractor, pipeline

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> 
>>> # See [quantize.py](https://huggingface.co/mohitsha/transformers-resnet18-onnx-quantized-ryzen/blob/main/quantize.py) for more details on quantization.
>>> quantized_model_path = "mohitsha/transformers-resnet18-onnx-quantized-ryzen"

>>> model = RyzenAIModelForImageClassification.from_pretrained(quantized_model_path)
>>> feature_extractor = AutoFeatureExtractor.from_pretrained(quantized_model_path)

>>> cls_pipe = pipeline("image-classification", model=model, feature_extractor=feature_extractor)
>>> outputs = cls_pipe(image)

Optimum-AMD 仅支持 Transformers 中的 ResNet 模型进行推理。

< > 在 GitHub 上更新