AMD Ryzen AI

Ryzen AI 支持正在开发中，并在未来几个月内得到极大改进和扩展。

AMD 的 Ryzen™ AI 系列笔记本电脑处理器为用户提供了集成的神经处理单元 (NPU)，该单元将主机 CPU 和 GPU 从 AI 处理任务中卸载。Ryzen™ AI 软件包括用于 ONNX Runtime 的 Vitis™ AI 执行提供程序 (EP)，以及量化工具和一个预优化模型库。所有这一切都是基于构建在 AMD XDNA™ 架构上的 Ryzen™ AI 技术实现的，该架构专为高效且本地运行 AI 工作负载而构建，为开发人员创新下一代突破性 AI 应用提供了许多优势。

Optimum-AMD 提供了简单易用的接口，用于在 Ryzen AI 加速器上加载和推理 Hugging Face 模型。

安装

Ryzen AI 环境设置

需要启用 Ryzen AI 环境才能使用此库。请参阅 Ryzen AI 的安装和运行时设置。

注意：RyzenAI 模型需要一个运行时配置文件。此运行时配置文件的默认版本可以在 Ryzen AI VOE 包中找到，该包在安装期间解压缩，名称为 vaip_config.json。有关更多信息，请参阅运行时配置文件

如果未提供运行时配置文件，则库将使用 RyzenAIXXX 模型类中定义的配置。有关可用配置，请参阅 ryzenai/configs/。

安装 Optimum-amd

git clone https://github.com/huggingface/optimum-amd.git
cd optimum-amd
pip install -e .[ryzenai]

使用预优化模型进行推理

RyzenAI 为各种任务（如图像分类、超分辨率、目标检测等）提供了预优化模型。以下是如何运行 Resnet 进行图像分类的示例。

>>> from functools import partial

>>> from datasets import load_dataset

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import AutoImageProcessor, pipeline


>>> model_id = "amd/resnet50"

>>> model = RyzenAIModelForImageClassification.from_pretrained(model_id)
>>> processor = AutoImageProcessor.from_pretrained(model_id)

>>> # Load image
>>> dataset = load_dataset("imagenet-1k", split="validation", streaming=True, trust_remote_code=True)
>>> data = next(iter(dataset))
>>> image = data["image"]

>>> cls_pipe = pipeline(
...    "image-classification", model=model, image_processor=partial(processor, data_format="channels_last")
... )
>>> outputs = cls_pipe(image)
>>> print(outputs)

Ryzen 预优化模型与用于推理的转换器管道不兼容。

🤗 Timm 的最小工作示例

先决条件

使用 Optimum 导出器导出模型。
使用 RyzenAI 量化工具量化 ONNX 模型。有关量化的更多信息，请参阅模型量化指南。

使用 Ryzen AI 类加载模型

>>> import requests
>>> from PIL import Image

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import PretrainedConfig, pipeline

>>> import timm
>>> import torch

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> #  See [quantize.py](https://huggingface.co/mohitsha/timm-resnet18-onnx-quantized-ryzen/blob/main/quantize.py) for more details on quantization.
>>> quantized_model_path = "mohitsha/timm-resnet18-onnx-quantized-ryzen"

>>> model = RyzenAIModelForImageClassification.from_pretrained(quantized_model_path)

>>> config = PretrainedConfig.from_pretrained(quantized_model_path)

>>> # preprocess config
>>> data_config = timm.data.resolve_data_config(pretrained_cfg=config.pretrained_cfg)
>>> transforms = timm.data.create_transform(**data_config, is_training=False)

>>> output = model(transforms(image).unsqueeze(0)).logits  # unsqueeze single image into batch of 1
>>> top5_probabilities, top5_class_indices = torch.topk(torch.softmax(output, dim=1) * 100, k=5)

Timm 模型与用于推理的 Transformer 管道不兼容。

🤗 Transformers 的最小工作示例

先决条件

使用 Optimum 导出器导出模型。
使用 RyzenAI 量化工具量化 ONNX 模型。有关量化的更多信息，请参阅模型量化指南。

使用 Ryzen AI 类加载模型

要加载 transformers 模型并使用 RyzenAI 进行推理，您只需将您的 AutoModelForXxx 类替换为相应的 RyzenAIModelForXxx 类。

请参见以下图像分类示例。

>>> import requests
>>> from PIL import Image

>>> from optimum.amd.ryzenai import RyzenAIModelForImageClassification
>>> from transformers import AutoFeatureExtractor, pipeline

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> 
>>> # See [quantize.py](https://huggingface.co/mohitsha/transformers-resnet18-onnx-quantized-ryzen/blob/main/quantize.py) for more details on quantization.
>>> quantized_model_path = "mohitsha/transformers-resnet18-onnx-quantized-ryzen"

>>> model = RyzenAIModelForImageClassification.from_pretrained(quantized_model_path)
>>> feature_extractor = AutoFeatureExtractor.from_pretrained(quantized_model_path)

>>> cls_pipe = pipeline("image-classification", model=model, feature_extractor=feature_extractor)
>>> outputs = cls_pipe(image)

Optimum-AMD 仅支持 Transformers 中的 ResNet 模型进行推理。

< > GitHub 更新