模型

通用模型类

以下 Furiosa 类用于实例化没有特定 heads 的基础模型类。

FuriosaAIModel

类 optimum.furiosa.FuriosaAIModel

< 源代码 >

( model config: PretrainedConfig = None compute_metrics: Optional = None label_names: Optional = None **kwargs )

evaluation_loop

< 来源 >

( dataset: 数据集 )

参数

dataset (datasets.Dataset) — 用于评估步骤的数据集。

运行评估并返回指标和预测。

至

< 源代码 >

( device: str )

在推理中使用指定的device。例如：“cpu”或“gpu”。device可以是大写或小写。要加速首次推理，请在.to()后调用 .compile()。

计算机视觉

下列类可用于下列计算机视觉任务。

FuriosaAIModelForImageClassification

类 optimum.furiosa.FuriosaAIModelForImageClassification

< 源 >

( model = None config = None **kwargs )

参数

model (furiosa.runtime.model)——是用于运行推理的主要类。
config (transformers.PretrainedConfig)——PretrainedConfig 是带有模型所有参数的模型配置文件类。使用配置文件初始化不会加载与模型关联的权重，只会加载配置。查看 ~furiosa.modeling.FuriosaAIBaseModel.from_pretrained 方法以加载模型权重。
device (str，默认为 "CPU") — 模型为其优化时所使用的设备类型。最终编译的模型将包含特定于此设备的节点。
furiosa_config (Optional[Dict]，默认为 None) — 包含与模型编译相关的信息的字典。
compile (bool，默认为 True) — 将在加载步骤中禁用模型编译时设置为 False。

带有用于图像分类任务的 ImageClassifierOutput 的 FuriosaAI 模型。

此模型继承自 optimum.furiosa.FuriosaAIBaseModel。查看超类文档，了解库针对其所有模型（如下载或保存）实现的通用方法

forward

< 源 >

( pixel_values: Union **kwargs )

参数

pixel_values (torch.Tensor) — 当前批次中的图像对应的像素值。可以使用 AutoFeatureExtractor 根据编码图像获取像素值。

FuriosaAIModelForImageClassification 前向方法覆盖了 __call__ 特殊方法。

虽然前向传播的配方需要在这个函数中定义，但是应该在调用此函数之后调用 Module 实例，因为前者负责执行预处理和后处理步骤，而后者会忽略它们。

使用 transformers.pipelines 进行图像分类的示例

>>> from transformers import AutoFeatureExtractor, pipeline
>>> from optimum.furiosa import FuriosaAIModelForImageClassification

>>> preprocessor = AutoFeatureExtractor.from_pretrained("microsoft/resnet50")
>>> model = FuriosaAIModelForImageClassification.from_pretrained("microsoft/resnet50", export=True, input_shape_dict="dict('pixel_values': [1, 3, 224, 224])", output_shape_dict="dict("logits": [1, 1000])",)
>>> pipe = pipeline("image-classification", model=model, feature_extractor=preprocessor)
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> outputs = pipe(url)

Optimum

模型