Optimum

Optimum 是一个优化库，支持 Intel、Furiousa、ONNX Runtime、GPTQ 以及更低层的 PyTorch 量化函数的量化。它旨在增强特定硬件（如 Intel CPU/HPU、AMD GPU、Furiousa NPU 等）和模型加速器（如 ONNX Runtime）的性能。

< > 在 GitHub 上更新