Huggingface.js 文档

接口:QuantizationConfig

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

接口:QuantizationConfig

属性

bits

Optional bits: number

定义于

packages/hub/src/lib/parse-safetensors-metadata.ts:352


load _ in _ 4bit

Optional load_in_4bit: boolean

定义于

packages/hub/src/lib/parse-safetensors-metadata.ts:353


load _ in _ 8bit

Optional load_in_8bit: boolean

定义于

packages/hub/src/lib/parse-safetensors-metadata.ts:354


modules _ to _ not _ convert

Optional modules_to_not_convert: string[]

定义于

packages/hub/src/lib/parse-safetensors-metadata.ts:351


quant _ method

Optional quant_method: string

定义于

packages/hub/src/lib/parse-safetensors-metadata.ts:350

< > 在 GitHub 上更新