Huggingface.js 文档
接口:QuantizationConfig
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
接口:QuantizationConfig
属性
bits
• Optional
bits: number
定义于
packages/hub/src/lib/parse-safetensors-metadata.ts:352
load _ in _ 4bit
• Optional
load_in_4bit: boolean
定义于
packages/hub/src/lib/parse-safetensors-metadata.ts:353
load _ in _ 8bit
• Optional
load_in_8bit: boolean
定义于
packages/hub/src/lib/parse-safetensors-metadata.ts:354
modules _ to _ not _ convert
• Optional
modules_to_not_convert: string
[]
定义于
packages/hub/src/lib/parse-safetensors-metadata.ts:351
quant _ method
• Optional
quant_method: string
定义于
packages/hub/src/lib/parse-safetensors-metadata.ts:350
< > 在 GitHub 上更新