PEFT 类型
PeftType 包含 PEFT 中支持的适配器,而 TaskType 包含 PEFT 支持的任务。
PeftType
PEFT 中不同类型的适配器的枚举类。
支持的 PEFT 类型
- PROMPT_TUNING
- MULTITASK_PROMPT_TUNING
- P_TUNING
- PREFIX_TUNING
- LORA
- ADALORA
- BOFT
- ADAPTION_PROMPT
- IA3
- LOHA
- LOKR
- OFT
- XLORA
- POLY
- LN_TUNING
- VERA
- FOURIERFT
- HRA
TaskType
PEFT 支持的不同任务类型的枚举类。
支持的任务类型的概述
- SEQ_CLS: 文本分类。
- SEQ_2_SEQ_LM: 序列到序列语言建模。
- CAUSAL_LM: 因果语言建模。
- TOKEN_CLS: 标记分类。
- QUESTION_ANS: 问答。
- FEATURE_EXTRACTION: 特征提取。提供可用于下游任务的嵌入或特征的隐藏状态。