๐ค Transformers
้ๅฏน PyTorchใTensorFlow ๅ JAX ็ๆๅ ่ฟๆบๅจๅญฆไน ใ
๐ค Transformers ๆไพ API ๅๅทฅๅ ท๏ผๅฏไปฅ่ฝปๆพไธ่ฝฝๅ่ฎญ็ปๆๅ ่ฟ็้ข่ฎญ็ปๆจกๅใไฝฟ็จ้ข่ฎญ็ปๆจกๅๅฏไปฅ้ไฝๆจ็่ฎก็ฎๆๆฌๅ็ขณ่ถณ่ฟน๏ผๅนถ่็ไปๅคดๅผๅง่ฎญ็ปๆจกๅๆ้็ๆถ้ดๅ่ตๆบใ่ฟไบๆจกๅๆฏๆไธๅๆจกๅผไธ็ๅธธ่งไปปๅก๏ผไพๅฆ
๐ ่ช็ถ่ฏญ่จๅค็๏ผๆๆฌๅ็ฑปใๅฝๅๅฎไฝ่ฏๅซใ้ฎ็ญใ่ฏญ่จๅปบๆจกใๆ่ฆใ็ฟป่ฏใๅค้กน้ๆฉๅๆๆฌ็ๆใ
๐ผ๏ธ ่ฎก็ฎๆบ่ง่ง๏ผๅพๅๅ็ฑปใ็ฎๆ ๆฃๆตๅๅๅฒใ
๐ฃ๏ธ ้ณ้ข๏ผ่ชๅจ่ฏญ้ณ่ฏๅซๅ้ณ้ขๅ็ฑปใ
๐ ๅคๆจกๆ๏ผ่กจๆ ผ้ฎ็ญใๅ
ๅญฆๅญ็ฌฆ่ฏๅซใๆซๆๆๆกฃไฟกๆฏๆๅใ่ง้ขๅ็ฑปๅ่ง่ง้ฎ็ญใ
๐ค Transformers ๆฏๆ PyTorchใTensorFlow ๅ JAX ไน้ด็ๆกๆถไบๆไฝๆงใ่ฟๆไพไบๅจๆจกๅ็ๅฝๅจๆ็ๆฏไธช้ถๆฎตไฝฟ็จไธๅๆกๆถ็็ตๆดปๆง๏ผไฝฟ็จไธ็งๆกๆถๅจไธ่กไปฃ็ ไธญ่ฎญ็ปๆจกๅ๏ผ็ถๅๅจๅฆไธ็งๆกๆถไธญๅ ่ฝฝๅฎไปฅ่ฟ่กๆจ็ใๆจกๅ่ฟๅฏไปฅๅฏผๅบไธบ ONNX ๅ TorchScript ็ญๆ ผๅผ๏ผไปฅไพฟๅจ็ไบง็ฏๅขไธญ้จ็ฝฒใ
ไปๅคฉๅฐฑๅ ๅ ฅไธๆญๅฃฎๅคง็็คพๅบ๏ผๅ ๅ ฅ Hubใ่ฎบๅ ๆ Discord๏ผ
ๅฆๆๆจ้่ฆๆฅ่ช Hugging Face ๅข้็่ชๅฎไนๆฏๆ
็ฎๅฝ
ๆๆกฃๅไธบไบไธช้จๅ
ๅ ฅ้จๆไพไบๅบ็ๅฟซ้ๆฆ่ฟฐๅๅฎ่ฃ ่ฏดๆ๏ผๅธฎๅฉๆจๅฟซ้ไธๆใ
ๆ็จ้ๅธธ้ๅๅๅญฆ่ ใๆฌ่ๅฐๅธฎๅฉๆจๆๆกไฝฟ็จๅบๆ้็ๅฟ ่ฆๆ่ฝใ
ๆไฝๆๅๅๆจๅฑ็คบๅฆไฝๅฎๆ็นๅฎ็ฎๆ ๏ผไพๅฆๅพฎ่ฐ้ข่ฎญ็ปๆจกๅไปฅ่ฟ่ก่ฏญ่จๅปบๆจก๏ผๆๅฆไฝ็ผๅๅๅ ฑไบซ่ชๅฎไนๆจกๅใ
ๆฆๅฟตๆๅๆดๆทฑๅ ฅๅฐ่ฎจ่ฎบๅนถ่งฃ้ไบๆจกๅใไปปๅกๅ ๐ค Transformers ่ฎพ่ฎก็ๅฟต่ๅ็ๅบๆฌๆฆๅฟตๅๆณๆณใ
API ๆ่ฟฐๆๆ็ฑปๅๅฝๆฐ
- ไธป่ฆ็ฑป่ฏฆ็ปไป็ปไบๆ้่ฆ็็ฑป๏ผไพๅฆ้ ็ฝฎใๆจกๅใๅ่ฏๅจๅ็ฎก้ใ
- ๆจกๅ่ฏฆ็ปไป็ปไบๅบไธญๅฎ็ฐ็ๆฏไธชๆจกๅ็ธๅ ณ็็ฑปๅๅฝๆฐใ
- ๅ ้จ่พ ๅฉ็จๅบ่ฏฆ็ปไป็ปไบๅ ้จไฝฟ็จ็ๅฎ็จ็จๅบ็ฑปๅๅฝๆฐใ
ๆฏๆ็ๆจกๅๅๆกๆถ
ไธ่กจๆพ็คบไบๅบ็ฎๅๅฏนๆฏไธชๆจกๅ็ๆฏๆๆ ๅต๏ผๅ ๆฌๅฎไปฌๆฏๅฆๅ ทๆ Python ๅ่ฏๅจ๏ผ็งฐไธบโslowโ๏ผใไธไธช็ฑ ๐ค Tokenizers ๅบๆฏๆ็โfastโๅ่ฏๅจ๏ผไปฅๅๅฎไปฌๆฏๅฆๅจ Jax๏ผ้่ฟ Flax๏ผใPyTorch ๅ/ๆ TensorFlow ไธญๅๅฐๆฏๆใ
ๆจกๅ | PyTorch ๆฏๆ | TensorFlow ๆฏๆ | Flax ๆฏๆ |
---|---|---|---|
ALBERT | โ | โ | โ |
ALIGN | โ | โ | โ |
AltCLIP | โ | โ | โ |
้ณ้ข้ข่ฐฑๅพ่ฝฌๆขๅจ | โ | โ | โ |
Autoformer | โ | โ | โ |
Bark | โ | โ | โ |
BART | โ | โ | โ |
BARThez | โ | โ | โ |
BARTpho | โ | โ | โ |
BEiT | โ | โ | โ |
BERT | โ | โ | โ |
Bert ็ๆ | โ | โ | โ |
BertJapanese | โ | โ | โ |
BERTweet | โ | โ | โ |
BigBird | โ | โ | โ |
BigBird-Pegasus | โ | โ | โ |
BioGpt | โ | โ | โ |
BiT | โ | โ | โ |
Blenderbot | โ | โ | โ |
BlenderbotSmall | โ | โ | โ |
BLIP | โ | โ | โ |
BLIP-2 | โ | โ | โ |
BLOOM | โ | โ | โ |
BORT | โ | โ | โ |
BridgeTower | โ | โ | โ |
BROS | โ | โ | โ |
ByT5 | โ | โ | โ |
CamemBERT | โ | โ | โ |
CANINE | โ | โ | โ |
Chameleon | โ | โ | โ |
Chinese-CLIP | โ | โ | โ |
CLAP | โ | โ | โ |
CLIP | โ | โ | โ |
CLIPSeg | โ | โ | โ |
CLVP | โ | โ | โ |
CodeGen | โ | โ | โ |
CodeLlama | โ | โ | โ |
Cohere | โ | โ | โ |
ๆกไปถ DETR | โ | โ | โ |
ConvBERT | โ | โ | โ |
ConvNeXT | โ | โ | โ |
ConvNeXTV2 | โ | โ | โ |
CPM | โ | โ | โ |
CPM-Ant | โ | โ | โ |
CTRL | โ | โ | โ |
CvT | โ | โ | โ |
DAC | โ | โ | โ |
Data2VecAudio | โ | โ | โ |
Data2VecText | โ | โ | โ |
Data2VecVision | โ | โ | โ |
DBRX | โ | โ | โ |
DeBERTa | โ | โ | โ |
DeBERTa-v2 | โ | โ | โ |
ๅณ็ญ่ฝฌๆขๅจ | โ | โ | โ |
ๅฏๅๅฝข DETR | โ | โ | โ |
DeiT | โ | โ | โ |
DePlot | โ | โ | โ |
ๆทฑๅบฆไปปไฝไบ | โ | โ | โ |
DETA | โ | โ | โ |
DETR | โ | โ | โ |
DialoGPT | โ | โ | โ |
DiNAT | โ | โ | โ |
DINOv2 | โ | โ | โ |
DistilBERT | โ | โ | โ |
DiT | โ | โ | โ |
DonutSwin | โ | โ | โ |
DPR | โ | โ | โ |
DPT | โ | โ | โ |
EfficientFormer | โ | โ | โ |
EfficientNet | โ | โ | โ |
ELECTRA | โ | โ | โ |
EnCodec | โ | โ | โ |
็ผ็ ๅจ่งฃ็ ๅจ | โ | โ | โ |
ERNIE | โ | โ | โ |
ErnieM | โ | โ | โ |
ESM | โ | โ | โ |
FairSeq ๆบๅจ็ฟป่ฏ | โ | โ | โ |
Falcon | โ | โ | โ |
FalconMamba | โ | โ | โ |
FastSpeech2Conformer | โ | โ | โ |
FLAN-T5 | โ | โ | โ |
FLAN-UL2 | โ | โ | โ |
FlauBERT | โ | โ | โ |
FLAVA | โ | โ | โ |
FNet | โ | โ | โ |
FocalNet | โ | โ | โ |
ๆผๆ่ฝฌๆขๅจ | โ | โ | โ |
Fuyu | โ | โ | โ |
Gemma | โ | โ | โ |
Gemma2 | โ | โ | โ |
GIT | โ | โ | โ |
GLPN | โ | โ | โ |
GPT Neo | โ | โ | โ |
GPT NeoX | โ | โ | โ |
GPT NeoX Japanese | โ | โ | โ |
GPT-J | โ | โ | โ |
GPT-Sw3 | โ | โ | โ |
GPTBigCode | โ | โ | โ |
GPTSAN-japanese | โ | โ | โ |
Granite | โ | โ | โ |
GraniteMoeMoe | โ | โ | โ |
Graphormer | โ | โ | โ |
ๆฅๅฐ DINO | โ | โ | โ |
GroupViT | โ | โ | โ |
HerBERT | โ | โ | โ |
Hiera | โ | โ | โ |
Hubert | โ | โ | โ |
I-BERT | โ | โ | โ |
IDEFICS | โ | โ | โ |
Idefics2 | โ | โ | โ |
ImageGPT | โ | โ | โ |
Informer | โ | โ | โ |
InstructBLIP | โ | โ | โ |
InstructBlipVideo | โ | โ | โ |
Jamba | โ | โ | โ |
JetMoe | โ | โ | โ |
Jukebox | โ | โ | โ |
KOSMOS-2 | โ | โ | โ |
LayoutLM | โ | โ | โ |
LayoutLMv2 | โ | โ | โ |
LayoutLMv3 | โ | โ | โ |
LayoutXLM | โ | โ | โ |
LED | โ | โ | โ |
LeViT | โ | โ | โ |
LiLT | โ | โ | โ |
LLaMA | โ | โ | โ |
Llama2 | โ | โ | โ |
Llama3 | โ | โ | โ |
LLaVa | โ | โ | โ |
LLaVA-NeXT | โ | โ | โ |
LLaVA-NeXT-Video | โ | โ | โ |
LLaVA-Onevision | โ | โ | โ |
Longformer | โ | โ | โ |
LongT5 | โ | โ | โ |
LUKE | โ | โ | โ |
LXMERT | โ | โ | โ |
M-CTC-T | โ | โ | โ |
M2M100 | โ | โ | โ |
MADLAD-400 | โ | โ | โ |
Mamba | โ | โ | โ |
mamba2 | โ | โ | โ |
Marian | โ | โ | โ |
MarkupLM | โ | โ | โ |
Mask2Former | โ | โ | โ |
MaskFormer | โ | โ | โ |
MatCha | โ | โ | โ |
mBART | โ | โ | โ |
mBART-50 | โ | โ | โ |
MEGA | โ | โ | โ |
Megatron-BERT | โ | โ | โ |
Megatron-GPT2 | โ | โ | โ |
MGP-STR | โ | โ | โ |
Mimi | โ | โ | โ |
Mistral | โ | โ | โ |
Mixtral | โ | โ | โ |
Mllama | โ | โ | โ |
mLUKE | โ | โ | โ |
MMS | โ | โ | โ |
MobileBERT | โ | โ | โ |
MobileNetV1 | โ | โ | โ |
MobileNetV2 | โ | โ | โ |
MobileViT | โ | โ | โ |
MobileViTV2 | โ | โ | โ |
MPNet | โ | โ | โ |
MPT | โ | โ | โ |
MRA | โ | โ | โ |
MT5 | โ | โ | โ |
MusicGen | โ | โ | โ |
MusicGen Melody | โ | โ | โ |
MVP | โ | โ | โ |
NAT | โ | โ | โ |
Nemotron | โ | โ | โ |
Nezha | โ | โ | โ |
NLLB | โ | โ | โ |
NLLB-MOE | โ | โ | โ |
Nougat | โ | โ | โ |
Nystrรถmformer | โ | โ | โ |
OLMo | โ | โ | โ |
OLMoE | โ | โ | โ |
OmDet-Turbo | โ | โ | โ |
OneFormer | โ | โ | โ |
OpenAI GPT | โ | โ | โ |
OpenAI GPT-2 | โ | โ | โ |
OpenLlama | โ | โ | โ |
OPT | โ | โ | โ |
OWL-ViT | โ | โ | โ |
OWLv2 | โ | โ | โ |
PaliGemma | โ | โ | โ |
PatchTSMixer | โ | โ | โ |
PatchTST | โ | โ | โ |
Pegasus | โ | โ | โ |
PEGASUS-X | โ | โ | โ |
Perceiver | โ | โ | โ |
Persimmon | โ | โ | โ |
Phi | โ | โ | โ |
Phi3 | โ | โ | โ |
PhoBERT | โ | โ | โ |
Pix2Struct | โ | โ | โ |
Pixtral | โ | โ | โ |
PLBart | โ | โ | โ |
PoolFormer | โ | โ | โ |
Pop2Piano | โ | โ | โ |
ProphetNet | โ | โ | โ |
PVT | โ | โ | โ |
PVTv2 | โ | โ | โ |
QDQBert | โ | โ | โ |
Qwen2 | โ | โ | โ |
Qwen2Audio | โ | โ | โ |
Qwen2MoE | โ | โ | โ |
Qwen2VL | โ | โ | โ |
RAG | โ | โ | โ |
REALM | โ | โ | โ |
ๅพช็ฏ Gemma | โ | โ | โ |
Reformer | โ | โ | โ |
RegNet | โ | โ | โ |
RemBERT | โ | โ | โ |
ResNet | โ | โ | โ |
RetriBERT | โ | โ | โ |
RoBERTa | โ | โ | โ |
RoBERTa-PreLayerNorm | โ | โ | โ |
RoCBert | โ | โ | โ |
RoFormer | โ | โ | โ |
RT-DETR | โ | โ | โ |
RT-DETR-ResNet | โ | โ | โ |
RWKV | โ | โ | โ |
SAM | โ | โ | โ |
SeamlessM4T | โ | โ | โ |
SeamlessM4Tv2 | โ | โ | โ |
SegFormer | โ | โ | โ |
SegGPT | โ | โ | โ |
SEW | โ | โ | โ |
SEW-D | โ | โ | โ |
SigLIP | โ | โ | โ |
่ฏญ้ณ็ผ็ ๅจ่งฃ็ ๅจ | โ | โ | โ |
่ฏญ้ณ่ฝฌๆๆฌ | โ | โ | โ |
SpeechT5 | โ | โ | โ |
Splinter | โ | โ | โ |
SqueezeBERT | โ | โ | โ |
StableLm | โ | โ | โ |
Starcoder2 | โ | โ | โ |
SuperPoint | โ | โ | โ |
SwiftFormer | โ | โ | โ |
Swin ๅๆขๅจ | โ | โ | โ |
Swin ๅๆขๅจ V2 | โ | โ | โ |
Swin2SR | โ | โ | โ |
SwitchTransformers | โ | โ | โ |
T5 | โ | โ | โ |
T5v1.1 | โ | โ | โ |
่กจๆ ผๅๆขๅจ | โ | โ | โ |
TAPAS | โ | โ | โ |
TAPEX | โ | โ | โ |
ๆถ้ดๅบๅๅๆขๅจ | โ | โ | โ |
TimeSformer | โ | โ | โ |
่ฝจ่ฟนๅๆขๅจ | โ | โ | โ |
Transformer-XL | โ | โ | โ |
TrOCR | โ | โ | โ |
TVLT | โ | โ | โ |
TVP | โ | โ | โ |
UDOP | โ | โ | โ |
UL2 | โ | โ | โ |
UMT5 | โ | โ | โ |
UniSpeech | โ | โ | โ |
UniSpeechSat | โ | โ | โ |
UnivNet | โ | โ | โ |
UPerNet | โ | โ | โ |
VAN | โ | โ | โ |
VideoLlava | โ | โ | โ |
VideoMAE | โ | โ | โ |
ViLT | โ | โ | โ |
VipLlava | โ | โ | โ |
่ง่ง็ผ็ ๅจ่งฃ็ ๅจ | โ | โ | โ |
่ง่งๆๆฌๅ็ผ็ ๅจ | โ | โ | โ |
VisualBERT | โ | โ | โ |
ViT | โ | โ | โ |
ViT ๆททๅ | โ | โ | โ |
VitDet | โ | โ | โ |
ViTMAE | โ | โ | โ |
ViTMatte | โ | โ | โ |
ViTMSN | โ | โ | โ |
VITS | โ | โ | โ |
ViViT | โ | โ | โ |
Wav2Vec2 | โ | โ | โ |
Wav2Vec2-BERT | โ | โ | โ |
Wav2Vec2-Conformer | โ | โ | โ |
Wav2Vec2Phoneme | โ | โ | โ |
WavLM | โ | โ | โ |
Whisper | โ | โ | โ |
X-CLIP | โ | โ | โ |
X-MOD | โ | โ | โ |
XGLM | โ | โ | โ |
XLM | โ | โ | โ |
XLM-ProphetNet | โ | โ | โ |
XLM-RoBERTa | โ | โ | โ |
XLM-RoBERTa-XL | โ | โ | โ |
XLM-V | โ | โ | โ |
XLNet | โ | โ | โ |
XLS-R | โ | โ | โ |
XLSR-Wav2Vec2 | โ | โ | โ |
YOLOS | โ | โ | โ |
YOSO | โ | โ | โ |
ZoeDepth | โ | โ | โ |