Transformers ๆ–‡ๆกฃ

๐Ÿค— ๅ˜ๅŽ‹ๅ™จ

Hugging Face's logo
ๅŠ ๅ…ฅ Hugging Face ็คพๅŒบ

ๅนถ่Žทๅ–ๅขžๅผบๅž‹ๆ–‡ๆกฃไฝ“้ชŒ

ๅผ€ๅง‹ไฝฟ็”จ

๐Ÿค— Transformers

้’ˆๅฏน PyTorchใ€TensorFlow ๅ’Œ JAX ็š„ๆœ€ๅ…ˆ่ฟ›ๆœบๅ™จๅญฆไน ใ€‚

๐Ÿค— Transformers ๆไพ› API ๅ’Œๅทฅๅ…ท๏ผŒๅฏไปฅ่ฝปๆพไธ‹่ฝฝๅ’Œ่ฎญ็ปƒๆœ€ๅ…ˆ่ฟ›็š„้ข„่ฎญ็ปƒๆจกๅž‹ใ€‚ไฝฟ็”จ้ข„่ฎญ็ปƒๆจกๅž‹ๅฏไปฅ้™ไฝŽๆ‚จ็š„่ฎก็ฎ—ๆˆๆœฌๅ’Œ็ขณ่ถณ่ฟน๏ผŒๅนถ่Š‚็œไปŽๅคดๅผ€ๅง‹่ฎญ็ปƒๆจกๅž‹ๆ‰€้œ€็š„ๆ—ถ้—ดๅ’Œ่ต„ๆบใ€‚่ฟ™ไบ›ๆจกๅž‹ๆ”ฏๆŒไธๅŒๆจกๅผไธ‹็š„ๅธธ่งไปปๅŠก๏ผŒไพ‹ๅฆ‚

๐Ÿ“ ่‡ช็„ถ่ฏญ่จ€ๅค„็†๏ผšๆ–‡ๆœฌๅˆ†็ฑปใ€ๅ‘ฝๅๅฎžไฝ“่ฏ†ๅˆซใ€้—ฎ็ญ”ใ€่ฏญ่จ€ๅปบๆจกใ€ๆ‘˜่ฆใ€็ฟป่ฏ‘ใ€ๅคš้กน้€‰ๆ‹ฉๅ’Œๆ–‡ๆœฌ็”Ÿๆˆใ€‚
๐Ÿ–ผ๏ธ ่ฎก็ฎ—ๆœบ่ง†่ง‰๏ผšๅ›พๅƒๅˆ†็ฑปใ€็›ฎๆ ‡ๆฃ€ๆต‹ๅ’Œๅˆ†ๅ‰ฒใ€‚
๐Ÿ—ฃ๏ธ ้Ÿณ้ข‘๏ผš่‡ชๅŠจ่ฏญ้Ÿณ่ฏ†ๅˆซๅ’Œ้Ÿณ้ข‘ๅˆ†็ฑปใ€‚
๐Ÿ™ ๅคšๆจกๆ€๏ผš่กจๆ ผ้—ฎ็ญ”ใ€ๅ…‰ๅญฆๅญ—็ฌฆ่ฏ†ๅˆซใ€ๆ‰ซๆๆ–‡ๆกฃไฟกๆฏๆๅ–ใ€่ง†้ข‘ๅˆ†็ฑปๅ’Œ่ง†่ง‰้—ฎ็ญ”ใ€‚

๐Ÿค— Transformers ๆ”ฏๆŒ PyTorchใ€TensorFlow ๅ’Œ JAX ไน‹้—ด็š„ๆก†ๆžถไบ’ๆ“ไฝœๆ€งใ€‚่ฟ™ๆไพ›ไบ†ๅœจๆจกๅž‹็”Ÿๅ‘ฝๅ‘จๆœŸ็š„ๆฏไธช้˜ถๆฎตไฝฟ็”จไธๅŒๆก†ๆžถ็š„็ตๆดปๆ€ง๏ผ›ไฝฟ็”จไธ€็งๆก†ๆžถๅœจไธ‰่กŒไปฃ็ ไธญ่ฎญ็ปƒๆจกๅž‹๏ผŒ็„ถๅŽๅœจๅฆไธ€็งๆก†ๆžถไธญๅŠ ่ฝฝๅฎƒไปฅ่ฟ›่กŒๆŽจ็†ใ€‚ๆจกๅž‹่ฟ˜ๅฏไปฅๅฏผๅ‡บไธบ ONNX ๅ’Œ TorchScript ็ญ‰ๆ ผๅผ๏ผŒไปฅไพฟๅœจ็”Ÿไบง็Žฏๅขƒไธญ้ƒจ็ฝฒใ€‚

ไปŠๅคฉๅฐฑๅŠ ๅ…ฅไธๆ–ญๅฃฎๅคง็š„็คพๅŒบ๏ผŒๅŠ ๅ…ฅ Hubใ€่ฎบๅ› ๆˆ– Discord๏ผ

ๅฆ‚ๆžœๆ‚จ้œ€่ฆๆฅ่‡ช Hugging Face ๅ›ข้˜Ÿ็š„่‡ชๅฎšไน‰ๆ”ฏๆŒ

HuggingFace Expert Acceleration Program

็›ฎๅฝ•

ๆ–‡ๆกฃๅˆ†ไธบไบ”ไธช้ƒจๅˆ†

  • ๅ…ฅ้—จๆไพ›ไบ†ๅบ“็š„ๅฟซ้€Ÿๆฆ‚่ฟฐๅ’Œๅฎ‰่ฃ…่ฏดๆ˜Ž๏ผŒๅธฎๅŠฉๆ‚จๅฟซ้€ŸไธŠๆ‰‹ใ€‚

  • ๆ•™็จ‹้žๅธธ้€‚ๅˆๅˆๅญฆ่€…ใ€‚ๆœฌ่Š‚ๅฐ†ๅธฎๅŠฉๆ‚จๆŽŒๆกไฝฟ็”จๅบ“ๆ‰€้œ€็š„ๅฟ…่ฆๆŠ€่ƒฝใ€‚

  • ๆ“ไฝœๆŒ‡ๅ—ๅ‘ๆ‚จๅฑ•็คบๅฆ‚ไฝ•ๅฎŒๆˆ็‰นๅฎš็›ฎๆ ‡๏ผŒไพ‹ๅฆ‚ๅพฎ่ฐƒ้ข„่ฎญ็ปƒๆจกๅž‹ไปฅ่ฟ›่กŒ่ฏญ่จ€ๅปบๆจก๏ผŒๆˆ–ๅฆ‚ไฝ•็ผ–ๅ†™ๅ’Œๅ…ฑไบซ่‡ชๅฎšไน‰ๆจกๅž‹ใ€‚

  • ๆฆ‚ๅฟตๆŒ‡ๅ—ๆ›ดๆทฑๅ…ฅๅœฐ่ฎจ่ฎบๅนถ่งฃ้‡Šไบ†ๆจกๅž‹ใ€ไปปๅŠกๅ’Œ ๐Ÿค— Transformers ่ฎพ่ฎก็†ๅฟต่ƒŒๅŽ็š„ๅŸบๆœฌๆฆ‚ๅฟตๅ’Œๆƒณๆณ•ใ€‚

  • API ๆ่ฟฐๆ‰€ๆœ‰็ฑปๅ’Œๅ‡ฝๆ•ฐ

    • ไธป่ฆ็ฑป่ฏฆ็ป†ไป‹็ปไบ†ๆœ€้‡่ฆ็š„็ฑป๏ผŒไพ‹ๅฆ‚้…็ฝฎใ€ๆจกๅž‹ใ€ๅˆ†่ฏๅ™จๅ’Œ็ฎก้“ใ€‚
    • ๆจกๅž‹่ฏฆ็ป†ไป‹็ปไบ†ๅบ“ไธญๅฎž็Žฐ็š„ๆฏไธชๆจกๅž‹็›ธๅ…ณ็š„็ฑปๅ’Œๅ‡ฝๆ•ฐใ€‚
    • ๅ†…้ƒจ่พ…ๅŠฉ็จ‹ๅบ่ฏฆ็ป†ไป‹็ปไบ†ๅ†…้ƒจไฝฟ็”จ็š„ๅฎž็”จ็จ‹ๅบ็ฑปๅ’Œๅ‡ฝๆ•ฐใ€‚

ๆ”ฏๆŒ็š„ๆจกๅž‹ๅ’Œๆก†ๆžถ

ไธ‹่กจๆ˜พ็คบไบ†ๅบ“็›ฎๅ‰ๅฏนๆฏไธชๆจกๅž‹็š„ๆ”ฏๆŒๆƒ…ๅ†ต๏ผŒๅŒ…ๆ‹ฌๅฎƒไปฌๆ˜ฏๅฆๅ…ทๆœ‰ Python ๅˆ†่ฏๅ™จ๏ผˆ็งฐไธบโ€œslowโ€๏ผ‰ใ€‚ไธ€ไธช็”ฑ ๐Ÿค— Tokenizers ๅบ“ๆ”ฏๆŒ็š„โ€œfastโ€ๅˆ†่ฏๅ™จ๏ผŒไปฅๅŠๅฎƒไปฌๆ˜ฏๅฆๅœจ Jax๏ผˆ้€š่ฟ‡ Flax๏ผ‰ใ€PyTorch ๅ’Œ/ๆˆ– TensorFlow ไธญๅ—ๅˆฐๆ”ฏๆŒใ€‚

ๆจกๅž‹ PyTorch ๆ”ฏๆŒ TensorFlow ๆ”ฏๆŒ Flax ๆ”ฏๆŒ
ALBERT โœ… โœ… โœ…
ALIGN โœ… โŒ โŒ
AltCLIP โœ… โŒ โŒ
้Ÿณ้ข‘้ข‘่ฐฑๅ›พ่ฝฌๆขๅ™จ โœ… โŒ โŒ
Autoformer โœ… โŒ โŒ
Bark โœ… โŒ โŒ
BART โœ… โœ… โœ…
BARThez โœ… โœ… โœ…
BARTpho โœ… โœ… โœ…
BEiT โœ… โŒ โœ…
BERT โœ… โœ… โœ…
Bert ็”Ÿๆˆ โœ… โŒ โŒ
BertJapanese โœ… โœ… โœ…
BERTweet โœ… โœ… โœ…
BigBird โœ… โŒ โœ…
BigBird-Pegasus โœ… โŒ โŒ
BioGpt โœ… โŒ โŒ
BiT โœ… โŒ โŒ
Blenderbot โœ… โœ… โœ…
BlenderbotSmall โœ… โœ… โœ…
BLIP โœ… โœ… โŒ
BLIP-2 โœ… โŒ โŒ
BLOOM โœ… โŒ โœ…
BORT โœ… โœ… โœ…
BridgeTower โœ… โŒ โŒ
BROS โœ… โŒ โŒ
ByT5 โœ… โœ… โœ…
CamemBERT โœ… โœ… โŒ
CANINE โœ… โŒ โŒ
Chameleon โœ… โŒ โŒ
Chinese-CLIP โœ… โŒ โŒ
CLAP โœ… โŒ โŒ
CLIP โœ… โœ… โœ…
CLIPSeg โœ… โŒ โŒ
CLVP โœ… โŒ โŒ
CodeGen โœ… โŒ โŒ
CodeLlama โœ… โŒ โœ…
Cohere โœ… โŒ โŒ
ๆกไปถ DETR โœ… โŒ โŒ
ConvBERT โœ… โœ… โŒ
ConvNeXT โœ… โœ… โŒ
ConvNeXTV2 โœ… โœ… โŒ
CPM โœ… โœ… โœ…
CPM-Ant โœ… โŒ โŒ
CTRL โœ… โœ… โŒ
CvT โœ… โœ… โŒ
DAC โœ… โŒ โŒ
Data2VecAudio โœ… โŒ โŒ
Data2VecText โœ… โŒ โŒ
Data2VecVision โœ… โœ… โŒ
DBRX โœ… โŒ โŒ
DeBERTa โœ… โœ… โŒ
DeBERTa-v2 โœ… โœ… โŒ
ๅ†ณ็ญ–่ฝฌๆขๅ™จ โœ… โŒ โŒ
ๅฏๅ˜ๅฝข DETR โœ… โŒ โŒ
DeiT โœ… โœ… โŒ
DePlot โœ… โŒ โŒ
ๆทฑๅบฆไปปไฝ•ไบ‹ โœ… โŒ โŒ
DETA โœ… โŒ โŒ
DETR โœ… โŒ โŒ
DialoGPT โœ… โœ… โœ…
DiNAT โœ… โŒ โŒ
DINOv2 โœ… โŒ โœ…
DistilBERT โœ… โœ… โœ…
DiT โœ… โŒ โœ…
DonutSwin โœ… โŒ โŒ
DPR โœ… โœ… โŒ
DPT โœ… โŒ โŒ
EfficientFormer โœ… โœ… โŒ
EfficientNet โœ… โŒ โŒ
ELECTRA โœ… โœ… โœ…
EnCodec โœ… โŒ โŒ
็ผ–็ ๅ™จ่งฃ็ ๅ™จ โœ… โœ… โœ…
ERNIE โœ… โŒ โŒ
ErnieM โœ… โŒ โŒ
ESM โœ… โœ… โŒ
FairSeq ๆœบๅ™จ็ฟป่ฏ‘ โœ… โŒ โŒ
Falcon โœ… โŒ โŒ
FalconMamba โœ… โŒ โŒ
FastSpeech2Conformer โœ… โŒ โŒ
FLAN-T5 โœ… โœ… โœ…
FLAN-UL2 โœ… โœ… โœ…
FlauBERT โœ… โœ… โŒ
FLAVA โœ… โŒ โŒ
FNet โœ… โŒ โŒ
FocalNet โœ… โŒ โŒ
ๆผๆ–—่ฝฌๆขๅ™จ โœ… โœ… โŒ
Fuyu โœ… โŒ โŒ
Gemma โœ… โŒ โœ…
Gemma2 โœ… โŒ โŒ
GIT โœ… โŒ โŒ
GLPN โœ… โŒ โŒ
GPT Neo โœ… โŒ โœ…
GPT NeoX โœ… โŒ โŒ
GPT NeoX Japanese โœ… โŒ โŒ
GPT-J โœ… โœ… โœ…
GPT-Sw3 โœ… โœ… โœ…
GPTBigCode โœ… โŒ โŒ
GPTSAN-japanese โœ… โŒ โŒ
Granite โœ… โŒ โŒ
GraniteMoeMoe โœ… โŒ โŒ
Graphormer โœ… โŒ โŒ
ๆŽฅๅœฐ DINO โœ… โŒ โŒ
GroupViT โœ… โœ… โŒ
HerBERT โœ… โœ… โœ…
Hiera โœ… โŒ โŒ
Hubert โœ… โœ… โŒ
I-BERT โœ… โŒ โŒ
IDEFICS โœ… โœ… โŒ
Idefics2 โœ… โŒ โŒ
ImageGPT โœ… โŒ โŒ
Informer โœ… โŒ โŒ
InstructBLIP โœ… โŒ โŒ
InstructBlipVideo โœ… โŒ โŒ
Jamba โœ… โŒ โŒ
JetMoe โœ… โŒ โŒ
Jukebox โœ… โŒ โŒ
KOSMOS-2 โœ… โŒ โŒ
LayoutLM โœ… โœ… โŒ
LayoutLMv2 โœ… โŒ โŒ
LayoutLMv3 โœ… โœ… โŒ
LayoutXLM โœ… โŒ โŒ
LED โœ… โœ… โŒ
LeViT โœ… โŒ โŒ
LiLT โœ… โŒ โŒ
LLaMA โœ… โŒ โœ…
Llama2 โœ… โŒ โœ…
Llama3 โœ… โŒ โœ…
LLaVa โœ… โŒ โŒ
LLaVA-NeXT โœ… โŒ โŒ
LLaVA-NeXT-Video โœ… โŒ โŒ
LLaVA-Onevision โœ… โŒ โŒ
Longformer โœ… โœ… โŒ
LongT5 โœ… โŒ โœ…
LUKE โœ… โŒ โŒ
LXMERT โœ… โœ… โŒ
M-CTC-T โœ… โŒ โŒ
M2M100 โœ… โŒ โŒ
MADLAD-400 โœ… โœ… โœ…
Mamba โœ… โŒ โŒ
mamba2 โœ… โŒ โŒ
Marian โœ… โœ… โœ…
MarkupLM โœ… โŒ โŒ
Mask2Former โœ… โŒ โŒ
MaskFormer โœ… โŒ โŒ
MatCha โœ… โŒ โŒ
mBART โœ… โœ… โœ…
mBART-50 โœ… โœ… โœ…
MEGA โœ… โŒ โŒ
Megatron-BERT โœ… โŒ โŒ
Megatron-GPT2 โœ… โœ… โœ…
MGP-STR โœ… โŒ โŒ
Mimi โœ… โŒ โŒ
Mistral โœ… โœ… โœ…
Mixtral โœ… โŒ โŒ
Mllama โœ… โŒ โŒ
mLUKE โœ… โŒ โŒ
MMS โœ… โœ… โœ…
MobileBERT โœ… โœ… โŒ
MobileNetV1 โœ… โŒ โŒ
MobileNetV2 โœ… โŒ โŒ
MobileViT โœ… โœ… โŒ
MobileViTV2 โœ… โŒ โŒ
MPNet โœ… โœ… โŒ
MPT โœ… โŒ โŒ
MRA โœ… โŒ โŒ
MT5 โœ… โœ… โœ…
MusicGen โœ… โŒ โŒ
MusicGen Melody โœ… โŒ โŒ
MVP โœ… โŒ โŒ
NAT โœ… โŒ โŒ
Nemotron โœ… โŒ โŒ
Nezha โœ… โŒ โŒ
NLLB โœ… โŒ โŒ
NLLB-MOE โœ… โŒ โŒ
Nougat โœ… โœ… โœ…
Nystrรถmformer โœ… โŒ โŒ
OLMo โœ… โŒ โŒ
OLMoE โœ… โŒ โŒ
OmDet-Turbo โœ… โŒ โŒ
OneFormer โœ… โŒ โŒ
OpenAI GPT โœ… โœ… โŒ
OpenAI GPT-2 โœ… โœ… โœ…
OpenLlama โœ… โŒ โŒ
OPT โœ… โœ… โœ…
OWL-ViT โœ… โŒ โŒ
OWLv2 โœ… โŒ โŒ
PaliGemma โœ… โŒ โŒ
PatchTSMixer โœ… โŒ โŒ
PatchTST โœ… โŒ โŒ
Pegasus โœ… โœ… โœ…
PEGASUS-X โœ… โŒ โŒ
Perceiver โœ… โŒ โŒ
Persimmon โœ… โŒ โŒ
Phi โœ… โŒ โŒ
Phi3 โœ… โŒ โŒ
PhoBERT โœ… โœ… โœ…
Pix2Struct โœ… โŒ โŒ
Pixtral โœ… โŒ โŒ
PLBart โœ… โŒ โŒ
PoolFormer โœ… โŒ โŒ
Pop2Piano โœ… โŒ โŒ
ProphetNet โœ… โŒ โŒ
PVT โœ… โŒ โŒ
PVTv2 โœ… โŒ โŒ
QDQBert โœ… โŒ โŒ
Qwen2 โœ… โŒ โŒ
Qwen2Audio โœ… โŒ โŒ
Qwen2MoE โœ… โŒ โŒ
Qwen2VL โœ… โŒ โŒ
RAG โœ… โœ… โŒ
REALM โœ… โŒ โŒ
ๅพช็Žฏ Gemma โœ… โŒ โŒ
Reformer โœ… โŒ โŒ
RegNet โœ… โœ… โœ…
RemBERT โœ… โœ… โŒ
ResNet โœ… โœ… โœ…
RetriBERT โœ… โŒ โŒ
RoBERTa โœ… โœ… โœ…
RoBERTa-PreLayerNorm โœ… โœ… โœ…
RoCBert โœ… โŒ โŒ
RoFormer โœ… โœ… โœ…
RT-DETR โœ… โŒ โŒ
RT-DETR-ResNet โœ… โŒ โŒ
RWKV โœ… โŒ โŒ
SAM โœ… โœ… โŒ
SeamlessM4T โœ… โŒ โŒ
SeamlessM4Tv2 โœ… โŒ โŒ
SegFormer โœ… โœ… โŒ
SegGPT โœ… โŒ โŒ
SEW โœ… โŒ โŒ
SEW-D โœ… โŒ โŒ
SigLIP โœ… โŒ โŒ
่ฏญ้Ÿณ็ผ–็ ๅ™จ่งฃ็ ๅ™จ โœ… โŒ โœ…
่ฏญ้Ÿณ่ฝฌๆ–‡ๆœฌ โœ… โœ… โŒ
SpeechT5 โœ… โŒ โŒ
Splinter โœ… โŒ โŒ
SqueezeBERT โœ… โŒ โŒ
StableLm โœ… โŒ โŒ
Starcoder2 โœ… โŒ โŒ
SuperPoint โœ… โŒ โŒ
SwiftFormer โœ… โœ… โŒ
Swin ๅ˜ๆขๅ™จ โœ… โœ… โŒ
Swin ๅ˜ๆขๅ™จ V2 โœ… โŒ โŒ
Swin2SR โœ… โŒ โŒ
SwitchTransformers โœ… โŒ โŒ
T5 โœ… โœ… โœ…
T5v1.1 โœ… โœ… โœ…
่กจๆ ผๅ˜ๆขๅ™จ โœ… โŒ โŒ
TAPAS โœ… โœ… โŒ
TAPEX โœ… โœ… โœ…
ๆ—ถ้—ดๅบๅˆ—ๅ˜ๆขๅ™จ โœ… โŒ โŒ
TimeSformer โœ… โŒ โŒ
่ฝจ่ฟนๅ˜ๆขๅ™จ โœ… โŒ โŒ
Transformer-XL โœ… โœ… โŒ
TrOCR โœ… โŒ โŒ
TVLT โœ… โŒ โŒ
TVP โœ… โŒ โŒ
UDOP โœ… โŒ โŒ
UL2 โœ… โœ… โœ…
UMT5 โœ… โŒ โŒ
UniSpeech โœ… โŒ โŒ
UniSpeechSat โœ… โŒ โŒ
UnivNet โœ… โŒ โŒ
UPerNet โœ… โŒ โŒ
VAN โœ… โŒ โŒ
VideoLlava โœ… โŒ โŒ
VideoMAE โœ… โŒ โŒ
ViLT โœ… โŒ โŒ
VipLlava โœ… โŒ โŒ
่ง†่ง‰็ผ–็ ๅ™จ่งฃ็ ๅ™จ โœ… โœ… โœ…
่ง†่ง‰ๆ–‡ๆœฌๅŒ็ผ–็ ๅ™จ โœ… โœ… โœ…
VisualBERT โœ… โŒ โŒ
ViT โœ… โœ… โœ…
ViT ๆททๅˆ โœ… โŒ โŒ
VitDet โœ… โŒ โŒ
ViTMAE โœ… โœ… โŒ
ViTMatte โœ… โŒ โŒ
ViTMSN โœ… โŒ โŒ
VITS โœ… โŒ โŒ
ViViT โœ… โŒ โŒ
Wav2Vec2 โœ… โœ… โœ…
Wav2Vec2-BERT โœ… โŒ โŒ
Wav2Vec2-Conformer โœ… โŒ โŒ
Wav2Vec2Phoneme โœ… โœ… โœ…
WavLM โœ… โŒ โŒ
Whisper โœ… โœ… โœ…
X-CLIP โœ… โŒ โŒ
X-MOD โœ… โŒ โŒ
XGLM โœ… โœ… โœ…
XLM โœ… โœ… โŒ
XLM-ProphetNet โœ… โŒ โŒ
XLM-RoBERTa โœ… โœ… โœ…
XLM-RoBERTa-XL โœ… โŒ โŒ
XLM-V โœ… โœ… โœ…
XLNet โœ… โœ… โŒ
XLS-R โœ… โœ… โœ…
XLSR-Wav2Vec2 โœ… โœ… โœ…
YOLOS โœ… โŒ โŒ
YOSO โœ… โŒ โŒ
ZoeDepth โœ… โŒ โŒ
< > ๅœจ GitHub ไธŠๆ›ดๆ–ฐ