SWSL ResNet
残差网络，或ResNet，学习参考层输入的残差函数，而不是学习无参考的函数。残差网络不是希望每隔几层直接拟合所需的底层映射，而是让这些层拟合残差映射。它们将残差块堆叠在一起形成网络：例如，ResNet-50 使用这些块有五十层。
此集合中的模型利用半弱监督学习来提高模型的性能。该方法对图像、视频和细粒度分类的标准架构带来了重要收益。
请注意这些权重的 CC-BY-NC 4.0 许可，仅限非商业用途。
如何在图像上使用此模型？
加载预训练模型
>>> import timm
>>> model = timm.create_model('swsl_resnet18', pretrained=True)
>>> model.eval()加载和预处理图像
>>> import urllib
>>> from PIL import Image
>>> from timm.data import resolve_data_config
>>> from timm.data.transforms_factory import create_transform
>>> config = resolve_data_config({}, model=model)
>>> transform = create_transform(**config)
>>> url, filename = ("https://github.com/pytorch/hub/raw/master/images/dog.jpg", "dog.jpg")
>>> urllib.request.urlretrieve(url, filename)
>>> img = Image.open(filename).convert('RGB')
>>> tensor = transform(img).unsqueeze(0) # transform and add batch dimension获取模型预测
>>> import torch
>>> with torch.no_grad():
... out = model(tensor)
>>> probabilities = torch.nn.functional.softmax(out[0], dim=0)
>>> print(probabilities.shape)
>>> # prints: torch.Size([1000])获取前 5 个预测类名称
>>> # Get imagenet class mappings
>>> url, filename = ("https://raw.githubusercontent.com/pytorch/hub/master/imagenet_classes.txt", "imagenet_classes.txt")
>>> urllib.request.urlretrieve(url, filename)
>>> with open("imagenet_classes.txt", "r") as f:
... categories = [s.strip() for s in f.readlines()]
>>> # Print top categories per image
>>> top5_prob, top5_catid = torch.topk(probabilities, 5)
>>> for i in range(top5_prob.size(0)):
... print(categories[top5_catid[i]], top5_prob[i].item())
>>> # prints class names and probabilities like:
>>> # [('Samoyed', 0.6425196528434753), ('Pomeranian', 0.04062102362513542), ('keeshond', 0.03186424449086189), ('white wolf', 0.01739676296710968), ('Eskimo dog', 0.011717947199940681)]将模型名称替换为您要使用的变体，例如 swsl_resnet18。您可以在本页顶部的模型摘要中找到 ID。
要使用此模型提取图像特征，请遵循timm 特征提取示例，只需更改您要使用的模型名称。
如何微调此模型？
您可以通过更改分类器（最后一层）来微调任何预训练模型。
>>> model = timm.create_model('swsl_resnet18', pretrained=True, num_classes=NUM_FINETUNE_CLASSES)要对您自己的数据集进行微调，您必须编写训练循环或调整timm 的训练脚本 以使用您的数据集。
如何训练此模型？
您可以按照timm 食谱脚本 来训练全新的模型。
引用
@article{DBLP:journals/corr/abs-1905-00546,
author = {I. Zeki Yalniz and
Herv{\'{e}} J{\'{e}}gou and
Kan Chen and
Manohar Paluri and
Dhruv Mahajan},
title = {Billion-scale semi-supervised learning for image classification},
journal = {CoRR},
volume = {abs/1905.00546},
year = {2019},
url = {http://arxiv.org/abs/1905.00546},
archivePrefix = {arXiv},
eprint = {1905.00546},
timestamp = {Mon, 28 Sep 2020 08:19:37 +0200},
biburl = {https://dblp.org/rec/journals/corr/abs-1905-00546.bib},
bibsource = {dblp computer science bibliography, https://dblp.org}
}