vit_base_patch32_clip_224.laion2b_ft_in12k_in1k

Clasificación de Imágenes

from urllib.request import urlopen
from PIL import Image
import timm

img = Image.open(urlopen('https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/beignets-task-guide.png'))

modelo = timm.create_model('vit_base_patch32_clip_224.laion2b_ft_in12k_in1k', pretrained=True)
modelo = modelo.eval()

# obtener transformaciones específicas del modelo (normalización, cambio de tamaño)
configuración_de_datos = timm.data.resolve_model_data_config(model)
transformaciones = timm.data.create_transform(**configuración_de_datos, is_training=False)

resultado = modelo(transformaciones(img).unsqueeze(0)) # añadir dimensión para lote de 1

top5_probabilidades, top5_indices_clasificaciones = torch.topk(resultado.softmax(dim=1) * 100, k=5)

Embeddings de Imágenes

from urllib.request import urlopen
from PIL import Image
import timm

img = Image.open(urlopen('https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/beignets-task-guide.png'))

modelo = timm.create_model('vit_base_patch32_clip_224.laion2b_ft_in12k_in1k', pretrained=True, num_classes=0) # eliminar clasificador nn.Linear
modelo = modelo.eval()

# obtener transformaciones específicas del modelo (normalización, cambio de tamaño)
configuración_de_datos = timm.data.resolve_model_data_config(model)
transformaciones = timm.data.create_transform(**configuración_de_datos, is_training=False)

resultado = modelo(transformaciones(img).unsqueeze(0)) # resultado es un tensor de forma (batch_size, num_features)

# o equivalentemente (sin necesidad de establecer num_classes=0)
resultado = modelo.forward_features(transformaciones(img).unsqueeze(0))
# resultado no agrupado, tensor de forma (1, 50, 768)

resultado = modelo.forward_head(resultado, pre_logits=True)
# resultado es un tensor de forma (1, num_features)