timm/maxvit_tiny_tf_512.in1k

timm
Clasificación de imagen

Un modelo oficial de clasificación de imágenes MaxViT. Entrenado en Tensorflow en ImageNet-1k por los autores del artículo. Portado de la implementación oficial de Tensorflow a PyTorch por Ross Wightman.

Como usar

Clasificación de Imágenes

from urllib.request import urlopen
from PIL import Image
import timm

img = Image.open(urlopen(
'https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/beignets-task-guide.png'
))

model = timm.create_model('maxvit_tiny_tf_512.in1k', pretrained=True)
model = model.eval()

# obtener las transformaciones específicas del modelo (normalización, redimensionado)
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)

output = model(transforms(img).unsqueeze(0)) # redimensionar una sola imagen en un lote de 1

top5_probabilities, top5_class_indices = torch.topk(output.softmax(dim=1) * 100, k=5)

Extracción del Mapa de Características

from urllib.request import urlopen
from PIL import Image
import timm

img = Image.open(urlopen(
'https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/beignets-task-guide.png'
))

model = timm.create_model(
'maxvit_tiny_tf_512.in1k',
pretrained=True,
features_only=True,
)
model = model.eval()

# obtener las transformaciones específicas del modelo (normalización, redimensionado)
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)

output = model(transforms(img).unsqueeze(0)) # redimensionar una sola imagen en un lote de 1

for o in output:
    # imprimir la forma de cada mapa de características en la salida
    # por ejemplo:
    #  torch.Size([1, 64, 256, 256])
    #  torch.Size([1, 64, 128, 128])
    #  torch.Size([1, 128, 64, 64])
    #  torch.Size([1, 256, 32, 32])
    #  torch.Size([1, 512, 16, 16])
    print(o.shape)

Embeddings de Imágenes

from urllib.request import urlopen
from PIL import Image
import timm

img = Image.open(urlopen(
'https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/beignets-task-guide.png'
))

model = timm.create_model(
'maxvit_tiny_tf_512.in1k',
pretrained=True,
num_classes=0, # eliminar el clasificador nn.Linear
)
model = model.eval()

# obtener las transformaciones específicas del modelo (normalización, redimensionado)
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)

output = model(transforms(img).unsqueeze(0)) # la salida es un tensor con forma (batch_size, num_features)

# o de forma equivalente (sin necesidad de definir num_classes=0)

output = model.forward_features(transforms(img).unsqueeze(0))
# la salida no está agrupada, es un tensor con forma (1, 512, 16, 16)

output = model.forward_head(output, pre_logits=True)
# la salida es un tensor con forma (1, num_features)

Funcionalidades

Clasificación de imágenes
Extracción del mapa de características
Embeddings de imágenes
Arquitectura uniforme en todas las etapas
Bloque de convolución MBConv seguido de dos bloques de autoatención

Casos de uso

Clasificación de imágenes
Extracción de características de imágenes
Generación de embeddings de imágenes