fine-tune-1e-4

Procedimiento de Entrenamiento

Los siguientes hiperparámetros fueron usados durante el entrenamiento:

• tasa de aprendizaje: 0.0001
• tamaño de lote de entrenamiento: 4
• tamaño de lote de evaluación: 4
• semilla: 42
• optimizador: Adam con betas=(0.9,0.999) y epsilon=1e-08
• tipo de programador de tasa de aprendizaje: linear
• proporción de calentamiento del programador de tasa de aprendizaje: 0.1
• pasos de entrenamiento: 3060

Versión del Framework

• Transformers 4.31.0
• Pytorch 2.0.1+cu118
• Datasets 2.14.1
• Tokenizers 0.13.3

Código de ejemplo

from transformers import VideoMAE, VideoMAEForVideoClassification

model = VideoMAEForVideoClassification.from_pretrained('neverloses87/fine-tune-1e-4')
tokenizer = VideoMAE.from_pretrained('sayakpaul/videomae-base-finetuned-kinetics-finetuned-ucf101-subset')