textattack/distilbert-base-uncased-imdb

Este modelo distilbert-base-uncased fue ajustado finamente para la clasificación de secuencias utilizando TextAttack y el conjunto de datos imdb cargado usando la biblioteca nlp. El modelo fue ajustado finamente durante 5 épocas con un tamaño de lote de 16, una tasa de aprendizaje de 2e-05 y una longitud máxima de secuencia de 128. Dado que esta era una tarea de clasificación, el modelo fue entrenado con una función de pérdida de entropía cruzada. La mejor puntuación que el modelo logró en esta tarea fue 0.88, medida por la precisión del conjunto de evaluación, encontrada después de 2 épocas.