textattack/bert-base-uncased-ag-news

Este modelo bert-base-uncased se ajustó para la clasificación de secuencias utilizando TextAttack y el conjunto de datos ag_news cargado con la biblioteca nlp. El modelo se entrenó durante 5 épocas con un tamaño de lote de 16, una tasa de aprendizaje de 3e-05 y una longitud máxima de secuencia de 128. Como se trataba de una tarea de clasificación, el modelo se entrenó con una función de pérdida de entropía cruzada. El mejor resultado que el modelo logró en esta tarea fue 0.9514473684210526, medido por la precisión del conjunto de evaluación, encontrado después de 3 épocas.