distilbert-base-uncased-go-emotions-student
Este modelo es una versión destilada del pipeline de clasificación cero on el conjunto de datos sin etiquetar GoEmotions usando este script. Fue entrenado con precisión mixta durante 10 épocas y, por lo demás, utilizó los argumentos predeterminados del script.
Como usar
El modelo se puede usar como cualquier otro modelo entrenado en GoEmotions, pero probablemente no funcione tan bien como un modelo entrenado con supervisión completa. Está destinado principalmente como una demostración de cómo un modelo caro basado en NLI y clasificación cero puede ser destilado a un estudiante más eficiente, permitiendo entrenar un clasificador solo con datos no etiquetados. Nota que, aunque el conjunto de datos GoEmotions permite múltiples etiquetas por instancia, el profesor utilizó la clasificación de etiqueta única para crear pseudo-etiquetas.
Funcionalidades
- Clasificación de texto
- Transformers
- PyTorch
- TensorFlow
Casos de uso
- Clasificación de texto
- Demostración de la destilación de modelos
- Entrenamiento de clasificadores con datos no etiquetados