Cohee/distilbert-base-uncased-go-emotions-onnx
Este modelo es una versión distilada del modelo de clasificación sin supervisión para el conjunto de datos GoEmotions usando este script. Se convirtió a ONNX y se cuantificó usando optimum. Fue entrenado con precisión mixta durante 10 épocas y de lo contrario, usó los argumentos de script predeterminados.
Como usar
El modelo se puede usar como cualquier otro modelo entrenado en GoEmotions, pero probablemente no tendrá un rendimiento tan bueno como un modelo entrenado con supervisión completa. Está destinado principalmente como una demostración de cómo un costoso modelo NLI sin supervisión puede ser destilado a un modelo más eficiente, permitiendo entrenar a un clasificador solo con datos no etiquetados. Nota: aunque el conjunto de datos GoEmotions permite múltiples etiquetas por instancia, el maestro usó clasificación de etiqueta única para crear pseudoetiquetas.
# Ejemplo de uso del API de Inferencia
# Clasificación de texto
I like you.
I love you.
Funcionalidades
- Clasificación de texto
- Transformers
- ONNX
- Puntos de inferencia
Casos de uso
- Demostración de cómo destilar un modelo NLI costoso a un modelo estudiante más eficiente
- Entrenamiento de clasificadores utilizando solo datos no etiquetados