valhalla/electra-base-discriminator-finetuned_squadv1

valhalla

Pregunta y respuesta

ELECTRA-BASE-DISCRIMINATOR afinado en el conjunto de datos SQuADv1 para la tarea de respuesta a preguntas. ELECTRA es un nuevo método para el aprendizaje de representación de lenguaje auto-supervisado. Se puede usar para pre-entrenar redes transformer utilizando relativamente pocos recursos computacionales. Los modelos ELECTRA están entrenados para distinguir entre tokens de entrada 'reales' vs tokens 'falsos' generados por otra red neuronal, similar al discriminador de un GAN. A pequeña escala, ELECTRA logra resultados sólidos incluso cuando se entrena en una sola GPU. A gran escala, ELECTRA logra resultados de vanguardia en el conjunto de datos SQuAD 2.0.

Como usar

from transformers import pipeline

nlp = pipeline('question-answering', model='valhalla/electra-base-discriminator-finetuned_squadv1')
nlp({
'question': '¿Cuál es la respuesta a todo?',
'context': '42 es la respuesta a la vida, el universo y todo'
})
=> {'answer': '42', 'end': 2, 'score': 0.981274963050339, 'start': 0}

Funcionalidades

12 capas
768 tamaño oculto
12 cabezas de atención
Tamaño en disco de 436MB

Casos de uso

Responder preguntas basadas en un contexto dado
Aplicaciones de chatbots
Asistentes virtuales