DeBERTa-v3-Base-MRQA
VMware
Pregunta y respuesta
Este modelo es parte de un proyecto de investigación conjunto con el Innovation Foundry/AIM-AHEAD Lab de la Universidad de Howard. El modelo DeBERTa-v3-Base-MRQA es un modelo de Respuesta a Preguntas Extractivas basado en el modelo padre DeBERTa-v3-Base. Fue entrenado utilizando el conjunto de datos MRQA que contiene 516,819 ejemplos y tomó 12:13:41 horas usando una GPU Nvidia V100 de 32GB. El modelo está diseñado para proporcionar respuestas precisas a preguntas basadas en pasajes de contexto. Utiliza el framework PyTorch y está en su versión 1.0.
Como usar
from transformers import pipeline
question_answerer = pipeline("question-answering", model='VMware/deberta-v3-base-mrqa')
context = "We present the results of the Machine Reading for Question Answering (MRQA) 2019 shared task on evaluating the generalization capabilities of reading comprehension systems. In this task, we adapted and unified 18 distinct question answering datasets into the same format. Among them, six datasets were made available for training, six datasets were made available for development, and the final six were hidden for final evaluation. Ten teams submitted systems, which explored various ideas including data sampling, multi-task learning, adversarial training and ensembling. The best system achieved an average F1 score of 72.5 on the 12 held-out datasets, 10.7 absolute points higher than our initial baseline based on BERT."
question = "What is MRQA?"
result = question_answerer(question=question, context=context)
print(result)
# {
# 'score': 0.8907278776168823,
# 'start': 29,
# 'end': 68,
# 'answer': ' Machine Reading for Question Answering'
# }
Funcionalidades
- Tipo de modelo: Respuesta a Preguntas Extractivas
- Modelo padre: DeBERTa-v3-Base
- Conjunto de datos de entrenamiento: MRQA
- Tamaño del conjunto de datos de entrenamiento: 516,819 ejemplos
- Tiempo de entrenamiento: 12:13:41 en una GPU Nvidia V100 de 32GB
- Lenguaje: Inglés
- Framework: PyTorch
- Versión del modelo: 1.0
Casos de uso
- Motores de búsqueda de preguntas y respuestas
- Chatbots
- Sistemas de atención al cliente
- Aplicaciones que requieren comprensión de lenguaje natural