DeBERTa-v3-Large-MRQA

VMware
Pregunta y respuesta

Este modelo es parte de un proyecto de investigación conjunto con Howard University's Innovation Foundry/AIM-AHEAD Lab. DeBERTa-v3-Large-MRQA es un modelo de respuesta a preguntas extractivas basado en el modelo DeBERTa-v3-Large y entrenado en el conjunto de datos MRQA. Está diseñado para proporcionar respuestas precisas a preguntas basadas en pasajes de contexto. Puede usarse en diversas tareas, como motores de búsqueda, chatbots, sistemas de servicio al cliente y otras aplicaciones que requieren comprensión del lenguaje natural.

Como usar

from transformers import pipeline

question_answerer = pipeline("question-answering", model='VMware/deberta-v3-large-mrqa')

context = "We present the results of the Machine Reading for Question Answering (MRQA) 2019 shared task on evaluating the generalization capabilities of reading comprehension systems. In this task, we adapted and unified 18 distinct question answering datasets into the same format. Among them, six datasets were made available for training, six datasets were made available for development, and the final six were hidden for final evaluation. Ten teams submitted systems, which explored various ideas including data sampling, multi-task learning, adversarial training and ensembling. The best system achieved an average F1 score of 72.5 on the 12 held-out datasets, 10.7 absolute points higher than our initial baseline based on BERT."

question = "What is MRQA?"

result = question_answerer(question=question, context=context)

print(result)
# {
# 'score': 0.9785431623458862,
# 'start': 29,
# 'end': 68,
# 'answer': ' Machine Reading for Question Answering'
# }

Funcionalidades

Modelo de respuesta a preguntas extractivas
Entrenado en el conjunto de datos MRQA con 516,819 ejemplos
Tiempo de entrenamiento: 38:36:13 en una GPU Nvidia V100 de 32GB
Basado en el framework PyTorch
Versión del modelo: 1.0

Casos de uso

Motores de búsqueda
Chatbots
Sistemas de servicio al cliente
Aplicaciones que requieren comprensión del lenguaje natural