sjrhuschlee/deberta-v3-base-squad2-ext-v1
sjrhuschlee
Pregunta y respuesta
Este es el modelo deberta-v3-base, ajustado con los conjuntos de datos SQuAD 2.0, MRQA, AdversarialQA y SynQA. Ha sido entrenado en pares de preguntas y respuestas, incluyendo preguntas no respondibles, para la tarea de Respuesta Extractiva a Preguntas.
Como usar
import torch
from transformers import(
AutoModelForQuestionAnswering,
AutoTokenizer,
pipeline
)
model_name = "sjrhuschlee/deberta-v3-base-squad2-ext-v1"
# a) Usando pipelines
nlp = pipeline('question-answering', model=model_name, tokenizer=model_name)
qa_input = {
'question': '¿Dónde vivo?',
'context': 'Mi nombre es Sarah y vivo en Londres'
}
res = nlp(qa_input)
# {'score': 0.984, 'start': 30, 'end': 37, 'answer': 'Londres'}
# b) Cargar modelo y tokenizador
model = AutoModelForQuestionAnswering.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)
question = '¿Dónde vivo?'
context = 'Mi nombre es Sarah y vivo en Londres'
encoding = tokenizer(question, context, return_tensors="pt")
start_scores, end_scores = model(
encoding["input_ids"],
attention_mask=encoding["attention_mask"],
return_dict=False
)
all_tokens = tokenizer.convert_ids_to_tokens(input_ids[0].tolist())
answer_tokens = all_tokens[torch.argmax(start_scores):torch.argmax(end_scores) + 1]
answer = tokenizer.decode(tokenizer.convert_tokens_to_ids(answer_tokens))
# 'Londres'
Funcionalidades
- Modelos de lenguaje: deberta-v3-base
- Tarea de downstream: Respuesta Extractiva a Preguntas
- Datos de entrenamiento: SQuAD 2.0, MRQA, AdversarialQA, SynQA
- Datos de evaluación: SQuAD 2.0
- Infraestructura: 1x NVIDIA 3070
Casos de uso
- Respuesta Extractiva a Preguntas
- Identificación de respuestas en textos largos
- Respuestas a preguntas no respondibles