deberta-v3-large-squad2

sjrhuschlee

Pregunta y respuesta

Este es el modelo deberta-v3-large, ajustado utilizando el conjunto de datos SQuAD2.0. Ha sido entrenado en pares de pregunta-respuesta, incluidas preguntas sin respuesta, para la tarea de Respuesta a Preguntas Extractivas. Este modelo fue entrenado usando LoRA disponible a través de la biblioteca PEFT.

Como usar

import torch
from transformers import(
    AutoModelForQuestionAnswering,
    AutoTokenizer,
    pipeline
)
model_name = "sjrhuschlee/deberta-v3-large-squad2"

# a) Usando pipelines
nlp = pipeline('question-answering', model=model_name, tokenizer=model_name)
qa_input = {
    'question': 'Where do I live?',
    'context': 'My name is Sarah and I live in London'
}
res = nlp(qa_input)
# {'score': 0.984, 'start': 30, 'end': 37, 'answer': ' London'}

# b) Cargar modelo y tokenizador
model = AutoModelForQuestionAnswering.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

question = 'Where do I live?'
context = 'My name is Sarah and I live in London'
encoding = tokenizer(question, context, return_tensors="pt")
start_scores, end_scores = model(
    encoding["input_ids"],
    attention_mask=encoding["attention_mask"],
    return_dict=False
)

all_tokens = tokenizer.convert_ids_to_tokens(encoding["input_ids"][0].tolist())
answer_tokens = all_tokens[torch.argmax(start_scores):torch.argmax(end_scores) + 1]
answer = tokenizer.decode(tokenizer.convert_tokens_to_ids(answer_tokens))
# 'London'

Funcionalidades

Ajustado utilizando el conjunto de datos SQuAD2.0
Entrenado en pares de pregunta-respuesta, incluyendo preguntas sin respuesta
Modelo de lenguaje: deberta-v3-large
Uso de pesos fusionados (pesos del modelo base + pesos LoRA)

Casos de uso

Respuesta a Preguntas Extractivas
Manejo de preguntas sin respuesta
Implementación en pipelines de transformers