deepset/xlm-roberta-large-squad2

En Haystack

Para realizar preguntas y respuestas a escala (es decir, muchos documentos en lugar de un solo párrafo), se puede cargar el modelo también en haystack:

reader = FARMReader(model_name_or_path="deepset/xlm-roberta-large-squad2")
# o
reader = TransformersReader(model="deepset/xlm-roberta-large-squad2",tokenizer="deepset/xlm-roberta-large-squad2")

En Transformadores

Para realizar predicciones:

from transformers import AutoModelForQuestionAnswering, AutoTokenizer, pipeline

model_name = "deepset/xlm-roberta-large-squad2"

# a) Obtener predicciones
nlp = pipeline('question-answering', model=model_name, tokenizer=model_name)
QA_input = {
  'question': '¿Por qué es importante la conversión de modelos?',
  'context': 'La opción de convertir modelos entre FARM y transformers ofrece libertad al usuario y permite cambiar fácilmente de marco.'
}
res = nlp(QA_input)

Para cargar modelo y tokenizer:

model = AutoModelForQuestionAnswering.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)