biobert-base-cased-v1.1-squad-finetuned-covdrobert

juliusco

Pregunta y respuesta

Este modelo es una versión afinada del modelo dmis-lab/biobert-base-cased-v1.1-squad en el conjunto de datos covid_qa_deepset. Logra los siguientes resultados en el conjunto de evaluación: Pérdida: 0.3959.

Como usar

El modelo se puede usar para responder preguntas relacionadas con COVID-19. Incluye las siguientes configuraciones de hiperparámetros:
learning_rate: 2e-05 
train_batch_size: 128 
eval_batch_size: 128 
seed: 42 
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08 
lr_scheduler_type: linear 
num_epochs: 2 

Ejemplo de uso:
from transformers import AutoModelForQuestionAnswering, AutoTokenizer
model_name = 'juliusco/biobert-base-cased-v1.1-squad-finetuned-covdrobert'
model = AutoModelForQuestionAnswering.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = 'What is COVID-19?'
inputs = tokenizer(prompt, return_tensors='pt')
outputs = model(**inputs)

Funcionalidades

Fine-tuned version of dmis-lab/biobert-base-cased-v1.1-squad
Dataset: covid_qa_deepset

Casos de uso

Respuestas a preguntas sobre COVID-19
Investigaciones médicas relacionadas con COVID-19