Sotireas/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext-ContaminationQAmodel_PubmedBERT

Sotireas

Pregunta y respuesta

Este modelo es una versión ajustada de Sotireas/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext-ContaminationQAmodel_PubmedBERT en un conjunto de datos desconocido. Este modelo es un modelo de Preguntas y Respuestas (Question Answering) basado en Transformers, utilizando PyTorch y TensorBoard. Se generó a partir del Trainer. El modelo logra una pérdida de 3.0853 en el conjunto de evaluación.

Como usar

Los siguientes hiperparámetros se utilizaron durante el entrenamiento:
learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 10

Funcionalidades

Tareas de Preguntas y Respuestas
Uso de Transformadores
Implementación en PyTorch
Compatibilidad con TensorBoard
Entrenado con el optimizador Adam
Tasa de aprendizaje lineal
Diez épocas de entrenamiento

Casos de uso

Puede ser utilizado para responder preguntas basadas en textos científicos y médicos.
Ayuda en la búsqueda de información relevante en textos de investigación.
Facilita la automatización de tareas de revisión de literatura.