biomedtra-small-es-squad2-es
somosnlp-hackathon-2022
Pregunta y respuesta
Este modelo ha sido entrenado como parte del proyecto 'Extractive QA Biomedicine' desarrollado durante el Hackathon 2022 organizado por SOMOS NLP. Este modelo es una versión ajustada de mrm8488/biomedtra-small-es en el dataset de entrenamiento squad_es (v2).
Como usar
El modelo fue ajustado usando los siguientes hiperparámetros:
--num_train_epochs 10 \
--learning_rate 1e-4 \
--max_seq_length 384 \
--doc_stride 128 \
Funcionalidades
- Entrenado con corpus biomédico en español
- Modelos de lenguaje enmascarado general
- Generación de modelos de preguntas y respuestas extractivas en Biomedicina
Casos de uso
- Preguntas y respuestas en el ámbito biomédico
- Comparación de la efectividad de los modelos de lenguaje biomédico en español frente a modelos de lenguaje enmascarado general