franklu/pubmed_bert_squadv2

franklu

Pregunta y respuesta

Este modelo es una versión ajustada de microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext en SQuAD V2 utilizando run_qa.py. Es un modelo de Transformers basado en PyTorch diseñado para el análisis de preguntas y respuestas.

Como usar

Para utilizar este modelo se necesita ajustar la base, utilizando el siguiente código:
BASE_MODEL=microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext
OUTPUT_DIR=~/Documents/projects/tunned_models/ms_pubmed_bert_squadv2/

python run_qa.py \
--model_name_or_path $BASE_MODEL\
--dataset_name squad_v2 \
--do_train \
--do_eval \
--version_2_with_negative \
--per_device_train_batch_size 12 \
--learning_rate 3e-5 \
--num_train_epochs 2 \
--max_seq_length 384 \
--doc_stride 128 \
--output_dir $OUTPUT_DIR

Funcionalidades

Clasificación de preguntas y respuestas
Basado en el modelo bert de PyTorch
Ajustado con el script run_qa.py

Casos de uso

Análisis de preguntas y respuestas en documentos biomédicos
Investigación científica en textos biomédicos
Filtrado y rescate de información relevante en documentos extensos