biobert-large-cased-v1.1-squad
dmis-lab
Pregunta y respuesta
BioBERT es un modelo de lenguaje biomédico preentrenado diseñado para minería de texto biomédico. Desarrollado por DMIS-lab (Data Mining and Information Systems Lab, Korea University), se utiliza principalmente para tareas de respuesta a preguntas. BioBERT se preentrenó usando Wikipedia en inglés y BooksCorpus, y luego se ajustó en corpora biomédicas como PubMed y PMC. Durante el preentrenamiento, se utilizó Naver Smart Machine Learning (NSML) para realizar experimentos a gran escala en varios GPUs.
Como usar
Para usar el modelo, puedes utilizar el siguiente código:
from transformers import AutoTokenizer, AutoModelForQuestionAnswering
tokenizer = AutoTokenizer.from_pretrained("dmis-lab/biobert-large-cased-v1.1-squad")
model = AutoModelForQuestionAnswering.from_pretrained("dmis-lab/biobert-large-cased-v1.1-squad")
Funcionalidades
- Modelo preentrenado en texto biomédico.
- Optimizado para respuesta a preguntas.
- Preentrenado en Wikipedia y BooksCorpus.
- Usa PubMed y PMC para entrenamiento adicional.
Casos de uso
- Respuesta a preguntas
- Minería de texto biomédico