distilbert-base-squad-TFM_1-Question-Answering

JoelVIU

Pregunta y respuesta

Este modelo es una versión afinada de 'bert-base-uncased' en el conjunto de datos 'squad'. Ofrece capacidades para resolver tareas de preguntas y respuestas utilizando Transformers y PyTorch. Este modelo fue generado a partir de Trainer y se puede implementar a través de Endpoints de Inferencia.

Como usar

Procedimiento de Entrenamiento
Los siguientes hiperparámetros fueron utilizados durante el entrenamiento:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3
mixed_precision_training: Native AMP

Funcionalidades

Transformers
PyTorch
TensorBoard
Afinado en el conjunto de datos 'squad'

Casos de uso

Tareas de preguntas y respuestas