deberta-base-finetuned-squad1

stevemobs
Pregunta y respuesta

Este modelo es una versión afinada de microsoft/deberta-base en el conjunto de datos squad. Alcanzá los siguientes resultados en el conjunto de evaluación: Pérdida: 0.8037.

Como usar

Este modelo aún no tiene suficiente actividad para ser desplegado en la API de Inferencia (sin servidor). Aumenta su visibilidad social y vuelve a comprobar más tarde, o despliega en Endpoints de Inferencia (dedicado) en su lugar.

Hiperparámetros de entrenamiento

learning_rate: 2e-05
train_batch_size: 12
eval_batch_size: 12
seed: 42
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 2

Resultados del entrenamiento

Pérdida de entrenamiento
Época
Paso
Pérdida de validación

0.7928
1.0
7380
0.7810

0.5795
2.0
14760
0.8037

Funcionalidades

Transformers
PyTorch
TensorBoard

Casos de uso

Responder preguntas