deberta-base-finetuned-squad1
stevemobs
Pregunta y respuesta
Este modelo es una versión afinada de microsoft/deberta-base en el conjunto de datos squad. Alcanzá los siguientes resultados en el conjunto de evaluación: Pérdida: 0.8037.
Como usar
Este modelo aún no tiene suficiente actividad para ser desplegado en la API de Inferencia (sin servidor). Aumenta su visibilidad social y vuelve a comprobar más tarde, o despliega en Endpoints de Inferencia (dedicado) en su lugar.
Hiperparámetros de entrenamiento
learning_rate: 2e-05
train_batch_size: 12
eval_batch_size: 12
seed: 42
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 2
Resultados del entrenamiento
Pérdida de entrenamiento
Época
Paso
Pérdida de validación
0.7928
1.0
7380
0.7810
0.5795
2.0
14760
0.8037
Funcionalidades
- Transformers
- PyTorch
- TensorBoard
Casos de uso
- Responder preguntas