HomayounSadri/bert-base-uncased-finetuned-squad-v2
HomayounSadri
Pregunta y respuesta
Este modelo es una versión afinada de bert-base-uncased en un conjunto de datos desconocido. Logra los siguientes resultados en el conjunto de evaluación: Pérdida de entrenamiento: 0.8470, Pérdida de validación: 1.0267, Época: 1.
Como usar
El modelo no tiene suficiente actividad para ser desplegado en Inference API (sin servidor) todavía. Aumente su visibilidad social y vuelva a comprobar más tarde, o despliegue en Inference Endpoints (dedicado) en su lugar.
Los siguientes hiperparámetros se usaron durante el entrenamiento:
{
"optimizer": {
"name": "AdamWeightDecay",
"learning_rate": {
"class_name": "PolynomialDecay",
"config": {
"initial_learning_rate": 2e-05,
"decay_steps": 11064,
"end_learning_rate": 0.0,
"power": 1.0,
"cycle": False,
"name": null
}
},
"decay": 0.0,
"beta_1": 0.9,
"beta_2": 0.999,
"epsilon": 1e-08,
"amsgrad": False,
"weight_decay_rate": 0.01
},
"training_precision": "float32"
}
Funcionalidades
- Pérdida de entrenamiento: 0.8470
- Pérdida de validación: 1.0267
- Época: 1
- Transformers 4.18.0
- TensorFlow 2.8.0
- Datasets 2.1.0
- Tokenizers 0.12.1
Casos de uso
- Responder preguntas