HomayounSadri/bert-base-uncased-finetuned-squad-v2

HomayounSadri
Pregunta y respuesta

Este modelo es una versión afinada de bert-base-uncased en un conjunto de datos desconocido. Logra los siguientes resultados en el conjunto de evaluación: Pérdida de entrenamiento: 0.8470, Pérdida de validación: 1.0267, Época: 1.

Como usar

El modelo no tiene suficiente actividad para ser desplegado en Inference API (sin servidor) todavía. Aumente su visibilidad social y vuelva a comprobar más tarde, o despliegue en Inference Endpoints (dedicado) en su lugar.

Los siguientes hiperparámetros se usaron durante el entrenamiento:

{
 "optimizer": {
 "name": "AdamWeightDecay",
 "learning_rate": {
 "class_name": "PolynomialDecay",
 "config": {
 "initial_learning_rate": 2e-05,
 "decay_steps": 11064,
 "end_learning_rate": 0.0,
 "power": 1.0,
 "cycle": False,
 "name": null
 }
 },
 "decay": 0.0,
 "beta_1": 0.9,
 "beta_2": 0.999,
 "epsilon": 1e-08,
 "amsgrad": False,
 "weight_decay_rate": 0.01
 },
 "training_precision": "float32" 
}

Funcionalidades

Pérdida de entrenamiento: 0.8470
Pérdida de validación: 1.0267
Época: 1
Transformers 4.18.0
TensorFlow 2.8.0
Datasets 2.1.0
Tokenizers 0.12.1

Casos de uso

Responder preguntas