roberta-base-on-cuad-finetuned-squad

Procedimiento de Entrenamiento

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Resultados del Entrenamiento

Pérdida en el entrenamiento:
Época 1
Paso 50
Pérdida de validación 0.0598
Época 2
Paso 100
Pérdida de validación 0.0480
Época 3
Paso 150
Pérdida de validación 0.0745
...

Ejemplos de uso

{
"text":"Where do I live?",
"context":"My name is Wolfgang and I live in Berlin"
},
{
"text":"Where do I live?",
"context":"My name is Sarah and I live in London"
},
{
"text":"What's my name?",
"context":"My name is Clara and I live in Berkeley."
}