dynamic_tinybert-finetuned-squad
phdev
Pregunta y respuesta
Este modelo es una versión ajustada de Intel/dynamic_tinybert en un conjunto de datos desconocido. Alcanza los siguientes resultados en el conjunto de evaluación: Pérdida: 1.4682
Como usar
El modelo dynamic_tinybert-finetuned-squad puede ser utilizado para tareas de preguntas y respuestas.
Los hiperparámetros utilizados durante el entrenamiento fueron:
- learning_rate: 2e-05
- train_batch_size: 16
- eval_batch_size: 16
- seed: 42
- optimizer: Adam con betas=(0.9,0.999) y epsilon 1e-08
- lr_scheduler_type: linear
- num_epochs: 3
Funcionalidades
- Transformers
- TensorBoard
- Safetensors
- Generado a partir de Trainer
- Inferencia Endpoints
Casos de uso
- Respuestas a preguntas