pixel-base-finetuned-squadv1
Team-PIXEL
Pregunta y respuesta
Este modelo es una versión afinada de Team-PIXEL/pixel-base en el conjunto de datos de squad.
Como usar
Aún se necesita más información sobre el uso previsto y las limitaciones.
Funcionalidades
- Tasa de aprendizaje: 5e-05
- Tamaño del lote de entrenamiento: 32
- Tamaño del lote de evaluación: 8
- Semilla: 43
- Optimizador: Adam con betas=(0.9,0.999) y epsilon=1e-08
- Tipo de planificador de tasas de aprendizaje: lineal
- Pasos de calentamiento del planificador de tasas de aprendizaje: 100
- Pasos de entrenamiento: 20000
- Entrenamiento de precisión mixta: Apex, nivel de optimización O1
- Versiones del framework: Transformers 4.17.0, Pytorch 1.11.0, Datasets 2.0.0, Tokenizers 0.12.1