roberta-large-finetuned-squad
ozgurkk
Pregunta y respuesta
Este modelo es una versión ajustada finamente de FacebookAI/roberta-large en el conjunto de datos None. Logra los siguientes resultados en el conjunto de evaluación: Pérdida: 0.6595
Como usar
Los siguientes hiperparámetros fueron utilizados durante el entrenamiento:
- learning_rate: 2e-05
- train_batch_size: 16
- eval_batch_size: 16
- seed: 42
- gradient_accumulation_steps: 4
- total_train_batch_size: 64
- optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
- lr_scheduler_type: linear
- lr_scheduler_warmup_ratio: 0.1
- num_epochs: 1
- mixed_precision_training: Native AMP
Ejemplo de uso
texto: "¿Dónde vivo?"
contexto: "Mi nombre es Wolfgang y vivo en Berlín"
texto: "¿Dónde vivo?"
contexto: "Mi nombre es Sarah y vivo en Londres"
texto: "¿Cuál es mi nombre?"
contexto: "Mi nombre es Clara y vivo en Berkeley."
Funcionalidades
- Ajuste fino basado en FacebookAI/roberta-large
- Pérdida en conjunto de evaluación: 0.6595
- Compatible con transformadores y safetensors
- Capacidades de respuesta a preguntas
Casos de uso
- Respuesta a preguntas automatizada
- Búsqueda de información específica en textos largos
- Asistentes virtuales
- Soporte al cliente automatizado