deberta-v3-base-injection

JasperLS
Clasificación de texto

Este modelo es una versión ajustada de microsoft/deberta-v3-base en el dataset de promp-injection. Alcanzó los siguientes resultados en el conjunto de evaluación: Pérdida: 0.0673, Precisión: 0.9914

Como usar

A continuación se presentan los hiperparámetros utilizados durante el entrenamiento:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Resultados del entrenamiento:

Training Loss
Epoch
Step
Validation Loss
Accuracy

No log
1.0
69
0.2353
0.9741

No log
2.0
138
0.0894
0.9741

No log
3.0
207
0.0673
0.9914

Versiones del framework:

Transformers 4.29.1
Pytorch 2.0.0+cu118
Datasets 2.12.0
Tokenizers 0.13.3

Funcionalidades

Clasificación de texto
Transformers
PyTorch
TensorBoard
Generado desde Trainer
Puntos finales de inferencia

Casos de uso

Clasificación de texto precisa
Aplicaciones de IA/ML que requieren alta precisión en la evaluación de texto