deberta-v3-base-pii-identifier-v2

JasperLS
Clasificación de texto

Este modelo es una versión afinada de microsoft/deberta-v3-base en el dataset None. El modelo logra los siguientes resultados en el conjunto de evaluación: Pérdida: 0.0154, Precisión: 0.9894.

Como usar

Hiperparámetros de entrenamiento

 - learning_rate: 2e-05
 - train_batch_size: 8
 - eval_batch_size: 8
 - seed: 42
 - optimizer: Adam con betas=(0.9,0.999) y epsilon=1e-08
 - lr_scheduler_type: linear
 - num_epochs: 3

Resultados del entrenamiento

 - Epoch 1:
   - Step: 57
   - Pérdida de validación: 0.1350
   - Precisión: 0.9574
 - Epoch 2:
   - Step: 114
   - Pérdida de validación: 0.0353
   - Precisión: 0.9787
 - Epoch 3:
   - Step: 171
   - Pérdida de validación: 0.0154
   - Precisión: 0.9894

Versiones del framework

 - Transformers: 4.35.2
 - Pytorch: 2.1.0+cu121
 - Datasets: 2.17.0
 - Tokenizers: 0.15.1

Funcionalidades

Clasificación de texto
Transformers
TensorBoard
Safetensors
Generado a partir de Trainer

Casos de uso

Identificación de información personal identificable (PII) en textos.