Deepchecks/roberta_base_formality_ranker_onnx
Deepchecks
Clasificación de texto
Este modelo es una versión optimizada con ONNX del modelo original roberta-base-formality-ranker. Ha sido específicamente adaptado para GPUs y puede mostrar variaciones en su rendimiento cuando se ejecuta en CPUs.
Como usar
from transformers import AutoTokenizer
from optimum.onnxruntime import ORTModelForSequenceClassification
from optimum.pipelines import pipeline
# cargar el tokenizador y los pesos del modelo
tokenizer = AutoTokenizer.from_pretrained('Deepchecks/roberta_base_formality_ranker_onnx')
model = ORTModelForSequenceClassification.from_pretrained('Deepchecks/roberta_base_formality_ranker_onnx')
# preparar el pipeline y generar inferencias
user_inputs = ["I hope this email finds you well", "I hope this email find you swell", "What's up doc?"]
pip = pipeline(task='text-classification', model=model, tokenizer=tokenizer, device=device, accelerator="ort")
res = pip(user_inputs, batch_size=64, truncation="only_first")
Funcionalidades
- Optimizado con ONNX
- Compatible con GPUs
- Rendimiento variable en CPUs
- Clasificación de texto
Casos de uso
- Clasificación de formalidad en textos
- Evaluación de formalidad en correos electrónicos y otros tipos de comunicaciones
- Optimización de textos para diferentes audiencias