distilroberta-bias-onnx

protectai

Clasificación de texto

Esta es una versión de valurank/distilroberta-bias convertida a formato ONNX. Está diseñada para detectar sesgos en textos utilizando la versión destilada del modelo RoBERTa. El modelo fue convertido a ONNX usando la biblioteca 🤗 Optimum.

Como usar

Optimum
Cargar el modelo requiere que la biblioteca 🤗 Optimum esté instalada.
from optimum.onnxruntime import ORTModelForSequenceClassification
from transformers import AutoTokenizer, pipeline

tokenizer = AutoTokenizer.from_pretrained("laiyer/distilroberta-bias-onnx")
model = ORTModelForSequenceClassification.from_pretrained("laiyer/distilroberta-bias-onnx")
classifier = pipeline(
    task="text-classification",
    model=model,
    tokenizer=tokenizer,
)

classifier_output = classifier("Tu texto para analizar el sesgo.")
score = (classifier_output[0]["score"] if classifier_output[0]["label"] == "BIASED" else 1 - classifier_output[0]["score"])

LLM Guard
Escaneo de sesgos
Comunidad
Únete a nuestro Slack para darnos retroalimentación, conectar con los mantenedores y otros usuarios, hacer preguntas o participar en discusiones sobre la seguridad de LLM.

Funcionalidades

Modelo base: DistilRoBERTa, una versión destilada del modelo RoBERTa optimizada para un rendimiento más rápido manteniendo una precisión similar.
Modelo convertido a formato ONNX sin cambios adicionales.
Detección de sesgos en textos.

Casos de uso

Detección de sesgos en textos.
Análisis rápido de textos en CPUs utilizando modelos convertidos a ONNX.