hubert233/GPTFuzz
hubert233
Clasificación de texto
Repositorio oficial de GPTFuzz. Este modelo es una versión ajustada de Roberta para clasificar la toxicidad de las respuestas, entrenado en un conjunto de datos etiquetados manualmente.
Como usar
Este modelo se puede usar para clasificar la toxicidad de las respuestas utilizando el siguiente código:
from transformers import AutoModelForSequenceClassification, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained('hubert233/GPTFuzz')
model = AutoModelForSequenceClassification.from_pretrained('hubert233/GPTFuzz')
inputs = tokenizer('I like you. I love you', return_tensors='pt')
outputs = model(**inputs)
Funcionalidades
- Clasificación de texto
- Compatibilidad con Transformers
- Compatibilidad con PyTorch
- Modelo AutoTrain Compatible
- Endpoints de Inferencia
- Licencia MIT
Casos de uso
- Detectar comentarios tóxicos en foros en línea
- Moderar contenido generado por usuarios
- Clasificar respuestas en redes sociales
- Filtrar comentarios inapropiados en plataformas de colaboración