DistilRoBERTa-nsfw-prompt-stable-diffusion
Este modelo está diseñado para identificar prompts NSFW en Stable-diffusion, entrenado con un conjunto de datos que comprende aproximadamente 2 millones de prompts, divididos equitativamente entre categorías SFW y NSFW (1,043,475 muestras de cada una, asegurando un conjunto de datos equilibrado). Los prompts de una sola palabra han sido excluidos para mejorar la precisión y la relevancia de las predicciones. Es importante notar que el modelo evalúa la probabilidad de que un prompt sea NSFW basado en ocurrencias estadísticas, en lugar de evaluar las palabras específicas. Este enfoque permite identificar contenido NSFW en prompts que pueden parecer SFW. La precisión del modelo tiende a aumentar con la longitud del prompt. Por lo tanto, los prompts extremadamente breves, como aquellos que comprenden solo dos o tres palabras, podrían estar sujetos a evaluaciones menos precisas. Aunque este modelo demuestra una precisión satisfactoria, se recomienda su uso con este detector de imágenes NSFW para mejorar las capacidades de detección general y minimizar la ocurrencia de falsos positivos.
Como usar
from transformers import pipeline
prompt_detector = pipeline("text-classification", model="AdamCodd/distilroberta-nsfw-prompt-stable-diffusion")
predicted_class = prompt_detector("masterpiece, 1girl, looking at viewer, sitting, tea, table, garden")
print(predicted_class)
#[{'label': 'SFW', 'score': 0.868}]
Funcionalidades
- Alta precisión en la clasificación de prompts como SFW o NSFW.
- División equilibrada entre SFW y NSFW en el conjunto de datos de entrenamiento.
- Mejora significativa sobre la versión anterior del modelo.
- Compatible con Transformers.js.
- Eficaz en evitar falsos positivos para descripciones de partes del cuerpo bajo la ropa.
Casos de uso
- Detección de prompts NSFW en aplicaciones de generación de texto a imagen.
- Filtrado de contenido para aplicaciones que manejan conjuntos de datos mixtos de SFW y NSFW.
- Mejora de la seguridad del usuario en plataformas que generan contenido visual basado en texto.