OFA-Sys/small-stable-diffusion-v0
OFA-Sys
Texto a imagen
【Actualización 2023/02/07】 Recientemente, hemos lanzado un repositorio de despliegue de difusión para acelerar la inferencia tanto en GPU (~4x de aceleración, basado en TensorRT) como en CPU (~12x de aceleración, basado en IntelOpenVINO). Integrado con este repositorio, small-stable-diffusion puede generar imágenes en solo 5 segundos en la CPU*. * Prueba en CPU Intel(R) Xeon(R) Platinum 8369B, DPMSolverMultistepScheduler 10 pasos, fijar canal/alto/ancho al convertir a Onnx Calidad de generación de imágenes similar, ¡pero es casi 1/2 más pequeño! Aquí hay algunas muestras:
Como usar
import torch
from diffusers import StableDiffusionPipeline
model_id = "OFA-Sys/small-stable-diffusion-v0/"
pipe = StableDiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.float16)
pipe = pipe.to("cuda")
prompt = "an apple, 4k"
image = pipe(prompt).images[0]
image.save("apple.png")
Funcionalidades
- Admite una interfaz de usuario web Gradio
- Inferencia más rápida en CPU (~12x basada en IntelOpenVINO)
- Inferencia más rápida en GPU (~4x basada en TensorRT)
- Generación de imágenes en solo 5 segundos en CPU
- Reducción de tamaño del modelo a casi la mitad
Casos de uso
- Despliegue seguro de modelos que tienen el potencial de generar contenido dañino.
- Exploración y comprensión de las limitaciones y sesgos de los modelos generativos.
- Generación de obras de arte y uso en procesos de diseño y otros procesos artísticos.
- Aplicaciones en herramientas educativas o creativas.
- Investigación sobre modelos generativos.