second-state/FLUX.1-schnell-GGUF

second-state

Texto a imagen

Versión cuantizada en formato GGUF de FLUX.1-schnell de Black Forest Labs, preparada para generación de imágenes texto-a-imagen con sd-api-server/LlamaEdge y stable-diffusion.cpp. Incluye pesos cuantizados para el modelo de difusión, VAE, CLIP-L y T5XXL, con variantes desde 2 bits hasta 16 bits para reducir tamaño y facilitar ejecución local.

Como usar

Ejemplo de ejecución como servicio LlamaEdge con sd-api-server 0.1.4:
wasmedge --dir .:. sd-api-server.wasm \
  --model-name flux1-schnell \
  --diffusion-model flux1-schnell-Q4_0.gguf \
  --vae ae.safetensors \
  --clip-l clip_l.safetensors \
  --t5xxl t5xxl-Q8_0.gguf

La página remite a la guía de FLUX en el repositorio de sd-api-server para más detalles de configuración.

Funcionalidades

Modelo texto-a-imagen basado en FLUX.1-schnell.
Distribución en formato GGUF compatible con stable-diffusion.cpp y LlamaEdge.
Incluye cuantizaciones Q2_K, Q3_K, Q4_0, Q4_1, Q4_K, Q5_0, Q5_1, Q8_0 y F16 según el componente.
Permite ejecutar FLUX.1-schnell con componentes separados: modelo de difusión, VAE, CLIP-L y T5XXL.
Licencia Apache 2.0.
Cuantizado con stable-diffusion.cpp master-64d231f.

Casos de uso

Generación local de imágenes a partir de texto con FLUX.1-schnell.
Ejecución de modelos FLUX cuantizados en entornos con menos memoria que los pesos F16 completos.
Pruebas de inferencia texto-a-imagen mediante sd-api-server, LlamaEdge y stable-diffusion.cpp.
Despliegues CPU o edge donde se prefieren pesos GGUF cuantizados.