mit-han-lab/nunchaku-flux.1-dev
mit-han-lab
Texto a imagen
Versión cuantizada con Nunchaku de FLUX.1-dev para generación de imágenes a partir de texto. Está optimizada para inferencia eficiente con pérdida mínima de rendimiento, usando cuantización SVDQuant de 4 bits.
Como usar
Uso con Diffusers: consultar flux.1-dev.py y el tutorial avanzado del proyecto.
Uso con ComfyUI: consultar nunchaku-flux.1-dev.json.
No hay fragmentos de código ejecutable incluidos en el HTML proporcionado.
Funcionalidades
- Generación de imágenes desde prompts de texto.
- Modelo FLUX.1-dev cuantizado mediante SVDQuant.
- Incluye variante INT4 para GPU anteriores a Blackwell, pre serie 50: `svdq-int4_r32-flux.1-dev.safetensors`.
- Incluye variante NVFP4 para GPU Blackwell, serie 50: `svdq-fp4_r32-flux.1-dev.safetensors`.
- Usa Nunchaku como motor de inferencia y DeepCompressor como biblioteca de cuantización.
- Modelo base: `black-forest-labs/FLUX.1-dev`.
- Licencia: `flux-1-dev-non-commercial-license`.
Casos de uso
- Generar imágenes de alta calidad desde descripciones textuales.
- Ejecutar FLUX.1-dev con menor coste de memoria y cómputo mediante cuantización de 4 bits.
- Inferencia local optimizada en GPU no Blackwell usando el archivo INT4.
- Inferencia optimizada en GPU Blackwell serie 50 usando el archivo NVFP4.
- Experimentación e investigación no comercial con modelos de difusión cuantizados.