nunchaku-ai/nunchaku-flux.1-schnell

nunchaku-ai

Texto a imagen

Versión cuantizada con Nunchaku de FLUX.1-schnell para generación de imágenes a partir de texto. Está diseñada para inferencia eficiente con modelos de difusión, usando cuantización SVDQuant de 4 bits para reducir coste computacional y mantener una pérdida mínima de rendimiento frente al modelo base.

Como usar

Instalación y uso con Diffusers:
pip install -U diffusers transformers accelerate

import torch
from diffusers import DiffusionPipeline

# switch to "mps" for apple devices
pipe = DiffusionPipeline.from_pretrained(
    "nunchaku-ai/nunchaku-flux.1-schnell",
    dtype=torch.bfloat16,
    device_map="cuda"
)

prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]

También incluye referencias de uso para Diffusers mediante flux.1-schnell.py y para ComfyUI mediante nunchaku-flux.1-schnell.json.

Funcionalidades

Modelo de texto a imagen basado en FLUX.1-schnell.
Cuantización SVDQuant para inferencia eficiente en modelos de difusión.
Archivo INT4 `svdq-int4_r32-flux.1-schnell.safetensors` para GPUs anteriores a Blackwell o serie 50.
Archivo NVFP4 `svdq-fp4_r32-flux.1-schnell.safetensors` para GPUs Blackwell o serie 50.
Compatible con Diffusers, ComfyUI y el motor de inferencia Nunchaku.
Licencia Apache 2.0.

Casos de uso

Generación rápida de imágenes desde prompts de texto.
Ejecución local de FLUX.1-schnell con menor consumo de memoria y cómputo.
Flujos de trabajo de creación visual en Diffusers o ComfyUI.
Pruebas de inferencia cuantizada en GPUs pre-Blackwell y Blackwell.