Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5

ai-forever
Texto a video

Modelo de generación de vídeo a partir de texto basado en Wan 2.1 T2V de 14B parámetros. Esta variante combina NABLA con Sliding Tile Attention usando un umbral de 0,5 y ventanas STA de 11×5×5 para acelerar la generación de vídeo mediante atención dispersa adaptativa, manteniendo una calidad similar a la atención completa. Está orientado a vídeos de alta resolución y requiere PyTorch 2.7 o posterior para FlexAttention.

Como usar

Instala las dependencias y carga el modelo con Diffusers:

pip install -U diffusers transformers accelerate
import torch
from diffusers import DiffusionPipeline

# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
    "ai-forever/Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5",
    dtype=torch.bfloat16,
    device_map="cuda"
)

prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]

Para generar vídeo con NABLA y STA mediante el repositorio Wan2.1-NABLA:

python generate.py \
  --task t2v-14B \
  --size 1280*720 \
  --ckpt_dir ./Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5 \
  --prompt {prompt} \
  --frame_num {frame_num}

También puede aplicarse NABLA junto con STA en modo zero-shot sobre el modelo Wan2.1 original:

python generate.py \
  --task t2v-14B \
  --size 1280*720 \
  --ckpt_dir ./Wan2.1-T2V-14B \
  --prompt {prompt} \
  --frame_num {frame_num} \
  --sparse_algo nabla-{thr}_sta-{wT}-{wH}-{wW}

Se necesita PyTorch 2.7 o posterior para disponer de FlexAttention.

Funcionalidades

Generación de vídeo a partir de instrucciones de texto
Atención dispersa adaptativa NABLA con umbral de 0,5
Sliding Tile Attention con ventanas temporal y espaciales de 11×5×5
Hasta 2,7 veces más rapidez en entrenamiento e inferencia, según la resolución y la configuración
Calidad comparable a la atención completa según CLIP, VBench y evaluación humana
Implementación con FlexAttention de PyTorch, sin kernels CUDA personalizados
Compatible con contenido de 720p o superior, dinámico y de larga duración
Admite resoluciones divisibles por 128; por ejemplo, 1280×720 se ajusta a 1280×640
Licencia Apache 2.0

Casos de uso

Creación de vídeos de alta resolución a partir de descripciones textuales
Generación de secuencias largas con menor coste de atención
Aceleración de la inferencia de Wan 2.1 en GPU
Entrenamiento eficiente de transformadores de difusión para vídeo
Investigación sobre atención dispersa adaptativa en modelos generativos de vídeo