Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5
ai-forever
Texto a video
Modelo de generación de vídeo a partir de texto basado en Wan 2.1 T2V de 14B parámetros. Esta variante combina NABLA con Sliding Tile Attention usando un umbral de 0,5 y ventanas STA de 11×5×5 para acelerar la generación de vídeo mediante atención dispersa adaptativa, manteniendo una calidad similar a la atención completa. Está orientado a vídeos de alta resolución y requiere PyTorch 2.7 o posterior para FlexAttention.
Como usar
Instala las dependencias y carga el modelo con Diffusers:
pip install -U diffusers transformers accelerate
import torch
from diffusers import DiffusionPipeline
# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
"ai-forever/Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5",
dtype=torch.bfloat16,
device_map="cuda"
)
prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]
Para generar vídeo con NABLA y STA mediante el repositorio Wan2.1-NABLA:
python generate.py \
--task t2v-14B \
--size 1280*720 \
--ckpt_dir ./Wan2.1-T2V-14B-NABLA-0.5-STA-11-5-5 \
--prompt {prompt} \
--frame_num {frame_num}
También puede aplicarse NABLA junto con STA en modo zero-shot sobre el modelo Wan2.1 original:
python generate.py \
--task t2v-14B \
--size 1280*720 \
--ckpt_dir ./Wan2.1-T2V-14B \
--prompt {prompt} \
--frame_num {frame_num} \
--sparse_algo nabla-{thr}_sta-{wT}-{wH}-{wW}
Se necesita PyTorch 2.7 o posterior para disponer de FlexAttention.
Funcionalidades
- Generación de vídeo a partir de instrucciones de texto
- Atención dispersa adaptativa NABLA con umbral de 0,5
- Sliding Tile Attention con ventanas temporal y espaciales de 11×5×5
- Hasta 2,7 veces más rapidez en entrenamiento e inferencia, según la resolución y la configuración
- Calidad comparable a la atención completa según CLIP, VBench y evaluación humana
- Implementación con FlexAttention de PyTorch, sin kernels CUDA personalizados
- Compatible con contenido de 720p o superior, dinámico y de larga duración
- Admite resoluciones divisibles por 128; por ejemplo, 1280×720 se ajusta a 1280×640
- Licencia Apache 2.0
Casos de uso
- Creación de vídeos de alta resolución a partir de descripciones textuales
- Generación de secuencias largas con menor coste de atención
- Aceleración de la inferencia de Wan 2.1 en GPU
- Entrenamiento eficiente de transformadores de difusión para vídeo
- Investigación sobre atención dispersa adaptativa en modelos generativos de vídeo