WAN 2.2 FP32 Text Encoders (GGUF)

wangkanai

Texto a video

Codificador de texto UMT5-XXL en formato GGUF y precisión FP32 para el sistema de generación de vídeo WAN 2.2. Convierte prompts complejos en embeddings de alta dimensionalidad que orientan el proceso de texto a vídeo. El archivo ocupa 22,7 GB y la ficha indica una arquitectura T5 Encoder de aproximadamente 6.000 millones de parámetros.

Como usar

Instalación básica y carga mediante Diffusers:
pip install -U diffusers transformers accelerate

import torch
from diffusers import DiffusionPipeline

pipe = DiffusionPipeline.from_pretrained(
    "wangkanai/wan22-fp32-encoders-gguf",
    dtype=torch.bfloat16,
    device_map="cuda"
)

prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]

Uso del archivo GGUF con llama-cpp-python:
from llama_cpp import Llama

llm = Llama.from_pretrained(
    repo_id="wangkanai/wan22-fp32-encoders-gguf",
    filename="text_encoders/umt5-xxl-encoder-f32.gguf",
)

output = llm(
    "Once upon a time,",
    max_tokens=512,
    echo=True
)
print(output)

Ejecución local con llama.cpp:
llama serve -hf wangkanai/wan22-fp32-encoders-gguf:F32
llama cli -hf wangkanai/wan22-fp32-encoders-gguf:F32

Ejecución mediante Ollama:
ollama run hf.co/wangkanai/wan22-fp32-encoders-gguf:F32

Para reducir el consumo de VRAM en un pipeline de vídeo, pueden activarse la descarga de componentes a CPU y el fraccionamiento de la atención:
pipe.enable_model_cpu_offload()
pipe.enable_attention_slicing()

Funcionalidades

Precisión FP32 para maximizar la comprensión y fidelidad de los prompts.
Formato GGUF compatible con carga diferida y mapeo de memoria.
Optimizado para flujos de generación de vídeo con WAN 2.2.
Admite prompts multilingües, complejos y detallados mediante UMT5-XXL.
Longitud de contexto de 512 tokens y representaciones ocultas de 4.096 dimensiones.
Integración prevista con Diffusers y herramientas compatibles con GGUF.
Requiere aproximadamente 24 GB de VRAM para ejecutar únicamente el codificador; se recomiendan 32 GB o más para el pipeline completo.
No está desplegado actualmente mediante proveedores de inferencia de Hugging Face.

Casos de uso

Codificación de prompts para generación de vídeo con WAN 2.2.
Producción de embeddings de texto de alta precisión para pipelines personalizados de difusión de vídeo.
Interpretación de descripciones cinematográficas detalladas, incluidos movimientos de cámara, iluminación y composición de escenas.
Investigación y experimentación con codificadores UMT5-XXL en formato GGUF.
Generación de vídeo en equipos con suficiente VRAM cuando se prioriza la fidelidad al prompt sobre la velocidad.