motexture/caT-text-to-video-2.3b

motexture
Texto a video

Modelo de generación de vídeo a partir de texto basado en los pesos preentrenados de ModelScope Text-to-Video. Incorpora transformadores de condicionamiento temporal para extender clips, crear transiciones fluidas e interpolar prompts durante los cambios de escena. Fue entrenado con WebVid-10M a una resolución de 320 × 320 píxeles.

Como usar

Uso con Diffusers:

pip install -U diffusers transformers accelerate
import torch
from diffusers import DiffusionPipeline

# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
    "motexture/caT-text-to-video-2.3b",
    dtype=torch.bfloat16,
    device_map="cuda"
)

prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]

Instalación y ejecución de la interfaz del repositorio:

git clone https://github.com/motexture/caT-text-to-video-2.3b/
cd caT-text-to-video-2.3b
python3 -m venv venv
source venv/bin/activate
# En Windows usa `venv\Scripts\activate`
pip install -r requirements.txt
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
python run.py

Después, abre en el navegador la URL proporcionada por la aplicación para generar vídeos.

Funcionalidades

Generación de vídeo condicionada por descripciones de texto
Extensión temporal de clips mediante 8 fotogramas de condicionamiento
Transiciones fluidas entre clips generados
Interpolación de prompts para cambiar de escena durante una extensión
Arquitectura de aproximadamente 2.000 millones de parámetros
Pesos distribuidos en formato Safetensors

Casos de uso

Crear clips de vídeo a partir de prompts descriptivos
Extender un vídeo generado manteniendo continuidad temporal
Transformar gradualmente una escena en otra mediante interpolación de prompts
Prototipar secuencias visuales y transiciones narrativas
Generar animaciones breves de personajes, acciones o entornos