motexture/caT-text-to-video-2.3b
motexture
Texto a video
Modelo de generación de vídeo a partir de texto basado en los pesos preentrenados de ModelScope Text-to-Video. Incorpora transformadores de condicionamiento temporal para extender clips, crear transiciones fluidas e interpolar prompts durante los cambios de escena. Fue entrenado con WebVid-10M a una resolución de 320 × 320 píxeles.
Como usar
Uso con Diffusers:
pip install -U diffusers transformers accelerate
import torch
from diffusers import DiffusionPipeline
# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
"motexture/caT-text-to-video-2.3b",
dtype=torch.bfloat16,
device_map="cuda"
)
prompt = "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
image = pipe(prompt).images[0]
Instalación y ejecución de la interfaz del repositorio:
git clone https://github.com/motexture/caT-text-to-video-2.3b/
cd caT-text-to-video-2.3b
python3 -m venv venv
source venv/bin/activate
# En Windows usa `venv\Scripts\activate`
pip install -r requirements.txt
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
python run.py
Después, abre en el navegador la URL proporcionada por la aplicación para generar vídeos.
Funcionalidades
- Generación de vídeo condicionada por descripciones de texto
- Extensión temporal de clips mediante 8 fotogramas de condicionamiento
- Transiciones fluidas entre clips generados
- Interpolación de prompts para cambiar de escena durante una extensión
- Arquitectura de aproximadamente 2.000 millones de parámetros
- Pesos distribuidos en formato Safetensors
Casos de uso
- Crear clips de vídeo a partir de prompts descriptivos
- Extender un vídeo generado manteniendo continuidad temporal
- Transformar gradualmente una escena en otra mediante interpolación de prompts
- Prototipar secuencias visuales y transiciones narrativas
- Generar animaciones breves de personajes, acciones o entornos