CogVideoX Disney AdamW 4000 0.0003 Constant
a-r-r-o-w
Texto a video
Adaptador LoRA de generación de texto a vídeo ajustado sobre CogVideoX-5B con el conjunto de datos Disney VideoGeneration. Está orientado a producir escenas animadas de estética Disney clásica, incluidas secuencias en blanco y negro con personajes antropomórficos e interacciones expresivas.
Como usar
Requiere la biblioteca Diffusers. Carga CogVideoX-5B, incorpora los pesos LoRA y genera el vídeo a partir de una descripción textual:
import torch
from diffusers import CogVideoXPipeline
from diffusers.utils import export_to_video
pipe = CogVideoXPipeline.from_pretrained(
"THUDM/CogVideoX-5b",
torch_dtype=torch.bfloat16
).to("cuda")
pipe.load_lora_weights(
"a-r-r-o-w/cogvideox-disney-adamw-4000-0.0003-constant",
weight_name="pytorch_lora_weights.safetensors",
adapter_name="cogvideox-lora"
)
# La ponderación refleja los valores de entrenamiento:
# lora_alpha = 32 y rank = 64.
pipe.set_adapters(["cogvideox-lora"], [32 / 64])
video = pipe(
"BW_STYLE A black and white animated scene unfolds with an anthropomorphic goat surrounded by musical notes and symbols, suggesting a playful environment. Mickey Mouse appears, leaning forward in curiosity as the goat remains still. The goat then engages with Mickey, who bends down to converse or react. The dynamics shift as Mickey grabs the goat, potentially in surprise or playfulness, amidst a minimalistic background. The scene captures the evolving relationship between the two characters in a whimsical, animated setting, emphasizing their interactions and emotions",
guidance_scale=6,
use_dynamic_cfg=True
).frames[0]
export_to_video(video, "output.mp4", fps=8)
Funcionalidades
- Adaptación LoRA del modelo base CogVideoX-5B.
- Generación de vídeo a partir de descripciones textuales.
- Ajuste realizado con Wild-Heart/Disney-VideoGeneration-Dataset.
- Entrenado mediante CogVideoX Factory con scripts optimizados en memoria, TorchAO y DeepSpeed.
- Permite controlar la intensidad del adaptador mediante su ponderación en Diffusers.
- Compatible con exportación de vídeo MP4 a 8 fotogramas por segundo.
Casos de uso
- Crear vídeos animados de estética Disney clásica a partir de texto.
- Generar secuencias de animación en blanco y negro mediante el prefijo `BW_STYLE`.
- Prototipar escenas narrativas con personajes antropomórficos.
- Experimentar con estilos aprendidos mediante adaptadores LoRA para CogVideoX-5B.