jude1903/tlamwan21-lora

jude1903

Texto a video

Adaptador LoRA para el modelo base Wan-AI/Wan2.1-T2V-14B-Diffusers, orientado a la generación de vídeo a partir de texto. Fue entrenado con AI Toolkit de Ostris y se distribuye con la licencia CreativeML Open RAIL-M.

Como usar

Instalación y generación de vídeo con Diffusers:
pip install -U diffusers transformers accelerate

import torch
from diffusers import DiffusionPipeline
from diffusers.utils import export_to_video

# Cambiar a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
    "Wan-AI/Wan2.1-T2V-14B-Diffusers",
    torch_dtype=torch.bfloat16,
    device_map="cuda"
)
pipe.load_lora_weights("jude1903/tlamwan21-lora")

prompt = "A man with short gray hair plays a red electric guitar."
output = pipe(prompt=prompt).frames[0]
export_to_video(output, "output.mp4")

La página también proporciona este ejemplo para cargar un archivo de pesos concreto, aunque utiliza una canalización de texto a imagen:
from diffusers import AutoPipelineForText2Image
import torch

pipeline = AutoPipelineForText2Image.from_pretrained(
    'Wan-AI/Wan2.1-T2V-14B-Diffusers',
    torch_dtype=torch.bfloat16
).to('cuda')
pipeline.load_lora_weights(
    'jude1903/tlamwan21-lora',
    weight_name='tlamwan21_000002250.safetensors'
)
image = pipeline('a beautiful landscape').images[0]
image.save("my_image.png")

Funcionalidades

Generación de vídeo condicionada por indicaciones de texto
Adaptador LoRA basado en Wan2.1-T2V-14B-Diffusers
Pesos disponibles en formato Safetensors
Compatible con la biblioteca Diffusers
Puede descargarse para herramientas como ComfyUI, AUTOMATIC1111, SD.Next e Invoke AI
No tiene palabras de activación definidas
No está desplegado actualmente en proveedores de inferencia

Casos de uso

Crear clips de vídeo a partir de descripciones textuales
Aplicar el ajuste LoRA tlamwan21 sobre el modelo Wan2.1-T2V de 14B parámetros
Integrar generación audiovisual personalizada en flujos locales basados en Diffusers o interfaces compatibles con LoRA
Experimentar con prompts de escenas, personas, acciones y entornos