Kellenok/my_first_lora_v2-lora

Kellenok
Texto a video

Adaptador LoRA entrenado con AI Toolkit sobre el modelo base Wan2.2-T2V-A14B para generar vídeo a partir de texto. Se distribuye en formato Safetensors, no define palabras de activación y utiliza la licencia CreativeML Open RAIL-M.

Como usar

Instala las dependencias y carga el LoRA sobre el modelo base para generar un vídeo:

pip install -U diffusers transformers accelerate
import torch
from diffusers import DiffusionPipeline
from diffusers.utils import export_to_video

# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
    "ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16",
    dtype=torch.bfloat16,
    device_map="cuda"
)
pipe.load_lora_weights("Kellenok/my_first_lora_v2-lora")

prompt = "A man with short gray hair plays a red electric guitar."
output = pipe(prompt=prompt).frames[0]
export_to_video(output, "output.mp4")

La página también proporciona este ejemplo alternativo para cargar el archivo específico de pesos, aunque utiliza una canalización de texto a imagen:

from diffusers import AutoPipelineForText2Image
import torch

pipeline = AutoPipelineForText2Image.from_pretrained(
    'ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16',
    torch_dtype=torch.bfloat16
).to('cuda')
pipeline.load_lora_weights(
    'Kellenok/my_first_lora_v2-lora',
    weight_name='my_first_lora_v2_low_noise.safetensors'
)
image = pipeline('a beautiful landscape').images[0]
image.save("my_image.png")

Funcionalidades

Generación de vídeo a partir de descripciones de texto
Adaptador LoRA para ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16
Integración con la biblioteca Diffusers
Pesos disponibles en formato Safetensors
Compatible con herramientas que admiten LoRA, como ComfyUI, AUTOMATIC1111, SD.Next e Invoke AI
No requiere palabras de activación específicas
No está desplegado actualmente mediante proveedores de inferencia

Casos de uso

Crear vídeos cortos a partir de instrucciones textuales
Aplicar el estilo o ajuste aprendido por este LoRA al modelo Wan2.2-T2V-A14B
Integrar generación de vídeo personalizada en flujos locales con Diffusers
Usar los pesos LoRA en interfaces compatibles como ComfyUI o Invoke AI