MartinSSSTSGH/my_first_lora_v1-lora

MartinSSSTSGH

Texto a video

Adaptador LoRA entrenado con AI Toolkit sobre el modelo base Wan2.2-T2V-A14B. Está orientado a generar contenido activado por la palabra clave «Lilly» y sus pesos se distribuyen en formato Safetensors bajo la licencia CreativeML Open RAIL-M.

Como usar

Instalación:
pip install -U diffusers transformers accelerate

Generación de vídeo con Diffusers:
import torch
from diffusers import DiffusionPipeline
from diffusers.utils import export_to_video

# Cambia a "mps" para dispositivos Apple
pipe = DiffusionPipeline.from_pretrained(
    "ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16",
    dtype=torch.bfloat16,
    device_map="cuda"
)
pipe.load_lora_weights("MartinSSSTSGH/my_first_lora_v1-lora")

prompt = "Lilly"
output = pipe(prompt=prompt).frames[0]
export_to_video(output, "output.mp4")

Ejemplo alternativo incluido en la página para generar una imagen con un archivo de pesos específico:
from diffusers import AutoPipelineForText2Image
import torch

pipeline = AutoPipelineForText2Image.from_pretrained(
    'ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16',
    torch_dtype=torch.bfloat16
).to('cuda')
pipeline.load_lora_weights(
    'MartinSSSTSGH/my_first_lora_v1-lora',
    weight_name='my_first_lora_v1_low_noise.safetensors'
)
image = pipeline('Lilly').images[0]
image.save("my_image.png")

Funcionalidades

Adaptador LoRA para el modelo base ai-toolkit/Wan2.2-T2V-A14B-Diffusers-bf16.
Generación condicionada mediante la palabra de activación «Lilly».
Compatible con la biblioteca Diffusers.
Pesos disponibles en formato Safetensors.
Puede utilizarse en herramientas compatibles con LoRA, como ComfyUI, AUTOMATIC1111, SD.Next e Invoke AI.
La página lo clasifica para texto a vídeo, aunque también incluye un ejemplo de generación de imagen.

Casos de uso

Generar vídeos condicionados por texto con el concepto asociado a «Lilly».
Aplicar el estilo o sujeto aprendido por el LoRA sobre Wan2.2-T2V-A14B.
Experimentar con los pesos del adaptador en flujos locales de Diffusers o interfaces compatibles con LoRA.
Generar imágenes con el archivo de pesos de bajo ruido siguiendo el ejemplo alternativo de la página.