Update app.py

app.py

@@ -14,7 +14,7 @@ from torchao.quantization import quantize_
 from torchao.quantization import Float8DynamicActivationFloat8WeightConfig
 from torchao.quantization import Int8WeightOnlyConfig
 
-import aoti # Импорт aoti.py 
+import aoti
 
 
 MODEL_ID = "Wan-AI/Wan2.2-I2V-A14B-Diffusers"
@@ -32,7 +32,7 @@ MIN_FRAMES_MODEL = 8
 MIN_DURATION = round(MIN_FRAMES_MODEL / FIXED_FPS, 1)
 DEFAULT_DURATION = 5.0
 
-# Модель загружается с device_map='auto' для распределения больших трансформеров 
+# Модель загружается с device_map='auto' для распределения больших трансформеров
 pipe = WanImageToVideoPipeline.from_pretrained(
     MODEL_ID,
     transformer=WanTransformer3DModel.from_pretrained(
@@ -50,7 +50,7 @@ pipe = WanImageToVideoPipeline.from_pretrained(
     torch_dtype=torch.bfloat16,
 )
 
-# Загрузка и фьюзинг LoRA 
+# Загрузка и фьюзинг LoRA
 pipe.load_lora_weights(
     "Kijai/WanVideo_comfy", 
     weight_name="Lightx2v/lightx2v_I2V_14B_480p_cfg_step_distill_rank128_bf16.safetensors", 
@@ -68,25 +68,28 @@ pipe.fuse_lora(adapter_names=["lightx2v"], lora_scale=3., components=["transform
 pipe.fuse_lora(adapter_names=["lightx2v_2"], lora_scale=1., components=["transformer_2"])
 pipe.unload_lora_weights()
 
-# Квантизация 
+# Квантизация
 quantize_(pipe.text_encoder, Int8WeightOnlyConfig())
 quantize_(pipe.transformer, Float8DynamicActivationFloat8WeightConfig())
 quantize_(pipe.transformer_2, Float8DynamicActivationFloat8WeightConfig())
 
-# AOTI 
+# AOTI
 aoti.aoti_blocks_load(pipe.transformer, 'zerogpu-aoti/Wan2', variant='fp8da')
 aoti.aoti_blocks_load(pipe.transformer_2, 'zerogpu-aoti/Wan2', variant='fp8da')
 
+# 🟢 ИСПРАВЛЕНИЕ 1: Явно переводим пайплайн на GPU. 
+# Это решает проблему "Cannot generate a cpu tensor from a generator of type cuda."
+pipe.to("cuda")
 
 default_prompt_i2v = "make this image come alive, cinematic motion, smooth animation"
 default_negative_prompt = (
     "色调艳丽, 过曝, 静态, 细节模糊不清, 字幕, 风格, 作品, 画作, 画面, 静止, "
     "整体发灰, 最差质量, 低质量, JPEG压缩残留, 丑陋의, 残缺的, 多余的手指, "
-    "画得不好的手部, 画得不好的脸部, 畸形的, 毁容的, 形态畸形的肢体, 手指融合, "
+    "画得不хорошие руки, 画得不хорошие лица, 畸形の, 毀容の, 形态畸形的肢体, 手指融合, "
     "静止不动的画面, 杂乱的背景, 三条腿, 背景人很多, 倒着走"
 )
 
-# Функция изменения размера изображения 
+
 def resize_image(image: Image.Image) -> Image.Image:
     width, height = image.size
 
@@ -172,10 +175,8 @@ def generate_video(
     current_seed = random.randint(0, MAX_SEED) if randomize_seed else int(seed)
     resized_image = resize_image(input_image)
 
-    # При первом вызове pipe() здесь произойдет перемещение всех оставшихся (CPU/quantized) 
-    # частей модели на GPU. 
-    # 🟢 ИСПРАВЛЕНО: Добавлен 'device="cuda"' для создания латентов на GPU, 
-    # что соответствует генератору 'torch.Generator(device="cuda")'. 
+    # 🟢 ИСПРАВЛЕНИЕ 2: Удален аргумент 'device="cuda"', чтобы избежать TypeError, 
+    # так как пайплайн уже был переведен на CUDA перед функцией.
     output_frames_list = pipe(
         image=resized_image,
         prompt=prompt,
@@ -187,7 +188,6 @@ def generate_video(
         guidance_scale_2=float(guidance_scale_2),
         num_inference_steps=int(steps),
         generator=torch.Generator(device="cuda").manual_seed(current_seed),
-        device="cuda", # <--- ИСПРАВЛЕНИЕ: Гарантирует, что латенты создаются на CUDA
     ).frames[0]
 
     with tempfile.NamedTemporaryFile(suffix=".mp4", delete=False) as tmpfile:
@@ -197,7 +197,7 @@ def generate_video(
     return video_path, current_seed
 
 
-# --- Gradio Interface --- 
+# --- Gradio Interface ---
 with gr.Blocks() as demo:
     gr.Markdown("# 🚀 Wan 2.2 I2V (14B) — Unlimited Duration Edition 🕒")
     gr.Markdown("Generate cinematic I2V animations without duration limits. Optimized for 4x NVIDIA L40S.")