Update app.py

app.py

@@ -3,9 +3,9 @@ import sys
 import logging
 
 # ==========================================
-# 1. 基础环境净化 (屏蔽显卡)
+# 1. 基础环境设置
 # ==========================================
-os.environ["CUDA_VISIBLE_DEVICES"] = ""
+os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
 import torch
 torch.cuda.is_available = lambda: False
 torch.cuda.device_count = lambda: 0
@@ -13,42 +13,42 @@ def no_op(self, *args, **kwargs): return self
 torch.Tensor.cuda = no_op
 torch.nn.Module.cuda = no_op
 
-print("💉 CUDA 已屏蔽。")
+print("💉 CUDA 屏蔽完成。")
 
 # ==========================================
-# 2. 核心魔法：狸猫换太子 (Module Swapping)
+# 2. 导入业务逻辑
 # ==========================================
 sys.path.append(os.getcwd())
 
-try:
-    # 1. 先手动导入普通的 CPU 版模型
-    import AR.models.t2s_model as cpu_model
-    print("✅ 成功加载 CPU 版模型架构")
-    
-    # 2. 关键一步：把 GPU 版模型的“坑位”占了！
-    # 当后续代码想导入 t2s_model_flash_attn 时，系统会直接给它这个 CPU 版
-    sys.modules["AR.models.t2s_model_flash_attn"] = cpu_model
-    print("💉 已将 FlashAttn 模型偷换为 CPU 模型")
-    
-except ImportError as e:
-    print(f"⚠️ 预加载模型失败 (可能是路径不对): {e}")
-    # 不退出，赌一把后面的逻辑
-
-# ==========================================
-# 3. 导入业务逻辑
-# ==========================================
 try:
     import inference_webui as core
     print("✅ 成功导入 inference_webui")
-    
-    # 强制修改全局配置 (如果存在)
-    if hasattr(core, "is_half"): core.is_half = False
-    if hasattr(core, "device"): core.device = "cpu"
-        
 except ImportError:
     print("❌ 找不到 inference_webui.py")
     sys.exit(1)
 
+# ==========================================
+# 3. 核心魔法：内存热替换 (Hot Swap)
+# ==========================================
+# 这是解决 RuntimeError 的关键！
+try:
+    print("🧠 正在进行模型架构手术...")
+    
+    # 1. 导入 CPU 版模型类
+    from AR.models.t2s_model import Text2SemanticDecoder as CPU_Decoder
+    
+    # 2. 导入 GPU 版模型模块 (不管它是否存在)
+    import AR.models.t2s_model_flash_attn as GPU_Module
+    
+    # 3. 【关键步骤】把 GPU 模块里的类，强行替换成 CPU 版的类
+    # 这样，后续代码以为自己在用 GPU 版，实际上用的是 CPU 版
+    GPU_Module.Text2SemanticDecoder = CPU_Decoder
+    
+    print("✅ 手术成功：FlashAttn 模型已被替换为普通 CPU 模型。")
+    
+except Exception as e:
+    print(f"⚠️ 手术警告 (如果本来就没装 FlashAttn 则忽略): {e}")
+
 # ==========================================
 # 4. 自动寻找模型
 # ==========================================
@@ -74,14 +74,17 @@ sovits_path = find_real_model("s2Gv2ProPlus.pth") or find_real_model("s2G")
 # ==========================================
 try:
     if gpt_path and sovits_path:
-        # 再次强制关闭半精度
-        core.is_half = False
+        # 强制全局配置为 CPU 模式
+        if hasattr(core, "is_half"): core.is_half = False
+        if hasattr(core, "device"): core.device = "cpu"
         
+        # 加载模型
+        # 由于我们上面已经做了替换，这里调用时会自动使用 CPU 类
         if hasattr(core, "change_gpt_weights"):
             core.change_gpt_weights(gpt_path=gpt_path)
         if hasattr(core, "change_sovits_weights"):
             core.change_sovits_weights(sovits_path=sovits_path)
-        print(f"🎉 模型加载成功！(Using CPU Path)")
+        print(f"🎉 模型加载成功！")
     else:
         print("❌ 未找到模型文件")
 except Exception as e:
@@ -104,7 +107,6 @@ def run_predict(text):
     
     print(f"📥 任务: {text}")
     try:
-        # 自动识别函数
         inference_func = getattr(core, "get_tts_model", getattr(core, "get_tts_wav", None))
         if not inference_func: return None, "❌ 找不到推理函数"
 
@@ -136,7 +138,7 @@ def run_predict(text):
 # 7. 界面
 # ==========================================
 with gr.Blocks() as app:
-    gr.Markdown(f"### GPT-SoVITS V2 (Module Swapped)")
+    gr.Markdown(f"### GPT-SoVITS V2 (CPU Hot-Swap)")
     
     with gr.Row():
         inp = gr.Textbox(label="文本", value="这下舒服了，终于跑通了。")