Update app.py

app.py

@@ -1,9 +1,10 @@
 import os
 import sys
-import logging
+import importlib.util
+import types
 
 # ==========================================
-# 1. 基础环境设置
+# 1. 基础环境净化
 # ==========================================
 os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
 import torch
@@ -13,42 +14,72 @@ def no_op(self, *args, **kwargs): return self
 torch.Tensor.cuda = no_op
 torch.nn.Module.cuda = no_op
 
-print("💉 CUDA 屏蔽完成。")
+print("💉 CUDA 已屏蔽。")
 
 # ==========================================
-# 2. 导入业务逻辑
+# 2. 核心魔法：文件级夺舍 (File-Level Hijack)
 # ==========================================
 sys.path.append(os.getcwd())
 
+def load_cpu_model_class():
+    """直接从文件加载 CPU 版模型类，不依赖标准 import"""
+    try:
+        # 1. 找到 CPU 版代码文件
+        cpu_code_path = os.path.join(os.getcwd(), "AR", "models", "t2s_model.py")
+        if not os.path.exists(cpu_code_path):
+            print(f"⚠️ 找不到 CPU 代码文件: {cpu_code_path}")
+            return None
+            
+        # 2. 动态加载这个文件
+        spec = importlib.util.spec_from_file_location("AR.models.t2s_model", cpu_code_path)
+        cpu_module = importlib.util.module_from_spec(spec)
+        sys.modules["AR.models.t2s_model"] = cpu_module # 注册到系统
+        spec.loader.exec_module(cpu_module)
+        
+        print("✅ 成功手动加载 CPU 版模型代码")
+        return cpu_module.Text2SemanticDecoder
+    except Exception as e:
+        print(f"❌ 加载 CPU 代码失败: {e}")
+        return None
+
+try:
+    # 1. 获取 CPU 版的类
+    CPU_Decoder_Class = load_cpu_model_class()
+    
+    if CPU_Decoder_Class:
+        # 2. 导入 GPU 版模块 (让它先加载，然后我们覆盖它)
+        # 我们使用类似的技巧，或者直接 import (如果路径允许)
+        # 这里为了稳妥，我们直接预占 GPU 模块的名字
+        
+        # 尝试标准导入 GPU 模块，如果失败也没关系
+        try:
+            import AR.models.t2s_model_flash_attn as gpu_mod
+        except ImportError:
+            # 如果标准导入失败，我们手动创建一个伪模块
+            gpu_mod = types.ModuleType("AR.models.t2s_model_flash_attn")
+            sys.modules["AR.models.t2s_model_flash_attn"] = gpu_mod
+        
+        # 3. 【夺舍开始】用 CPU 类覆盖 GPU 类
+        gpu_mod.Text2SemanticDecoder = CPU_Decoder_Class
+        print("💉 夺舍成功：FlashAttn 模块已被 CPU 内核接管！")
+    else:
+        print("⚠️ 无法执行夺舍，后续可能会崩...")
+
+except Exception as e:
+    print(f"⚠️ 夺舍过程异常: {e}")
+
+# ==========================================
+# 3. 导入业务逻辑
+# ==========================================
 try:
     import inference_webui as core
     print("✅ 成功导入 inference_webui")
+    if hasattr(core, "is_half"): core.is_half = False
+    if hasattr(core, "device"): core.device = "cpu"
 except ImportError:
     print("❌ 找不到 inference_webui.py")
     sys.exit(1)
 
-# ==========================================
-# 3. 核心魔法：内存热替换 (Hot Swap)
-# ==========================================
-# 这是解决 RuntimeError 的关键！
-try:
-    print("🧠 正在进行模型架构手术...")
-    
-    # 1. 导入 CPU 版模型类
-    from AR.models.t2s_model import Text2SemanticDecoder as CPU_Decoder
-    
-    # 2. 导入 GPU 版模型模块 (不管它是否存在)
-    import AR.models.t2s_model_flash_attn as GPU_Module
-    
-    # 3. 【关键步骤】把 GPU 模块里的类，强行替换成 CPU 版的类
-    # 这样，后续代码以为自己在用 GPU 版，实际上用的是 CPU 版
-    GPU_Module.Text2SemanticDecoder = CPU_Decoder
-    
-    print("✅ 手术成功：FlashAttn 模型已被替换为普通 CPU 模型。")
-    
-except Exception as e:
-    print(f"⚠️ 手术警告 (如果本来就没装 FlashAttn 则忽略): {e}")
-
 # ==========================================
 # 4. 自动寻找模型
 # ==========================================
@@ -74,17 +105,10 @@ sovits_path = find_real_model("s2Gv2ProPlus.pth") or find_real_model("s2G")
 # ==========================================
 try:
     if gpt_path and sovits_path:
-        # 强制全局配置为 CPU 模式
-        if hasattr(core, "is_half"): core.is_half = False
-        if hasattr(core, "device"): core.device = "cpu"
-        
-        # 加载模型
-        # 由于我们上面已经做了替换，这里调用时会自动使用 CPU 类
-        if hasattr(core, "change_gpt_weights"):
-            core.change_gpt_weights(gpt_path=gpt_path)
-        if hasattr(core, "change_sovits_weights"):
-            core.change_sovits_weights(sovits_path=sovits_path)
-        print(f"🎉 模型加载成功！")
+        core.is_half = False
+        if hasattr(core, "change_gpt_weights"): core.change_gpt_weights(gpt_path=gpt_path)
+        if hasattr(core, "change_sovits_weights"): core.change_sovits_weights(sovits_path=sovits_path)
+        print(f"🎉 模型加载成功！(CPU Mode)")
     else:
         print("❌ 未找到模型文件")
 except Exception as e:
@@ -99,7 +123,7 @@ import numpy as np
 
 REF_AUDIO = "ref.wav"
 REF_TEXT = "你好"
-REF_LANG = "中文" # 必须是中文
+REF_LANG = "中文"
 
 def run_predict(text):
     if not os.path.exists(REF_AUDIO):
@@ -110,7 +134,6 @@ def run_predict(text):
         inference_func = getattr(core, "get_tts_model", getattr(core, "get_tts_wav", None))
         if not inference_func: return None, "❌ 找不到推理函数"
 
-        # 核心调用
         generator = inference_func(
             ref_wav_path=REF_AUDIO,
             prompt_text=REF_TEXT,
@@ -138,16 +161,13 @@ def run_predict(text):
 # 7. 界面
 # ==========================================
 with gr.Blocks() as app:
-    gr.Markdown(f"### GPT-SoVITS V2 (CPU Hot-Swap)")
-    
+    gr.Markdown(f"### GPT-SoVITS V2 (File Hijack)")
     with gr.Row():
-        inp = gr.Textbox(label="文本", value="这下舒服了，终于跑通了。")
+        inp = gr.Textbox(label="文本", value="这下真的真的要成功了。")
         btn = gr.Button("生成")
-    
     with gr.Row():
         out = gr.Audio(label="结果")
         log = gr.Textbox(label="日志")
-        
     btn.click(run_predict, [inp], [out, log], api_name="predict")
 
 if __name__ == "__main__":