Update app.py

app.py

@@ -1,10 +1,9 @@
 import os
 import sys
-import importlib.util
-import types
+import logging
 
 # ==========================================
-# 1. 基础环境净化
+# 1. 基础环境净化 (屏蔽显卡)
 # ==========================================
 os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
 import torch
@@ -17,65 +16,44 @@ torch.nn.Module.cuda = no_op
 print("💉 CUDA 已屏蔽。")
 
 # ==========================================
-# 2. 核心魔法：文件级夺舍 (File-Level Hijack)
+# 2. 核心魔法：内存类替换 (Class Swapping)
 # ==========================================
 sys.path.append(os.getcwd())
 
-def load_cpu_model_class():
-    """直接从文件加载 CPU 版模型类，不依赖标准 import"""
-    try:
-        # 1. 找到 CPU 版代码文件
-        cpu_code_path = os.path.join(os.getcwd(), "AR", "models", "t2s_model.py")
-        if not os.path.exists(cpu_code_path):
-            print(f"⚠️ 找不到 CPU 代码文件: {cpu_code_path}")
-            return None
-            
-        # 2. 动态加载这个文件
-        spec = importlib.util.spec_from_file_location("AR.models.t2s_model", cpu_code_path)
-        cpu_module = importlib.util.module_from_spec(spec)
-        sys.modules["AR.models.t2s_model"] = cpu_module # 注册到系统
-        spec.loader.exec_module(cpu_module)
-        
-        print("✅ 成功手动加载 CPU 版模型代码")
-        return cpu_module.Text2SemanticDecoder
-    except Exception as e:
-        print(f"❌ 加载 CPU 代码失败: {e}")
-        return None
-
 try:
-    # 1. 获取 CPU 版的类
-    CPU_Decoder_Class = load_cpu_model_class()
+    print("🧠 开始执行内存调包手术...")
     
-    if CPU_Decoder_Class:
-        # 2. 导入 GPU 版模块 (让它先加载，然后我们覆盖它)
-        # 我们使用类似的技巧，或者直接 import (如果路径允许)
-        # 这里为了稳妥，我们直接预占 GPU 模块的名字
-        
-        # 尝试标准导入 GPU 模块，如果失败也没关系
-        try:
-            import AR.models.t2s_model_flash_attn as gpu_mod
-        except ImportError:
-            # 如果标准导入失败，我们手动创建一个伪模块
-            gpu_mod = types.ModuleType("AR.models.t2s_model_flash_attn")
-            sys.modules["AR.models.t2s_model_flash_attn"] = gpu_mod
-        
-        # 3. 【夺舍开始】用 CPU 类覆盖 GPU 类
-        gpu_mod.Text2SemanticDecoder = CPU_Decoder_Class
-        print("💉 夺舍成功：FlashAttn 模块已被 CPU 内核接管！")
-    else:
-        print("⚠️ 无法执行夺舍，后续可能会崩...")
-
-except Exception as e:
-    print(f"⚠️ 夺舍过程异常: {e}")
+    # 1. 先导入 CPU 版的模型类 (这是我们想要的)
+    from AR.models.t2s_model import Text2SemanticDecoder as CPU_Decoder
+    print("✅ 成功提取 CPU 版模型类")
+    
+    # 2. 再导入 GPU 版的模块 (这是我们要覆盖的)
+    import AR.models.t2s_model_flash_attn as GPU_Module
+    
+    # 3. 【关键】直接把 GPU 模块里的类，换成 CPU 版的类
+    # 这样后续任何代码(包括 inference_webui)去引用 GPU_Module.Text2SemanticDecoder
+    # 实际上都会拿到 CPU_Decoder
+    GPU_Module.Text2SemanticDecoder = CPU_Decoder
+    
+    print("💉 手术成功：FlashAttn 模块已被 CPU 内核接管！")
+    
+except ImportError as e:
+    print(f"⚠️ 手术失败 (可能路径不对): {e}")
+    print(f"当前目录文件: {os.listdir('.')}")
+    if os.path.exists("AR"):
+        print(f"AR目录文件: {os.listdir('AR')}")
 
 # ==========================================
-# 3. 导入业务逻辑
+# 3. 导入业务逻辑 (必须在手术后进行)
 # ==========================================
 try:
     import inference_webui as core
     print("✅ 成功导入 inference_webui")
+    
+    # 强制修改全局配置
     if hasattr(core, "is_half"): core.is_half = False
     if hasattr(core, "device"): core.device = "cpu"
+        
 except ImportError:
     print("❌ 找不到 inference_webui.py")
     sys.exit(1)
@@ -105,9 +83,11 @@ sovits_path = find_real_model("s2Gv2ProPlus.pth") or find_real_model("s2G")
 # ==========================================
 try:
     if gpt_path and sovits_path:
-        core.is_half = False
-        if hasattr(core, "change_gpt_weights"): core.change_gpt_weights(gpt_path=gpt_path)
-        if hasattr(core, "change_sovits_weights"): core.change_sovits_weights(sovits_path=sovits_path)
+        core.is_half = False # 再次确保
+        if hasattr(core, "change_gpt_weights"):
+            core.change_gpt_weights(gpt_path=gpt_path)
+        if hasattr(core, "change_sovits_weights"):
+            core.change_sovits_weights(sovits_path=sovits_path)
         print(f"🎉 模型加载成功！(CPU Mode)")
     else:
         print("❌ 未找到模型文件")
@@ -161,13 +141,16 @@ def run_predict(text):
 # 7. 界面
 # ==========================================
 with gr.Blocks() as app:
-    gr.Markdown(f"### GPT-SoVITS V2 (File Hijack)")
+    gr.Markdown(f"### GPT-SoVITS V2 (CPU Class Swapped)")
+    
     with gr.Row():
-        inp = gr.Textbox(label="文本", value="这下真的真的要成功了。")
+        inp = gr.Textbox(label="文本", value="这下真的真的真的要成功了。")
         btn = gr.Button("生成")
+    
     with gr.Row():
         out = gr.Audio(label="结果")
         log = gr.Textbox(label="日志")
+        
     btn.click(run_predict, [inp], [out, log], api_name="predict")
 
 if __name__ == "__main__":