Update app.py

app.py

@@ -1,145 +1,137 @@
 import os
 import sys
-import glob
+import logging
+
+# --- 1. 核弹级补丁：强行阉割 CUDA (防报错核心) ---
+# 这一步必须最先执行！在导入 torch 之前！
+os.environ["CUDA_VISIBLE_DEVICES"] = ""
 
-# --- 1. 强制 CPU 模式 ---
-os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
 import torch
-torch.cuda.is_available = lambda : False
-device = "cpu"
-
-# --- 2. 暴力解决路径问题 ---
-# 打印当前目录结构，方便调试
-print(f"📂 当前工作目录: {os.getcwd()}")
-print(f"📂 根目录文件: {os.listdir('.')}")
-
-# 把当前目录加入 Python 搜索路径
-sys.path.append(os.getcwd())
-
-# 尝试找到 GPT_SoVITS 文件夹并加入路径
-for root, dirs, files in os.walk("."):
-    if "GPT_SoVITS" in dirs:
-        gpt_sovits_path = os.path.join(root, "GPT_SoVITS")
-        sys.path.append(root) # 将父目录加入路径
-        print(f"✅ 找到核心模块路径: {root}")
-        break
-
-# --- 3. 导入核心类 (不依赖 inference_webui) ---
+
+# 欺骗 torch，告诉它没有显卡
+torch.cuda.is_available = lambda: False
+torch.cuda.device_count = lambda: 0
+
+# 欺骗 tensor，如果代码调用了 .cuda()，我们把它变成“原地不动”
+# 这样原来的代码写了 x.cuda() 也不会炸，而是继续在 CPU 上跑
+def no_op(self, *args, **kwargs):
+    return self
+torch.Tensor.cuda = no_op
+torch.nn.Module.cuda = no_op
+
+print("💉 CUDA 阉割补丁已注入，所有 GPU 操作已被重定向至 CPU。")
+
+# --- 2. 导入原版逻辑 ---
+now_dir = os.getcwd()
+sys.path.append(now_dir)
+
 try:
-    # 直接导入底层的推理类，绕过 UI 层的报错
-    from GPT_SoVITS.TTS_infer_pack.TTS import TTS, TTS_Config
-    from tools.i18n.i18n import I18nAuto
-    print("✅ 成功导入核心 TTS 类！")
+    # 直接从根目录的 inference_webui.py 导入函数
+    # 这样就能复用它原本的所有逻辑，不用我们自己写路径了
+    from inference_webui import change_gpt_weights, change_sovits_weights, get_tts_model
+    print("✅ 成功导入原版推理函数！")
 except ImportError as e:
-    print(f"❌ 导入失败，尝试备用路径... 错误: {e}")
-    # 备用方案：如果上面失败，可能是路径层级问题，尝试直接 import
-    try:
-        from TTS_infer_pack.TTS import TTS, TTS_Config
-        print("✅ 备用路径导入成功！")
-    except Exception as e2:
-        print(f"❌ 彻底失败，请查看 Files 结构。错误: {e2}")
+    print(f"❌ 导入失败: {e}")
+    print("请检查 Files 列表里有没有 inference_webui.py")
 
-# --- 4. 自动寻找模型文件 ---
+import gradio as gr
+import soundfile as sf
+import numpy as np
+
+# --- 3. 自动寻找模型文件 ---
 def find_file(pattern, search_path="."):
-    for root, dirs, files in os.walk(search_path):
-        for file in files:
-            if pattern in file:
-                path = os.path.join(root, file)
-                print(f"🔍 发现模型: {path}")
-                return path
+    # 优先找 pretrained_models 文件夹
+    potential_paths = [
+        os.path.join(search_path, "pretrained_models"),
+        os.path.join(search_path, "GPT_SoVITS/pretrained_models"),
+        search_path
+    ]
+    
+    for path in potential_paths:
+        if os.path.exists(path):
+            for root, dirs, files in os.walk(path):
+                for file in files:
+                    if pattern in file:
+                        return os.path.join(root, file)
     return None
 
+print("🔍 正在寻找模型...")
+# 寻找 GPT 模型
 gpt_path = find_file("s1v3.ckpt")
-sovits_path = find_file("s2Gv2ProPlus.pth")
-
-# 如果没找到 V2，找 V1
 if not gpt_path: gpt_path = find_file("s1bert")
-if not sovits_path: sovits_path = find_file("s2G")
 
-# --- 5. 初始化 TTS 管道 ---
-# 这是最核心的部分，手动启动推理引擎
-tts_config = TTS_Config("GPT_SoVITS/configs/tts_infer.yaml")
-tts_config.device = "cpu"
-tts_config.is_half = False
-
-if gpt_path and sovits_path:
-    tts_config.t2s_weights_path = gpt_path
-    tts_config.vits_weights_path = sovits_path
-else:
-    print("⚠️ 警告：未找到模型文件，后续推理可能会失败！")
+# 寻找 SoVITS 模型
+sovits_path = find_file("s2Gv2ProPlus.pth")
+if not sovits_path: sovits_path = find_file("s2G")
 
-# 实例化管道
-tts_pipeline = TTS(tts_config)
-print("🚀 TTS 管道初始化完成！")
+print(f"👉 GPT模型: {gpt_path}")
+print(f"👉 SoVITS模型: {sovits_path}")
 
-# --- 6. 定义推理函数 ---
-import soundfile as sf
-import numpy as np
-
-# 这里一定要改！
-REF_AUDIO_PATH = "ref.wav" # 请确保你上传了这个文件
-REF_TEXT = "你好" # 你的参考音频说了啥
+# --- 4. 加载模型 ---
+try:
+    if gpt_path and sovits_path:
+        change_gpt_weights(gpt_path=gpt_path)
+        change_sovits_weights(sovits_path=sovits_path)
+        print("✅ 模型加载完成！")
+    else:
+        print("❌ 没找到模型文件，请检查 Logs 里的下载记录。")
+except Exception as e:
+    print(f"⚠️ 模型加载警告 (可能是内存不够): {e}")
+
+# --- 5. 推理函数 ---
+# 你的参考音频配置
+REF_AUDIO_PATH = "ref.wav" 
+REF_TEXT = "你好" # 建议修改为 ref.wav 实际说的话，不改也行，GPT-SoVITS 容错高
 REF_LANG = "zh"
 
 def predict_worker(text):
     if not os.path.exists(REF_AUDIO_PATH):
-        return None, "❌ 错误：请先上传 ref.wav！"
+        return None, "❌ 错误：根目录下没找到 ref.wav，请上传！"
     
-    print(f"📥 处理: {text}")
+    print(f"📥 收到任务: {text[:15]}...")
     
     try:
-        # 手动调用推理管道
-        # 参数含义: ref_audio, ref_text, ref_lang, target_text, target_lang, ...
-        # 注意：run 方法返回的是一个 generator
-        req = {
-            "text": text,
-            "text_lang": "zh",
-            "ref_audio_path": REF_AUDIO_PATH,
-            "prompt_text": REF_TEXT,
-            "prompt_lang": REF_LANG,
-            "top_k": 5,
-            "top_p": 1,
-            "temperature": 1,
-            "text_split_method": "cut4", # 凑四句一切
-            "batch_size": 1,
-            "speed_factor": 1.0,
-            "fragment_interval": 0.3,
-            "seed": -1,
-            "return_fragment": False,
-            "parallel_infer": True,
-            "repetition_penalty": 1.35
-        }
-        
-        # 调用核心 run 函数
-        generator = tts_pipeline.run(req)
+        # 调用原版的 get_tts_model
+        # 这里的参数完全照搬 inference_webui.py 里的定义
+        generator = get_tts_model(
+            ref_wav_path=REF_AUDIO_PATH,
+            prompt_text=REF_TEXT,
+            prompt_language=REF_LANG,
+            text=text,
+            text_language="zh",
+            how_to_cut="凑四句一切",
+            top_k=5,
+            top_p=1.0,
+            temperature=1.0,
+            ref_free=False
+        )
         
-        # 获取结果
         result_list = list(generator)
         if result_list:
             sampling_rate, audio_data = result_list[0]
             output_path = f"out_{os.urandom(4).hex()}.wav"
             sf.write(output_path, audio_data, sampling_rate)
-            return output_path, "✅ 成功"
+            return output_path, "✅ 生成成功"
+        else:
+            return None, "❌ 生成结果为空"
             
     except Exception as e:
         import traceback
         traceback.print_exc()
         return None, f"💥 报错: {e}"
 
-# --- 7. 界面 ---
-import gradio as gr
-with gr.Blocks() as app:
-    gr.Markdown("# ⚡ GPT-SoVITS 纯净核心版")
-    gr.Markdown(f"模型: `{gpt_path}` | `{sovits_path}`")
+# --- 6. 界面 ---
+with gr.Blocks(title="GPT-SoVITS CPU Worker") as app:
+    gr.Markdown(f"### 运行模型: `{os.path.basename(gpt_path) if gpt_path else '未找到'}`")
     
     with gr.Row():
-        inp = gr.Textbox(label="文本", value="测试一下语音合成效果。")
-        btn = gr.Button("生成")
+        inp = gr.Textbox(label="输入文本", value="测试一下，今天天气真不错。")
+        btn = gr.Button("生成 (CPU渲染较慢，请耐心)")
     
     with gr.Row():
         out = gr.Audio(label="音频")
         log = gr.Textbox(label="日志")
-        
+    
     btn.click(predict_worker, [inp], [out, log], api_name="predict")
 
 if __name__ == "__main__":