Update app.py

app.py

@@ -6,123 +6,55 @@ import tempfile
 import datetime
 import shutil
 import re
-import onnxruntime as rt # 引入 onnxruntime
-
-# --- 打印 Gradio 版本以供診斷 ---
-print(f"Gradio version at runtime: {gr.__version__}")
-# ---
 
 # --- 解決 Coqui TTS 授權同意問題 ---
 os.environ["COQUI_TOS_AGREED"] = "1"
 
-# --- 解決 PyTorch 載入 XTTS-v2 模型時的 WeightsUnpickler 錯誤 ---
-import torch.serialization
-from TTS.tts.configs.xtts_config import XttsConfig
-from TTS.tts.models.xtts import XttsAudioConfig
-from TTS.config.shared_configs import BaseDatasetConfig
-from TTS.tts.models.xtts import XttsArgs
-
-try:
-    torch.serialization.add_safe_globals([XttsConfig, XttsAudioConfig, BaseDatasetConfig, XttsArgs])
-    print("已將 XTTS 相關配置類加入 PyTorch 安全全局變數白名單。")
-except Exception as e:
-    print(f"警告：無法將安全全局變數加入 PyTorch 白名單: {e}")
-    print("如果遇到模型載入錯誤，請檢查 PyTorch 和 TTS 庫版本。")
-
 # 檢查是否有 CUDA 可用，否則使用 CPU
 device = "cuda" if torch.cuda.is_available() else "cpu"
 print(f"使用設備: {device}")
 
-# 全局變數來儲存 TTS 模型實例。如果載入失敗，它將保持為 None。
+# 全局變數來儲存 TTS 模型實例
 tts = None
-# 全局變數來儲存模型載入時發生的任何錯誤訊息。
 model_load_error = None
 
-# 全局變數來儲存 ONNX Session
-onnx_session = None
-onnx_model_path = "xtts_v2_quantized.onnx" # 假設量化後的 ONNX 模型路徑
-
-# 初始化 TTS 模型或 ONNX Session
-try:
-    print("正在嘗試載入 Coqui TTS XTTS-v2 模型...")
-    # 這裡可以嘗試載入原始 PyTorch 模型，然後進行 ONNX 轉換和量化
-    # 或者直接載入預先轉換好的 ONNX 模型
-    
-    # 為了簡化，這裡假設我們仍然使用 TTS 庫來載入模型，
-    # 但如果需要 ONNX 優化，您可能需要手動導出 XTTS-v2 到 ONNX
-    # 並使用 onnxruntime.InferenceSession 來載入。
-    # 這部分需要更深入的 XTTS-v2 模型結構知識。
-    
-    # 這裡僅為示意，實際的 ONNX 轉換和載入會更複雜
-    # if os.path.exists(onnx_model_path):
-    #     print(f"正在載入 ONNX 模型: {onnx_model_path}")
-    #     onnx_session = rt.InferenceSession(onnx_model_path, providers=['CPUExecutionProvider'])
-    #     print("ONNX 模型已成功載入。")
-    # else:
-    #     print("ONNX 模型未找到，將載入 PyTorch 模型。")
-    tts = TTS(model_name="tts_models/multilingual/multi-dataset/xtts_v2", progress_bar=True).to(device)
-    print("Coqui TTS XTTS-v2 模型已成功載入。")
-
-    # 如果要進行 ONNX 轉換，可以在這裡添加邏輯
-    # 例如：
-    # if device == "cpu" and not os.path.exists(onnx_model_path):
-    #     print("嘗試將 PyTorch 模型轉換為 ONNX...")
-    #     # 這部分需要 XTTS-v2 模型的具體輸入格式來進行 torch.onnx.export
-    #     # 並且可能需要量化
-    #     # dummy_input = ... # 根據 XTTS-v2 的 forward 函數定義 dummy input
-    #     # torch.onnx.export(tts.model, dummy_input, onnx_model_path, opset_version=15)
-    #     # onnx_session = rt.InferenceSession(onnx_model_path, providers=['CPUExecutionProvider'])
-    #     # print("模型已轉換並載入為 ONNX。")
-
-except Exception as e:
-    model_load_error = (
-        f"載入 Coqui TTS XTTS-v2 模型時發生錯誤: {e}。\n"
-        "請確保你的網路連接正常，並且模型名稱正確。此外，請檢查 Hugging Face Space 的日誌以獲取更多詳細資訊。"
-    )
-    print(model_load_error)
-
-# XTTS-v2 支援的語言列表
+# XTTS-v2 支援的語言列表（可依需求擴充）
 SUPPORTED_LANGUAGES = [
     "en", "zh-cn", "es", "fr", "de", "it", "pt", "pl", "ru", "ja", "ko", "ar", "hi", "tr",
     "nl", "sv", "da", "fi", "no", "cs", "hu", "el", "uk", "vi", "th", "id", "ms", "ro",
     "sk", "hr", "bg", "ca", "fa", "he", "ur", "bn", "gu", "kn", "ml", "mr", "pa", "ta", "te",
 ]
 
-# --- 預設語音參考檔案路徑 ---
 DEFAULT_SPEAKER_WAV = "speaker.wav"
-
-# --- 自動儲存設定 ---
 SAVE_GENERATED_AUDIO_DIR = "generated_audio"
 SAVE_UPLOADED_REFERENCES_DIR = "uploaded_references"
 
 os.makedirs(SAVE_GENERATED_AUDIO_DIR, exist_ok=True)
 os.makedirs(SAVE_UPLOADED_REFERENCES_DIR, exist_ok=True)
-# --- 結束自動儲存設定 ---
 
 def sanitize_filename(text: str, max_len: int = 50) -> str:
-    """
-    淨化字串以用於檔案名稱。
-    移除除字母、數字、空格和連字號以外的所有字元，
-    將空格替換為底線，並截斷至指定長度。
-    """
     safe_text = re.sub(r'[^\w\s-]', '', text).strip()
     safe_text = re.sub(r'\s+', '_', safe_text)
     if len(safe_text) > max_len:
         safe_text = safe_text[:max_len]
     return safe_text
 
-def generate_speech(text: str, language: str, uploaded_speaker_audio_path: str):
-    """
-    根據輸入文字、語言和語音參考檔案生成語音。
-    如果用戶上傳了檔案，則使用上傳的檔案；否則使用預設的 speaker.wav。
-    生成的語音和上傳的參考語音（如果有的話）都將自動儲存到指定資料夾。
-    """
+# 載入模型（建議只載入一次）
+try:
+    tts = TTS(model_name="tts_models/multilingual/multi-dataset/xtts_v2", progress_bar=True).to(device)
+    print("Coqui TTS XTTS-v2 模型已成功載入。")
+except Exception as e:
+    model_load_error = f"載入 Coqui TTS XTTS-v2 模型時發生錯誤: {e}"
+
+def generate_speech(text, language, uploaded_speaker_audio_path, progress=gr.Progress()):
     if model_load_error:
         return None, f"應用程式啟動錯誤：{model_load_error}"
 
-    if tts is None and onnx_session is None:
-        return None, "TTS 模型未成功載入，無法生成語音。請檢查日誌獲取詳細資訊。"
+    progress(0.05, desc="檢查模型狀態")
+    if tts is None:
+        return None, "TTS 模型未成功載入，無法生成語音。"
 
+    progress(0.1, desc="檢查輸入")
     if not text:
         return None, "請輸入一些文字！"
     if not language:
@@ -131,7 +63,7 @@ def generate_speech(text: str, language: str, uploaded_speaker_audio_path: str):
     speaker_wav_to_use = None
     status_message = ""
 
-    # --- 決定使用哪個語音參考檔案 ---
+    progress(0.2, desc="處理語音參考檔案")
     if uploaded_speaker_audio_path:
         speaker_wav_to_use = uploaded_speaker_audio_path
         try:
@@ -140,87 +72,55 @@ def generate_speech(text: str, language: str, uploaded_speaker_audio_path: str):
             saved_ref_file_name = f"{timestamp_ref}_uploaded_ref{original_ext}"
             saved_ref_file_path = os.path.join(SAVE_UPLOADED_REFERENCES_DIR, saved_ref_file_name)
             shutil.copy(uploaded_speaker_audio_path, saved_ref_file_path)
-            print(f"上傳的參考語音已儲存到：{saved_ref_file_path}")
             status_message += f"參考語音已儲存到：{saved_ref_file_path}\n"
         except Exception as e:
-            print(f"儲存上傳的參考語音時發生錯誤: {e}")
             status_message += f"警告：儲存參考語音失敗: {e}\n"
-        
-        print(f"使用上傳的語音參考檔案: {speaker_wav_to_use}")
     else:
         speaker_wav_to_use = DEFAULT_SPEAKER_WAV
         if not os.path.exists(speaker_wav_to_use):
             return None, f"錯誤：預設語音參考檔案 ({DEFAULT_SPEAKER_WAV}) 未找到。請上傳一個檔案或確保預設檔案存在。"
-        print(f"沒有上傳語音參考檔案，將使用預設檔案: {speaker_wav_to_use}")
-    # --- 結束決定 ---
 
     output_file = None
     try:
         with tempfile.NamedTemporaryFile(suffix=".wav", delete=False) as fp:
             output_file = fp.name
 
-        print(f"正在為語言 '{language}' 生成語音，使用語音參考檔案: {speaker_wav_to_use}...")
-        
-        # 如果 ONNX Session 存在，嘗試使用 ONNX 進行推理
-        # 這部分需要將 XTTS-v2 的輸入轉換為 ONNX 模型所需的格式
-        # 並將輸出轉換回音訊格式。這會非常複雜，因為 TTS 庫封裝了許多細節。
-        # if onnx_session:
-        #     # 這裡需要 XTTS-v2 ONNX 模型的具體輸入/輸出格式
-        #     # 例如：
-        #     # inputs = {
-        #     #     onnx_session.get_inputs()[0].name: processed_text_input,
-        #     #     onnx_session.get_inputs()[1].name: processed_speaker_input,
-        #     #     ...
-        #     # }
-        #     # outputs = onnx_session.run(None, inputs)
-        #     # generated_audio_data = outputs[0]
-        #     # import soundfile as sf
-        #     # sf.write(output_file, generated_audio_data, 24000) # 假設採樣率為 24000
-        #     pass # 暫時不實作 ONNX 推理，因為太複雜
-        # else:
+        progress(0.5, desc="生成語音")
         tts.tts_to_file(text=text, language=language, speaker_wav=speaker_wav_to_use, file_path=output_file)
-        print(f"語音已生成到臨時檔案：{output_file}")
 
-        # --- 自動儲存生成的語音檔案 ---
+        progress(0.8, desc="儲存語音檔案")
         timestamp_gen = datetime.datetime.now().strftime("%Y%m%d_%H%M%S")
         sanitized_text = sanitize_filename(text)
-        
         saved_file_name = f"{timestamp_gen}_{language}_{sanitized_text}.wav"
         saved_file_path = os.path.join(SAVE_GENERATED_AUDIO_DIR, saved_file_name)
-        
         shutil.copy(output_file, saved_file_path)
-        print(f"生成的語音已自動儲存到：{saved_file_path}")
         status_message += f"語音生成成功！已儲存為：{saved_file_path}"
-        # --- 結束自動儲存 ---
 
+        progress(1.0, desc="完成")
         return output_file, status_message
     except Exception as e:
-        print(f"生成語音時發生錯誤: {e}")
         if output_file and os.path.exists(output_file):
             os.remove(output_file)
         return None, f"生成語音失敗: {e}"
 
-def list_saved_audio_files() -> list:
-    """掃描儲存生成的語音資料夾，返回所有 .wav 檔案的完整路徑列表。"""
+def list_saved_audio_files():
     audio_files = []
-    if os.path.exists(SAVE_GENERATED_AUDIO_DIR) and os.path.isdir(SAVE_GENERATED_AUDIO_DIR):
+    if os.path.exists(SAVE_GENERATED_AUDIO_DIR):
         for filename in os.listdir(SAVE_GENERATED_AUDIO_DIR):
             if filename.lower().endswith(".wav"):
                 audio_files.append(os.path.join(SAVE_GENERATED_AUDIO_DIR, filename))
     audio_files.sort(key=os.path.getmtime, reverse=True)
     return audio_files
 
-def list_uploaded_reference_files() -> list:
-    """掃描上傳參考語音資料夾，返回所有 .wav 檔案的完整路徑列表。"""
+def list_uploaded_reference_files():
     ref_files = []
-    if os.path.exists(SAVE_UPLOADED_REFERENCES_DIR) and os.path.isdir(SAVE_UPLOADED_REFERENCES_DIR):
+    if os.path.exists(SAVE_UPLOADED_REFERENCES_DIR):
         for filename in os.listdir(SAVE_UPLOADED_REFERENCES_DIR):
             if filename.lower().endswith(".wav"):
                 ref_files.append(os.path.join(SAVE_UPLOADED_REFERENCES_DIR, filename))
     ref_files.sort(key=os.path.getmtime, reverse=True)
     return ref_files
 
-# Gradio 介面配置 (使用 gr.Blocks 實現多 Tab 介面)
 with gr.Blocks(title="Coqui TTS XTTS-v2 語音生成") as demo:
     gr.Markdown("# Coqui TTS XTTS-v2 語音生成 (CPU)")
     gr.Markdown("此演示使用 CPU 運行，請注意 XTTS-v2 在 CPU 上運行會非常慢。您可以上傳自己的語音，或使用預設語音。**生成的語音和上傳的參考語音都將自動儲存到 Space 專案中。**")
@@ -240,7 +140,7 @@ with gr.Blocks(title="Coqui TTS XTTS-v2 語音生成") as demo:
             with gr.Column():
                 output_audio = gr.Audio(label="生成的語音", type="filepath")
                 status_textbox = gr.Textbox(label="狀態")
-        
+
         generate_button.click(
             fn=generate_speech,
             inputs=[text_input, language_dropdown, speaker_audio_upload],
@@ -249,31 +149,26 @@ with gr.Blocks(title="Coqui TTS XTTS-v2 語音生成") as demo:
 
     with gr.Tab("查看已儲存語音"):
         gr.Markdown("### 已儲存的生成語音檔案")
-        gr.Markdown("這些是您生成的語音檔案。")
-        
         saved_generated_files_output = gr.File(
             label="生成的語音檔案",
             file_count="multiple",
             interactive=False
         )
         refresh_generated_button = gr.Button("刷新生成語音列表")
-
         demo.load(list_saved_audio_files, outputs=[saved_generated_files_output])
         refresh_generated_button.click(list_saved_audio_files, outputs=[saved_generated_files_output])
 
     with gr.Tab("查看已上傳參考語音"):
         gr.Markdown("### 已儲存的上傳參考語音檔案")
-        gr.Markdown("這些是您上傳的語音參考檔案。")
-        
         saved_uploaded_ref_files_output = gr.File(
             label="上傳的參考語音檔案",
             file_count="multiple",
             interactive=False
         )
         refresh_uploaded_ref_button = gr.Button("刷新參考語音列表")
-
         demo.load(list_uploaded_reference_files, outputs=[saved_uploaded_ref_files_output])
         refresh_uploaded_ref_button.click(list_uploaded_reference_files, outputs=[saved_uploaded_ref_files_output])
 
+demo.queue()  # 啟用進度條功能
 if __name__ == "__main__":
     demo.launch()