Update app.py

app.py

@@ -8,31 +8,37 @@ from fastapi import FastAPI, UploadFile, File, Form, HTTPException
 from fastapi.responses import JSONResponse, PlainTextResponse
 from transformers import pipeline
 
-# 1. 加载模型（为了让你随时可用且不限额度，此处先使用 CPU 演示；
-#    如需切换回 GPU，请取消 transcribe_core 上的 @spaces.GPU 注释，并将 device 改为 "cuda"）
+# 1. 声明加载的模型
 MODEL_NAME = "openai/whisper-small"
+
+# 2. 全局在 CPU 上初始化 Pipeline，防止启动时没有 GPU 报错
 pipe = pipeline(
     "automatic-speech-recognition",
     model=MODEL_NAME,
     chunk_length_s=30,
-    device="cpu"  # 若要 GPU 极速，修改为 "cuda"
+    device="cpu"
 )
 
-# 2. 核心转录逻辑
-# @spaces.GPU  # 如果你想要在 GPU 额度内极速转录，请取消这一行的注释
+# 3. 【核心修复】保留 @spaces.GPU 装饰器，确保 Hugging Face 启动扫描能够通过！
+@spaces.GPU(duration=60)
 def transcribe_core(audio_path: str, target_language: str = None, is_translate: bool = False):
-    generate_kwargs = {}
+    # 动态将模型转移至 A100 GPU 显存中
+    pipe.model.to("cuda")
     
-    # 支持指定语言，如果不指定，让模型自动检测
+    generate_kwargs = {}
     if target_language:
         generate_kwargs["language"] = target_language
         
-    # 如果是翻译任务（translations 端点），强制指定任务和输出语言为英文
     if is_translate:
         generate_kwargs["language"] = "english"
         generate_kwargs["task"] = "translate"
         
-    result = pipe(audio_path, generate_kwargs=generate_kwargs)
+    # 在 GPU 下执行极速推理
+    with torch.autocast("cuda"):
+        result = pipe(audio_path, generate_kwargs=generate_kwargs)
+        
+    # 推理完成后立即释放，将模型转回 CPU
+    pipe.model.to("cpu")
     return result["text"]
 
 # --- Gradio 界面 ---
@@ -54,16 +60,14 @@ demo = gr.Interface(
 
 app = demo.app
 
-# --- 🛠️ 核心部分：完美兼容 OpenAI 的处理函数 ---
+# --- 完美兼容 OpenAI 的处理函数 ---
 async def process_openai_audio_request(file, response_format, language, is_translate):
-    # 限制并确保支持的文件后缀，避免 tempfile 出错
     suffix = os.path.splitext(file.filename)[1] or ".mp3"
     with tempfile.NamedTemporaryFile(delete=False, suffix=suffix) as temp_file:
         shutil.copyfileobj(file.file, temp_file)
         temp_path = temp_file.name
 
     try:
-        # 执行转录
         text = transcribe_core(temp_path, target_language=language, is_translate=is_translate)
     except Exception as e:
         raise HTTPException(status_code=500, detail=f"OpenAI Audio API failed: {str(e)}")
@@ -71,24 +75,21 @@ async def process_openai_audio_request(file, response_format, language, is_trans
         if os.path.exists(temp_path):
             os.remove(temp_path)
 
-    # 100% 兼容 OpenAI 的输出格式逻辑 (支持 json, text, verbose_json 等格式)
     if response_format in ["text", "vtt", "srt"]:
         return PlainTextResponse(text)
     
-    # 如果是 json 或默认情况，返回标准的 OpenAI 字典
-    # verbose_json 在 Whisper pipeline 简化版中，我们也提供标准兼容层
     return JSONResponse(content={"text": text})
 
 
-# 3. 🎯 完美兼容接口一：语音转录 (Transcriptions)
+# 4. 完美兼容接口一：语音转录 (Transcriptions)
 @app.post("/v1/audio/transcriptions")
 async def transcribe_api(
     file: UploadFile = File(...),
-    model: str = Form("whisper-1"),           # 接收 openai 的 model 参数
-    language: str = Form(None),               # 接收指定的 ISO-639-1 语言代码（例如 zh, en）
-    prompt: str = Form(None),                 # 忽略或预留
-    response_format: str = Form("json"),       # 接收输出格式：json, text 等
-    temperature: float = Form(0.0)            # 忽略或预留
+    model: str = Form("whisper-1"),           
+    language: str = Form(None),               
+    prompt: str = Form(None),                 
+    response_format: str = Form("json"),       
+    temperature: float = Form(0.0)            
 ):
     return await process_openai_audio_request(
         file=file,
@@ -98,7 +99,7 @@ async def transcribe_api(
     )
 
 
-# 4. 🎯 完美兼容接口二：语音翻译 (Translations - 强制输出英文)
+# 5. 完美兼容接口二：语音翻译 (Translations)
 @app.post("/v1/audio/translations")
 async def translate_api(
     file: UploadFile = File(...),