Update app.py

app.py

@@ -1,28 +1,41 @@
 import os
 import shutil
 import tempfile
+import torch
 import spaces
 import gradio as gr
 from fastapi import FastAPI, UploadFile, File, Form, HTTPException
 from fastapi.responses import JSONResponse
-from faster_whisper import WhisperModel
+from transformers import pipeline
 
-# 1. 声明加载的模型大小
-MODEL_SIZE = "small"
+# 1. 声明加载的模型（Hugging Face 官方原生 Whisper Small，与 CTranslate2 版本一样精准）
+MODEL_NAME = "openai/whisper-small"
 
-# 2. 核心计算函数：加上 @spaces.GPU 装饰器
-# 每次触发时，这个函数都会运行在 A100 显卡节点上
-@spaces.GPU(duration=60)  # 显式声明单次最大运行时间为 60 秒，避免超时
+# 2. 全局初始化 Pipeline，默认放在 CPU 上，防止启动报错
+# generate_kwargs 指定中文识别
+pipe = pipeline(
+    "automatic-speech-recognition",
+    model=MODEL_NAME,
+    chunk_length_s=30,
+    device="cpu"
+)
+
+# 3. 核心计算函数
+@spaces.GPU(duration=60)
 def transcribe_core(audio_path: str):
-    # 在 GPU 节点内部动态创建模型实例，此时 CUDA 驱动是 100% 存在且可用的
-    # 使用 float16 推理速度会极快
-    gpu_model = WhisperModel(MODEL_SIZE, device="cuda", compute_type="float16")
+    # 【核心安全操作】进入 GPU 节点后，动态将 Pipeline 的模型送入 CUDA 显存
+    pipe.model.to("cuda")
+    
+    # 运行转录（开启 FP16 混合精度极速推理）
+    with torch.autocast("cuda"):
+        result = pipe(audio_path, generate_kwargs={"language": "chinese"})
+    
+    # 转录完后立即将模型移回 CPU，完美符合 ZeroGPU 的释放规范
+    pipe.model.to("cpu")
     
-    segments, info = gpu_model.transcribe(audio_path, beam_size=5)
-    text = "".join([segment.text for segment in segments])
-    return text
+    return result["text"]
 
-# 3. 创建 Gradio 界面
+# 4. 创建 Gradio 界面
 def gradio_predict(audio_path):
     if audio_path is None:
         return "请先上传音频或录音！"
@@ -36,10 +49,10 @@ demo = gr.Interface(
     inputs=gr.Audio(sources=["microphone", "upload"], type="filepath", label="输入音频"),
     outputs=gr.Textbox(label="识别出的文本"),
     title="Whisper 语音识别 API 节点",
-    description="【A100 GPU 动态加速版】支持网页端测试，同时也支持 OpenAI 兼容的 /v1/audio/transcriptions 接口！"
+    description="【A100 GPU 动态加速版 - Transformers 官方兼容版】支持网页端测试，同时也支持 OpenAI 兼容的 /v1/audio/transcriptions 接口！"
 )
 
-# 4. 获取 FastAPI 实例并扩展 API 路由
+# 5. 获取 FastAPI 实例并扩展 API 路由
 app = demo.app 
 
 @app.post("/v1/audio/transcriptions")
@@ -62,6 +75,6 @@ async def transcribe_api(
 
     return JSONResponse(content={"text": transcription_text})
 
-# 5. 启动服务
+# 6. 启动服务
 if __name__ == "__main__":
     demo.launch(server_name="0.0.0.0", server_port=7860)