创建app.py

app.py

@@ -0,0 +1,66 @@
+import os
+import shutil
+import tempfile
+import spaces  # 导入 Hugging Face 的 ZeroGPU 装饰器
+import gradio as gr
+from fastapi import FastAPI, UploadFile, File, Form, HTTPException
+from fastapi.responses import JSONResponse
+from faster_whisper import WhisperModel
+
+# 1. 声明加载的模型大小，"small" 对中文支持很好且速度快
+MODEL_SIZE = "small"
+
+# 2. 初始化模型（将其载入内存，优先检测 CUDA）
+model = WhisperModel(MODEL_SIZE, device="cpu", compute_type="float32")
+
+# 3. 核心转录函数（加上 @spaces.GPU 装饰器白嫖 A100/A10G 算力）
+@spaces.GPU
+def transcribe_core(audio_path: str):
+    # 动态将模型放到 GPU 上执行推理
+    gpu_model = WhisperModel(MODEL_SIZE, device="cuda", compute_type="float16")
+    segments, info = gpu_model.transcribe(audio_path, beam_size=5)
+    
+    # 将分段识别的文字拼接成一整段文本
+    text = "".join([segment.text for segment in segments])
+    return text
+
+# 4. 创建 Gradio 界面 (前端网页测试用)
+def gradio_predict(audio_path):
+    if audio_path is None:
+        return "请先上传音频或录音！"
+    return transcribe_core(audio_path)
+
+demo = gr.Interface(
+    fn=gradio_predict,
+    inputs=gr.Audio(sources=["microphone", "upload"], type="filepath", label="输入音频"),
+    outputs=gr.Textbox(label="识别出的文本"),
+    title="Whisper 语音识别 API 节点",
+    description="支持网页端直接测试，同时也支持 OpenAI 兼容的 /v1/audio/transcriptions API 接口！"
+)
+
+# 5. 获取 Gradio 底层的 FastAPI 实例并扩展 API 路由
+app = demo.app  # 这就是底层的 FastAPI 实例
+
+@app.post("/v1/audio/transcriptions")
+async def transcribe_api(
+    file: UploadFile = File(...),
+    model: str = Form("whisper-1")  # 兼容 OpenAI 参数
+):
+    # 创建临时文件保存上传的音频数据
+    suffix = os.path.splitext(file.filename)[1] or ".mp3"
+    with tempfile.NamedTemporaryFile(delete=False, suffix=suffix) as temp_file:
+        shutil.copyfileobj(file.file, temp_file)
+        temp_path = temp_file.name
+
+    try:
+        # 调用 ZeroGPU 加速的转录核心
+        transcription_text = transcribe_core(temp_path)
+    except Exception as e:
+        raise HTTPException(status_code=500, detail=f"Transcription failed: {str(e)}")
+    finally:
+        # 清理临时文件
+        if os.path.exists(temp_path):
+            os.remove(temp_path)
+
+    # 返回符合 OpenAI 规范的 JSON 格式
+    return JSONResponse(content={"text": transcription_text})