Update start_gradio.sh

start_gradio.sh

@@ -1,6 +1,5 @@
 #!/bin/bash
 # 启动脚本：可选下载模型，并直接启动 Gradio 应用（内部调用 vLLM.LLM）
-
 set -euo pipefail
 
 MODEL_REPO="${MODEL_REPO:-stepfun-ai/Step-Audio-2-mini-Think}"
@@ -14,6 +13,10 @@ GPU_MEMORY_UTILIZATION=${GPU_MEMORY_UTILIZATION:-0.9}
 TOKENIZER_MODE=${TOKENIZER_MODE:-step_audio_2}
 SERVED_MODEL_NAME=${SERVED_MODEL_NAME:-step-audio-2-mini-think}
 
+# 新增：设置缓存目录到可写位置
+export HF_HOME="${HF_HOME:-/tmp/hf_cache}"
+export XDG_CACHE_HOME="${XDG_CACHE_HOME:-/tmp/hf_cache}"
+
 echo "=========================================="
 echo "Step Audio 2 Gradio 启动脚本"
 echo "MODEL_REPO: $MODEL_REPO"
@@ -21,30 +24,49 @@ echo "MODEL_DIR : $MODEL_DIR"
 echo "PRELOAD_MODEL: $PRELOAD_MODEL"
 echo "HOST/PORT: $HOST:$GRADIO_PORT"
 echo "TP: $TENSOR_PARALLEL_SIZE | MAX_LEN: $MAX_MODEL_LEN"
+echo "缓存目录: $HF_HOME"
 echo "=========================================="
 
 download_model() {
-    if command -v huggingface-cli &> /dev/null; then
+    # 创建必要的目录
+    mkdir -p "$MODEL_DIR"
+    mkdir -p "$HF_HOME"
+    
+    echo "[Download] 开始下载模型到: $MODEL_DIR"
+    echo "[Download] 缓存目录: $HF_HOME"
+    
+    # 优先尝试使用 hf 命令（新版本推荐）
+    if command -v hf &> /dev/null; then
+        echo "[Download] 使用 hf download 命令"
+        hf download "$MODEL_REPO" --local-dir "$MODEL_DIR" --cache-dir "$HF_HOME"
+    elif command -v huggingface-cli &> /dev/null; then
         echo "[Download] 使用 huggingface-cli"
         huggingface-cli download "$MODEL_REPO" --local-dir "$MODEL_DIR" --local-dir-use-symlinks False
     else
         echo "[Download] 使用 python + huggingface_hub"
         python3 -c "
+import os
 from huggingface_hub import snapshot_download
 print('开始下载: $MODEL_REPO')
-snapshot_download(repo_id='$MODEL_REPO', local_dir='$MODEL_DIR', local_dir_use_symlinks=False)
+snapshot_download(
+    repo_id='$MODEL_REPO', 
+    local_dir='$MODEL_DIR', 
+    local_dir_use_symlinks=False,
+    cache_dir='$HF_HOME'
+)
 print('下载完成')
 "
     fi
 }
 
 if [[ "$PRELOAD_MODEL" == "1" ]]; then
-    if [[ ! -d "$MODEL_DIR" ]] || [[ ! -f "$MODEL_DIR/config.json" ]]; then
-        echo "模型未就绪，开始下载..."
-        mkdir -p "$MODEL_DIR"
+    # 检查模型是否完整（检查关键文件）
+    if [[ ! -d "$MODEL_DIR" ]] || [[ ! -f "$MODEL_DIR/config.json" ]] || [[ ! -f "$MODEL_DIR/model.safetensors.index.json" ]]; then
+        echo "模型未就绪或文件不完整，开始下载..."
         download_model
     else
         echo "检测到本地模型: $MODEL_DIR"
+        echo "模型文件检查通过"
     fi
     export MODEL_PATH="$MODEL_DIR"
 else
@@ -52,15 +74,19 @@ else
     export MODEL_PATH="${MODEL_PATH:-$MODEL_REPO}"
 fi
 
-echo "模型路径: ${MODEL_PATH}"
-echo "启动 Gradio..."
-
-python app.py \
-    --host "$HOST" \
-    --port "$GRADIO_PORT" \
-    --model "$MODEL_PATH" \
-    --tensor-parallel-size "$TENSOR_PARALLEL_SIZE" \
-    --max-model-len "$MAX_MODEL_LEN" \
-    --gpu-memory-utilization "$GPU_MEMORY_UTILIZATION" \
-    --tokenizer-mode "$TOKENIZER_MODE" \
-    --served-model-name "$SERVED_MODEL_NAME"
+# 验证下载结果
+if [[ "$PRELOAD_MODEL" == "1" ]]; then
+    echo "=== 模型文件验证 ==="
+    ls -la "$MODEL_DIR" | head -10
+    if [[ -f "$MODEL_DIR/config.json" ]]; then
+        echo "✓ config.json 存在"
+    else
+        echo "✗ config.json 缺失"
+    fi
+    if [[ -f "$MODEL_DIR/model.safetensors.index.json" ]]; then
+        echo "✓ model.safetensors.index.json 存在"
+    else
+        echo "✗ model.safetensors.index.json 缺失"
+    fi
+    echo "==================="
+fi