Datasets:

YUGOROU
/

TeenEmo-Scripts

@@ -1,191 +0,0 @@
-#!/usr/bin/env bash
-# =============================================================================
-# setup_eqbench_mac.sh — EQ-Bench3 macOS / M3 MacBook セットアップ
-#
-# 構成:
-#   受験者: YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF (llama-cpp, Metal加速)
-#   採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
-#
-# 前提:
-#   - uv がインストール済み (curl -LsSf https://astral.sh/uv/install.sh | sh)
-#   - Homebrew がインストール済み
-#   - HF_TOKEN: HuggingFace Pro プランのトークン
-#
-# 使用方法:
-#   export HF_TOKEN="hf_xxxx"
-#   bash setup_eqbench_mac.sh
-# =============================================================================
-set -euo pipefail
-HF_TOKEN="${HF_TOKEN:?HF_TOKEN が未設定です。export HF_TOKEN='hf_xxxx' を実行してください。}"
-WORKSPACE="${HOME}/eqbench-teenemo"
-EQBENCH_REPO="https://github.com/EQ-bench/eqbench3.git"
-VENV_DIR="${WORKSPACE}/.venv"
-GGUF_DIR="${WORKSPACE}/models"
-GGUF_REPO="YUGOROU/TeenEmo-LFM2.5-1.2B-GGUF"
-GGUF_FILE="LFM2.5-1.2B-Base.Q4_K_M.gguf"
-LLAMA_SERVER_PORT="${LLAMA_SERVER_PORT:-8000}"
-echo "======================================"
-echo " EQ-Bench3 macOS セットアップ"
-echo " 作業ディレクトリ: ${WORKSPACE}"
-echo "======================================"
-echo ""
-# ── 1. llama-cpp インストール (Homebrew) ──────────────────────
-echo "[1/6] llama-cpp の確認..."
-if ! command -v llama-server &>/dev/null; then
-    echo "  llama-cpp をインストール中 (Metal対応)..."
-    brew install llama.cpp
-    echo "  ✅ llama-cpp インストール完了"
-else
-    echo "  ✅ llama-cpp 確認済み: $(llama-server --version 2>&1 | head -1)"
-fi
-# ── 2. 作業ディレクトリ作成 ────────────────────────────────────
-echo ""
-echo "[2/6] ディレクトリ作成..."
-mkdir -p "${WORKSPACE}" "${GGUF_DIR}"
-# ── 3. EQ-Bench3 クローン ──────────────────────────────────────
-echo ""
-echo "[3/6] EQ-Bench3 クローン..."
-if [ -d "${WORKSPACE}/eqbench3" ]; then
-    echo "  既存リポジトリを更新中..."
-    git -C "${WORKSPACE}/eqbench3" pull --ff-only 2>/dev/null || echo "  (更新スキップ)"
-else
-    git clone --depth=1 "${EQBENCH_REPO}" "${WORKSPACE}/eqbench3"
-fi
-echo "  ✅ ${WORKSPACE}/eqbench3"
-# ── 4. uv 仮想環境 + 依存関係インストール ────────────────────
-echo ""
-echo "[4/6] uv 仮想環境セットアップ..."
-cd "${WORKSPACE}/eqbench3"
-if [ ! -d "${VENV_DIR}" ]; then
-    uv venv "${VENV_DIR}" --python 3.11
-    echo "  ✅ 仮想環境作成: ${VENV_DIR}"
-fi
-# requirements.txt から依存パッケージをインストール
-uv pip install --python "${VENV_DIR}/bin/python" \
-    -r requirements.txt \
-    huggingface_hub \
-    2>/dev/null
-echo "  ✅ 依存パッケージインストール完了"
-# ── 5. TeenEmo GGUF ダウンロード ───────────────────────────────
-echo ""
-echo "[5/6] TeenEmo GGUF ダウンロード..."
-GGUF_PATH="${GGUF_DIR}/${GGUF_FILE}"
-if [ -f "${GGUF_PATH}" ]; then
-    echo "  ✅ GGUF 既存: ${GGUF_PATH}"
-else
-    echo "  ダウンロード中: ${GGUF_REPO}/${GGUF_FILE}"
-    "${VENV_DIR}/bin/python" -c "
-from huggingface_hub import hf_hub_download
-import os
-path = hf_hub_download(
-    repo_id='${GGUF_REPO}',
-    filename='${GGUF_FILE}',
-    repo_type='model',
-    token='${HF_TOKEN}',
-    local_dir='${GGUF_DIR}',
-)
-print(f'  ✅ ダウンロード完了: {path}')
-"
-fi
-# ── 6. .env ファイル生成 ────────────────────────────────────────
-echo ""
-echo "[6/6] .env ファイル生成..."
-ENV_FILE="${WORKSPACE}/eqbench3/.env"
-cat > "${ENV_FILE}" << ENVEOF
-# =============================================================================
-# EQ-Bench3 設定 (macOS / TeenEmo 評価用)
-# 自動生成: $(date)
-#
-# 受験者: TeenEmo-LFM2.5-1.2B-GGUF (llama-server port ${LLAMA_SERVER_PORT})
-# 採点者: openai/gpt-oss-120b via HF Inference Providers (novita)
-#         Input: \$0.05/1M tokens, Output: \$0.25/1M tokens
-#         46シナリオの推定コスト: ~\$0.024 (Pro \$2クレジット内)
-# =============================================================================
-# 受験者: llama-server (ローカル)
-TEST_API_URL=http://localhost:${LLAMA_SERVER_PORT}/v1/chat/completions
-TEST_API_KEY=dummy
-# 採点者: HF Inference Providers → novita → gpt-oss-120b
-# HF Proトークン: \$2/月の無料クレジットで賄える
-JUDGE_API_URL=https://router.huggingface.co/novita/v1/chat/completions
-JUDGE_API_KEY=${HF_TOKEN}
-# API設定
-MAX_RETRIES=6
-RETRY_DELAY=5
-REQUEST_TIMEOUT=300
-ENVEOF
-echo "  ✅ .env 生成完了: ${ENV_FILE}"
-# ── 日本語版シナリオの差し替え ────────────────────────────────
-echo ""
-echo "[オプション] 日本語版シナリオへの差し替え..."
-JA_PROMPTS_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_prompts_ja.txt"
-JA_NOTES_URL="https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja/resolve/main/data/scenario_notes_ja.txt"
-for pair in \
-    "${JA_PROMPTS_URL}|${WORKSPACE}/eqbench3/data/scenario_prompts.txt" \
-    "${JA_NOTES_URL}|${WORKSPACE}/eqbench3/data/scenario_notes.txt"; do
-    URL="${pair%%|*}"
-    DEST="${pair##*|}"
-    BACKUP="${DEST}.en.bak"
-    if [ ! -f "${BACKUP}" ]; then
-        cp "${DEST}" "${BACKUP}"
-    fi
-    if curl -fL -H "Authorization: Bearer ${HF_TOKEN}" \
-        "${URL}" -o "${DEST}" 2>/dev/null; then
-        echo "  ✅ 日本語版に差し替え: $(basename ${DEST})"
-    else
-        echo "  ⚠️  日本語版未生成のため英語版を使用: $(basename ${DEST})"
-        cp "${BACKUP}" "${DEST}"
-    fi
-done
-# ── セットアップ完了 ────────────────────────────────────────────
-echo ""
-echo "======================================"
-echo " セットアップ完了"
-echo " 作業ディレクトリ: ${WORKSPACE}"
-echo "======================================"
-echo ""
-echo "【実行手順】"
-echo ""
-echo "# Step 1: 別タブでllama-serverを起動（TeenEmo受験者）"
-echo "llama-server \\"
-echo "  --model ${GGUF_PATH} \\"
-echo "  --port ${LLAMA_SERVER_PORT} \\"
-echo "  --ctx-size 16384 \\"
-echo "  -ngl 99"
-echo ""
-echo "# Step 2: サーバー起動確認"
-echo "curl -s http://localhost:${LLAMA_SERVER_PORT}/health"
-echo ""
-echo "# Step 3: EQ-Bench3 評価実行"
-echo "cd ${WORKSPACE}/eqbench3"
-echo "source ${VENV_DIR}/bin/activate"
-echo "python eqbench3.py \\"
-echo "  --test-model LFM2.5-1.2B-Base.Q4_K_M \\"
-echo "  --model-name TeenEmo-DPO \\"
-echo "  --judge-model openai/gpt-oss-120b \\"
-echo "  --no-elo \\"
-echo "  --save-interval 1 \\"
-echo "  --iterations 1"
-echo ""
-echo "# 結果確認"
-echo "cat ${WORKSPACE}/eqbench3/eqbench3_runs.json | python3 -c \\"
-echo "  \"import json,sys; [print(k, v.get('eq_bench_score','N/A')) for k,v in json.load(sys.stdin).items() if 'TeenEmo' in k]\""