Datasets:

YUGOROU
/

teememo-eq-bench-ja

language:
  - ja
  - en
license: mit
tags:
  - evaluation
  - llm-evaluation
  - emotional-intelligence
  - eq-bench
  - teeneemo
pretty_name: EQ-Bench3 日本語化パッチ (TeenEmo)
size_categories:
  - n<1K
task_categories:
  - text-generation
annotations_creators:
  - machine-generated
language_creators:
  - machine-generated
source_datasets:
  - EQ-bench/eqbench3

EQ-Bench3 日本語化パッチ (teememo-eq-bench-ja)

EQ-Bench3 を日本語で評価するための翻訳データと差分パッチのセットです。

リポジトリ構成

teememo-eq-bench-ja/
├── apply_patch.sh           # ← パッチ適用スクリプト（これを実行するだけ）
└── data/
    ├── benchmark.patch      # core/benchmark.py 差分 (Fix-B1)
    ├── conversation.patch   # core/conversation.py 差分 (Fix-C1)
    │
    ├── scenario_prompts_ja.txt                    # シナリオプロンプト (日本語)
    ├── scenario_prompts_en.txt                    # シナリオプロンプト (英語・参照用)
    ├── scenario_notes_ja.txt
    ├── scenario_notes_en.txt
    ├── scenario_master_prompt_ja.txt
    ├── scenario_master_prompt_en.txt
    ├── scenario_master_prompt_message_drafting_ja.txt
    ├── scenario_master_prompt_message_drafting_en.txt
    ├── scenario_master_prompt_analysis_ja.txt
    ├── scenario_master_prompt_analysis_en.txt
    ├── rubric_scoring_prompt_ja.txt
    ├── rubric_scoring_prompt_en.txt
    ├── rubric_scoring_prompt_analysis_ja.txt
    ├── rubric_scoring_prompt_analysis_en.txt
    ├── rubric_scoring_criteria_ja.txt             # ※ファイル内は英語キーのまま
    ├── rubric_scoring_criteria_en.txt
    ├── rubric_scoring_criteria_analysis_ja.txt
    ├── rubric_scoring_criteria_analysis_en.txt
    ├── pairwise_prompt_eqbench3_ja.txt
    ├── pairwise_prompt_eqbench3_en.txt
    ├── pairwise_prompt_eqbench3_analysis_ja.txt
    ├── pairwise_prompt_eqbench3_analysis_en.txt
    ├── debrief_prompt_ja.txt
    └── debrief_prompt_en.txt

クイックスタート

# 1. EQ-Bench3 本体をクローン
git clone --depth=1 https://github.com/EQ-bench/eqbench3.git
cd eqbench3

# 2. このリポジトリをクローン
git clone https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja ../teememo-eq-bench-ja

# 3. パッチを一括適用
bash ../teememo-eq-bench-ja/apply_patch.sh

# 4. 評価実行
python eqbench3.py \
  --test-model <your_model> \
  --judge-model openai/gpt-oss-120b \
  --no-elo \
  --save-interval 1

変更内容の詳細

[Fix-D1] 日本語テキストファイルの配置

data/*_ja.txt を EQ-Bench3 の data/ 配下の対応するベースファイル名へコピーします。
元の英語ファイルは .en.bak として自動バックアップされます。

コピー元 (`data/`)	コピー先 (`eqbench3/data/`)
`scenario_prompts_ja.txt`	`scenario_prompts.txt`
`rubric_scoring_prompt_ja.txt`	`rubric_scoring_prompt.txt`
`pairwise_prompt_eqbench3_ja.txt`	`pairwise_prompt_eqbench3.txt`
… (全12ファイル)	…

注意: rubric_scoring_criteria_ja.txt のキー名は英語のままです (demonstrated_empathy など)。
スコアリングロジックが英語キーで照合するため、値の説明文のみ日本語化しています。

[Fix-B1] `core/benchmark.py` — 動的 criteria 読み込み

STANDARD_ALLOWED_RUBRIC_CRITERIA のハードコードを除去し、STANDARD_RUBRIC_CRITERIA_FILE から動的に読み込むよう変更します。
日本語版でも英語キーが一致するため、スコアが正しく集計されます。
差分: data/benchmark.patch

[Fix-C1] `core/conversation.py` — 日本語セクションヘッダー対応

モデルが日本語でセクションヘッダーを返した場合のフォールバック正規表現を追加します。
英語ヘッダー (# My response 等) が第一優先で、master_prompt_ja.txt も英語見出しを使用しています。
差分: data/conversation.patch

翻訳方針

シナリオプロンプト: 文化的文脈を日本の高校生・大学生向けに自然に翻訳
プレースホルダー ({scenario_prompt} 等): 変更なし
評価基準キー: 英語キーを維持（スコアリングロジックとの互換性のため）
評価基準の説明文: 日本語に翻訳

動作確認環境

EQ-Bench3 HEAD (2025年5月時点)
Judge model: openai/gpt-oss-120b (novita プロバイダー経由)
Test model: YUGOROU/TeenEmo-LFM2.5-1.2B-DPO (LoRA adapter)
GPU: NVIDIA RTX 4090 on Vast.ai

ライセンス

翻訳データは EQ-Bench3 のライセンスに準拠します。
TeenEmo プロジェクト固有の追加コードは MIT ライセンスで提供します。