Fix-SP1: system prompt injection for Base model format guidance

#1
by YUGOROU - opened

概要

Baseモデルは命令追従能力を持たないため、EQ-Bench3が要求するセクション見出し形式(# I'm thinking & feeling 等)を自然には出力しません。その結果、パーサが応答を解析できずスコアが極端に低下していました(観測値: 8.30)。

patch_system_prompt.py(Fix-SP1)を追加し、core/conversation.pyの会話開始時にTeenEmoのアイデンティティとフォーマット指示を含むシステムプロンプトを注入します。

変更内容

  • patch/patch_system_prompt.py を新規追加
    • _TEENEMO_SYSTEM_PROMPT 定数をos.environ.get経由で注入(TEENEMO_SYSTEM_PROMPT環境変数で上書き可能)
    • run_scenario()current_messages初期化直後、空の履歴時のみ{role: system}メッセージを先頭に挿入
    • resume/retry時の重複注入を防止
    • TEENEMO_SYSTEM_PROMPT=""で注入を無効化可能(Instructモデル評価時に使用)

関連

  • Fix-B1: patch_benchmark.py
  • Fix-C1: patch_conversation.py
  • Test-2 側PR: setup_eqbench_run.sh / README.md の更新

Sign up or log in to comment