Datasets:
Fix-SP1: system prompt injection for Base model format guidance
#1
by YUGOROU - opened
概要
Baseモデルは命令追従能力を持たないため、EQ-Bench3が要求するセクション見出し形式(# I'm thinking & feeling 等)を自然には出力しません。その結果、パーサが応答を解析できずスコアが極端に低下していました(観測値: 8.30)。
patch_system_prompt.py(Fix-SP1)を追加し、core/conversation.pyの会話開始時にTeenEmoのアイデンティティとフォーマット指示を含むシステムプロンプトを注入します。
変更内容
patch/patch_system_prompt.pyを新規追加_TEENEMO_SYSTEM_PROMPT定数をos.environ.get経由で注入(TEENEMO_SYSTEM_PROMPT環境変数で上書き可能)run_scenario()のcurrent_messages初期化直後、空の履歴時のみ{role: system}メッセージを先頭に挿入- resume/retry時の重複注入を防止
TEENEMO_SYSTEM_PROMPT=""で注入を無効化可能(Instructモデル評価時に使用)
関連
- Fix-B1:
patch_benchmark.py - Fix-C1:
patch_conversation.py - Test-2 側PR: setup_eqbench_run.sh / README.md の更新