評価スイート v1(基準リセット後の受け入れ契約)
実行時系(ime-cli convert = 格子+辞書+モデルブレンド)で測る。runner は warabi-tools の
ime-eval-suite。全行が評価専用 — 学習・マイニング・較正に使用禁止。
ファイル
| ファイル | 内容 | 出自 |
|---|---|---|
| homophone-39 | 文脈付き同音異義語 | v6期ベンチ(歴代の 39/39 の土台) |
| attractor-14 | 文脈無視で浮上する低頻度語+使役受身+基礎語義 | v8期の質的スイープ |
| qualitative-15 | ネット語彙・かな文脈・活用・数詞など | Sonnet自由試用+実使用の失敗例 |
| newchar-8 | 絵文字文脈・幅系文字・人名異体字・顔文字 | v8語彙世代の検収 |
行スキーマ
{"context": "...", "reading": "...", "accepted": ["..."], "forbidden": ["..."], "tag": "...", "seen_in_train": true}
acceptedあり: top1 が accepted に入れば合格acceptedなし(顔文字系): top3 に顔文字様候補があれば合格forbidden: top1 がここに落ちたら別枠で計上(アトラクタ検出)seen_in_train: (context, reading) が凍結済み v1 学習分割と衝突する12行の注釈。 スコアは unseen/seen を分離して報告し、ゲートと headline は unseen のみ。
汚染管理
- runner の
--contamination-check <train.jsonl...>が未注釈の新規衝突を検出(検出=ゲート失敗)。 - 新しい学習データを作る際は本スイートの (context, reading) を除外リストとして与えること (v9データビルドで機構化予定)。
- ケース追加時は必ず汚染チェックを通してから annotate または除外を判断する。
基準値(2026-08-15、v8世代、unseen)
| モデル | homophone(32) | attractor(11) | qualitative(13) | newchar(8) |
|---|---|---|---|---|
| max-v8 | 31 | 9 | 9 | 8 |
| lite-v8 | 29 | 7 | 10 | 8 |
| deep-lite-b | 29 | 7 | 10 | 8 |
ゲート(既定): homophone≥29 / attractor≥7 / qualitative≥9 / newchar≥6(現行艦隊の下限=後退警報)。