| # 評価スイート v1(基準リセット後の受け入れ契約) |
|
|
| 実行時系(ime-cli convert = 格子+辞書+モデルブレンド)で測る。runner は warabi-tools の |
| `ime-eval-suite`。**全行が評価専用 — 学習・マイニング・較正に使用禁止。** |
|
|
| ## ファイル |
|
|
| | ファイル | 内容 | 出自 | |
| |---|---|---| |
| | homophone-39 | 文脈付き同音異義語 | v6期ベンチ(歴代の 39/39 の土台) | |
| | attractor-14 | 文脈無視で浮上する低頻度語+使役受身+基礎語義 | v8期の質的スイープ | |
| | qualitative-15 | ネット語彙・かな文脈・活用・数詞など | Sonnet自由試用+実使用の失敗例 | |
| | newchar-8 | 絵文字文脈・幅系文字・人名異体字・顔文字 | v8語彙世代の検収 | |
|
|
| ## 行スキーマ |
|
|
| ```json |
| {"context": "...", "reading": "...", "accepted": ["..."], "forbidden": ["..."], "tag": "...", "seen_in_train": true} |
| ``` |
|
|
| - `accepted` あり: top1 が accepted に入れば合格 |
| - `accepted` なし(顔文字系): top3 に顔文字様候補があれば合格 |
| - `forbidden`: top1 がここに落ちたら別枠で計上(アトラクタ検出) |
| - `seen_in_train`: **(context, reading) が凍結済み v1 学習分割と衝突する12行**の注釈。 |
| スコアは unseen/seen を分離して報告し、**ゲートと headline は unseen のみ**。 |
|
|
| ## 汚染管理 |
|
|
| - runner の `--contamination-check <train.jsonl...>` が未注釈の新規衝突を検出(検出=ゲート失敗)。 |
| - 新しい学習データを作る際は本スイートの (context, reading) を除外リストとして与えること |
| (v9データビルドで機構化予定)。 |
| - ケース追加時は必ず汚染チェックを通してから annotate または除外を判断する。 |
|
|
| ## 基準値(2026-08-15、v8世代、unseen) |
|
|
| | モデル | homophone(32) | attractor(11) | qualitative(13) | newchar(8) | |
| |---|---|---|---|---| |
| | max-v8 | 31 | 9 | 9 | 8 | |
| | lite-v8 | 29 | 7 | 10 | 8 | |
| | deep-lite-b | 29 | 7 | 10 | 8 | |
|
|
| ゲート(既定): homophone≥29 / attractor≥7 / qualitative≥9 / newchar≥6(現行艦隊の下限=後退警報)。 |
|
|
