# 評価スイート v1(基準リセット後の受け入れ契約)

実行時系(ime-cli convert = 格子+辞書+モデルブレンド)で測る。runner は warabi-tools の
`ime-eval-suite`。**全行が評価専用 — 学習・マイニング・較正に使用禁止。**

## ファイル

| ファイル | 内容 | 出自 |
|---|---|---|
| homophone-39 | 文脈付き同音異義語 | v6期ベンチ(歴代の 39/39 の土台) |
| attractor-14 | 文脈無視で浮上する低頻度語+使役受身+基礎語義 | v8期の質的スイープ |
| qualitative-15 | ネット語彙・かな文脈・活用・数詞など | Sonnet自由試用+実使用の失敗例 |
| newchar-8 | 絵文字文脈・幅系文字・人名異体字・顔文字 | v8語彙世代の検収 |

## 行スキーマ

```json
{"context": "...", "reading": "...", "accepted": ["..."], "forbidden": ["..."], "tag": "...", "seen_in_train": true}
```

- `accepted` あり: top1 が accepted に入れば合格
- `accepted` なし(顔文字系): top3 に顔文字様候補があれば合格
- `forbidden`: top1 がここに落ちたら別枠で計上(アトラクタ検出)
- `seen_in_train`: **(context, reading) が凍結済み v1 学習分割と衝突する12行**の注釈。
  スコアは unseen/seen を分離して報告し、**ゲートと headline は unseen のみ**。

## 汚染管理

- runner の `--contamination-check <train.jsonl...>` が未注釈の新規衝突を検出(検出=ゲート失敗)。
- 新しい学習データを作る際は本スイートの (context, reading) を除外リストとして与えること
  (v9データビルドで機構化予定)。
- ケース追加時は必ず汚染チェックを通してから annotate または除外を判断する。

## 基準値(2026-08-15、v8世代、unseen)

| モデル | homophone(32) | attractor(11) | qualitative(13) | newchar(8) |
|---|---|---|---|---|
| max-v8 | 31 | 9 | 9 | 8 |
| lite-v8 | 29 | 7 | 10 | 8 |
| deep-lite-b | 29 | 7 | 10 | 8 |

ゲート(既定): homophone≥29 / attractor≥7 / qualitative≥9 / newchar≥6(現行艦隊の下限=後退警報)。