# 选择题评测集构建报告 (V6)

> 生成时间: 2026-05-02 00:01:11
> 输出目录: `20260502_000057_multiple_choice`
> 题目总数: `3911`

## 1. 先看什么

如果你是第一次接手这个输出目录，推荐按下面顺序阅读：
1. 先读 `report.md` 当前节与后面的“文件导航 / 最小接入路径 / JSON 关键字段”。
2. 再打开一个目标数据集 JSON，例如 `multiple_choice_single_varying.json` 看真实样本。
3. 根据样本的 `question_type` 选择对应 prompt 文件。
4. 参考 `example_prediction_*.json` 确认模型输出格式。
5. 最后用 `evaluate_multiple_choice.py` 跑评测；如果要改构题或评分，再看脚本快照与 `common_v6.py`。

## 2. 文件导航

| 你现在要做什么 | 优先读取哪些文件 | 为什么 |
|------|------|------|
| 快速理解这个目录 | `report.md` | 总览题型、字段、评测口径与命令 |
| 看真实输入样本 | `multiple_choice_*.json` | 真实 schema、`meta` 字段和题型差异都以这里为准 |
| 渲染题目给模型 | `prompt_*.txt` + 对应数据集 JSON | prompt 模板与样本字段需要一起看 |
| 对接模型输出格式 | `example_prediction_*.json` | 最快确认 `id -> option_index` 契约 |
| 运行评测 | `evaluate_multiple_choice.py` | 指标口径、合法预测规则与默认参数都在这里 |
| 修改选择题文案或 schema | `build_multiple_choice.py` | report、prompt、样本结构都由这里导出 |
| 修改条件解析、评分或 reference 抽样 | `common_v6.py` | 选择题与填空题共用 helper 在这里 |

## 3. 最小接入路径

把本目录当成自包含评测包使用即可：选择一个数据集 JSON，读取对应 prompt 模板渲染题目，生成 `id -> option_index` 的预测文件，再用 `evaluate_multiple_choice.py` 评分。

### 3.1 最短工作流
1. 选一个数据集文件。
2. 根据 `question_type` 读取对应 prompt 模板。
3. 用样本里的 `input` 字段渲染 prompt。
4. 让模型只输出一个 0-based 选项编号。
5. 把所有结果保存成 `prediction.json`。
6. 运行 `evaluate_multiple_choice.py --dataset ... --prediction prediction.json`。

## 4. 题型地图

| question_type | 你会看到什么 | 评测时要注意什么 |
|------|------|------|
| `single_varying` | 只让 1 个条件键变化；题面会给一个真实 `fixed_conditions` 组 | 所有选项都来自这组固定条件下真实出现过的组合；得分只在该局部选项集内计算 |
| `all_varying` | 一个选项代表一整组变化条件 | 评分直接在当前候选选项集内进行 |
| `single_varying_reference` | 单条件题，并额外给 reference 条件组 | reference 来自题内选项之外的真实组合，不能高于该题局部最佳值 |
| `all_varying_reference` | 全条件题，并额外给 reference 条件组 | 去掉 reference 后的剩余选项才是可选答案空间 |
| `*_reference_control` | 与 reference 题配对的无 reference 对照题 | 用于对比 reference 信息是否有帮助，评分口径与对应非 control 题一致 |

### 4.1 单条件题的真实组合规则
- single_varying 先在原表中枚举其它变化条件的真实固定组，选择对目标条件覆盖值最多的一组作为 fixed_conditions；只有该组里真实出现过的组合才会成为选项，最优答案和相对得分都只在这一局部真实选项集内计算。
- single_varying_reference 的 reference 可来自组选项外的真实组合，但不能与任一选项+fixed_conditions 组合重合，且 effective 不能高于该题选项集内的最佳 effective。

## 5. 评分与评测

- 主分数为 predicted_effective / option_set_best_effective。其中 effective = yield * enantio_major_fraction * dr_major_fraction * rr_major_fraction；对映选择性优先用 ee，ee 缺失时用 er；缺失 ee/er/dr/rr 时按 1.0 处理，不额外惩罚。
- 主指标是 `avg_relative_score`，会对所有评测样本取均值。
- `exact_match_accuracy` 用来看模型是否直接命中当前题目选项空间内的最优组。
- `avg_yield_ratio` 用来看预测项产率相对当前题目最佳产率的接近程度。

## 6. 输出文件

### 6.1 数据集
| 文件 | question_type | 样本数 |
|------|------|------|
| `multiple_choice_single_varying.json` | `single_varying` | 1039 |
| `multiple_choice_all_varying.json` | `all_varying` | 552 |
| `multiple_choice_single_varying_reference.json` | `single_varying_reference` | 850 |
| `multiple_choice_all_varying_reference.json` | `all_varying_reference` | 310 |
| `multiple_choice_single_varying_reference_control.json` | `single_varying_reference_control` | 850 |
| `multiple_choice_all_varying_reference_control.json` | `all_varying_reference_control` | 310 |

### 6.2 Prompt
| 文件 | 对应题型 | 用途 |
|------|------|------|
| `prompt_single_varying.txt` | `single_varying` | 渲染给模型的指令模板 |
| `prompt_all_varying.txt` | `all_varying` | 渲染给模型的指令模板 |
| `prompt_single_varying_reference.txt` | `single_varying_reference` | 渲染给模型的指令模板 |
| `prompt_all_varying_reference.txt` | `all_varying_reference` | 渲染给模型的指令模板 |
| `prompt_single_varying.txt` | `single_varying_reference_control` | 渲染给模型的指令模板 |
| `prompt_all_varying.txt` | `all_varying_reference_control` | 渲染给模型的指令模板 |

### 6.3 示例预测
| 文件 | 对应数据集 | 用途 |
|------|------|------|
| `example_prediction_multiple_choice_single_varying.json` | `multiple_choice_single_varying.json` | 用于快速验证预测 JSON 结构与评测链路 |
| `example_prediction_multiple_choice_all_varying.json` | `multiple_choice_all_varying.json` | 用于快速验证预测 JSON 结构与评测链路 |
| `example_prediction_multiple_choice_single_varying_reference.json` | `multiple_choice_single_varying_reference.json` | 用于快速验证预测 JSON 结构与评测链路 |
| `example_prediction_multiple_choice_all_varying_reference.json` | `multiple_choice_all_varying_reference.json` | 用于快速验证预测 JSON 结构与评测链路 |
| `example_prediction_multiple_choice_single_varying_reference_control.json` | `multiple_choice_single_varying_reference_control.json` | 用于快速验证预测 JSON 结构与评测链路 |
| `example_prediction_multiple_choice_all_varying_reference_control.json` | `multiple_choice_all_varying_reference_control.json` | 用于快速验证预测 JSON 结构与评测链路 |

### 6.4 辅助文件
| 文件 | 作用 | 什么时候读 |
|------|------|------|
| `report.md` | 当前目录的总览与接入指南 | 第一次接手输出目录时先读 |
| `README.md` | `testsetV6` 根目录说明快照 | 想快速了解整个 V6 目录而不仅是本批输出时读 |
| `build_multiple_choice.py` | 选择题构建脚本快照 | 需要理解题目是怎么生成时读 |
| `evaluate_multiple_choice.py` | 选择题评测脚本 | 需要跑分、看指标口径时读 |
| `common_v6.py` | 共享解析与评分 helper | 需要修改公共逻辑或核对评分时读 |

## 7. JSON 关键字段

### 7.1 顶层字段
| 字段 | 说明 |
|------|------|
| `id` | 题目唯一标识，格式为 `{table_id}_q{N}[_ref][_ref_control]` |
| `question_type` | 题型标识，决定 prompt 模板和评分逻辑 |
| `target_key` | 被提问的单个条件键（仅 `single_varying` 系列），`all_varying` 系列为 `null` |
| `varying_keys` | 题目中所有变化条件键列表 |
| `input` | 渲染 prompt 所需的全部信息（反应物、产物、固定条件、reference 等） |
| `options` | 选项列表，每个元素是一组条件字典 |
| `answer` | 当前题目选项空间内的最优索引列表；并列最优时长度可大于 1，仅用于 exact-hit 诊断 |
| `meta` | 题目构建元信息，详见下方 |

### 7.2 `input` 子字段
| 字段 | 说明 |
|------|------|
| `input.reactants` | 反应物列表，每项含 `content`（名称）和 `SMILES` |
| `input.products` | 产物列表，同上 |
| `input.constant_conditions` | 所有选项共享的不变条件 |
| `input.fixed_conditions` | 仅单条件题出现；表示题面固定住的真实条件组 |
| `input.reference_conditions` | 仅 `*_reference` 题出现；提供额外线索的参考条件组与结果 |

### 7.3 `meta` 子字段
| 字段 | 说明 |
|------|------|
| `meta.source_file` | 该题来源的原始 JSON 文件名 |
| `meta.doi` | 来源论文的 DOI |
| `meta.best_yield` | 当前题目选项空间内的最佳产率 |
| `meta.best_effective_score` | 当前题目选项空间内的最佳 effective score（综合 yield、ee、dr 等） |
| `meta.best_entry_indices` | 当前选项空间内最优条目在原表中的行索引 |
| `meta.global_best_yield` | 整张源表的全局最佳产率（可能高于当前选项集，仅供诊断） |
| `meta.global_best_effective_score` | 整张源表的全局最佳 effective score |
| `meta.global_best_entry_indices` | 整张源表全局最优条目的行索引 |
| `meta.total_entries_in_source_table` | 源表（原始 JSON 文件）中的总条目数，不是当前选项数 |
| `meta.yields` | 与 `options` 对齐的各选项产率列表 |
| `meta.effective_scores` | 与 `options` 对齐的各选项 effective score 列表 |
| `meta.scores` | 与 `options` 对齐的各选项详细评分（yield/ee/dr/er/rr） |
| `meta.option_relative_scores` | 与 `options` 对齐的相对分数列表（最优=1.0），是主评测依据 |
| `meta.option_source_entries` | 与 `options` 对齐的条目来源信息（row_index、entry_idx、rxn_id） |
| `meta.parent_table_id` | 源表标识（通常为 root_img_name 或文件名去扩展名） |
| `meta.main_product_smiles` | 用于评分的主产物 SMILES |

## 8. 评测脚本

预测文件必须是 `id -> 单个选项索引`：
```json
{
  "sample_id_1": 2,
  "sample_id_2": 0
}
```
```bash
python evaluate_multiple_choice.py \
  --dataset multiple_choice_all_varying_reference.json \
  --prediction pred.json
```

## 9. Reference 规则

- reference 条件数至少 `2` 条、至多 `5` 条。
- 参考条件只从低到中等表现区间抽取，不暴露最高分条件。
- 去掉 reference 后，剩余候选必须至少还有 `5` 个有效选项。
- 仅当 reference 成功生成时，额外配对生成无 reference 的 `*_reference_control` 题。

## 10. 构建设置

| 设置项 | 当前值 | 说明 |
|------|------|------|
| `YEAR_FILTER` | `None` | 论文发表年份筛选。None=不限；整数 N=仅 ≥N 年；列表=仅指定年份 |
| `CONDITION_KEYS` | `None` | 提取的反应条件类别。None=自动发现所有条件键 |
| `CONDITION_REQUIRE` | `content` | 条件项最低数据要求 |
| `SMILES_EXEMPT_KEYS` | `['solvents']` | CONDITION_REQUIRE=smiles 时豁免 SMILES 要求的类别 |
| `REACTANT_PRODUCT_REQUIRE` | `smiles` | 反应物/产物完整性（表级） |
| `INPUT_PRODUCTS_MODE` | `main_only` | 输入产物范围 |
| `YIELD_FIELD_PRIORITY` | `['isolated_yield', 'yield_ratio']` | 产率字段解析优先级 |
| `EXPAND_CURRENT_CONDITIONS` | `True` | 是否展开 current_conditions 子字段 |
| `CONDITION_KEYS_BLACKLIST` | `['indeterminate_mol_idt', 'description', 'indeterminate_descriptions', 'other_info', 'selected_conditions', 'scale']` | 条件键黑名单 |
| `NORMALIZE_CONDITIONS` | `True` | 条件文本比较时是否归一化 |
| `BALANCE_ALL_VARYING_OPTIONS` | `False` | 是否对 all_varying 选项做均衡化 |
| `BALANCE_MAX_IMBALANCE_RATIO` | `1.5` | 均衡化目标上界 |
| `BALANCE_MIN_OPTIONS` | `4` | 均衡化保留的最少选项数 |
| `MIN_REFERENCE_OPTIONS` | `2` | reference 模式下至少提供几个 reference 条件 |
| `MAX_REFERENCE_OPTIONS` | `5` | reference 模式下最多提供几个 reference 条件 |
| `MIN_REFERENCE_REMAINING_EFFECTIVE_OPTIONS` | `5` | 仅 all_varying reference 使用，去掉 reference 后至少保留多少个有效选项 |
| `REFERENCE_LOW_MID_FRACTION` | `0.6666666666666666` | reference 仅从低到中等表现区间抽取的比例 |

## 11. 统计摘要

- table 文件总数: `911`
- 使用的表格数: `552`
- 生成题目总数: `3911`
- reference 尝试数: `1636`
- reference 生成数: `1193`
- reference 跳过原因: `{'not_enough_effective_options': 242, 'not_enough_reference_candidates': 150, 'no_reference_candidate': 49, 'no_non_top_score_group': 2}`
- 被 `filter_is_table` 淘汰: `0`
- 被 `filter_reactant_product_require` 淘汰: `0`
- 被 `filter_same_reactants_products` 淘汰: `0`

## 12. 样本展示
### `single_varying` 示例：`10_1002_anie_202416132_si_5_table_0_q1`

- **反应物**: 2,2-difluoro-3-phenyl-2H-indole (`FC1(F)C(c2ccccc2)=Nc2ccccc21`)
- **产物**: 2-fluoro-3-phenyl-1H-indole (`Fc1c(-c2ccccc2)[nH]c2ccccc12`)

**不变条件：**
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **speed**: 800 rpm

**固定条件：**
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: PS-750-M
  - **溶剂 (solvents)**: water (`O`)

**选项：**
*Option 0:*
  - **Constant_Current**: 30 mA

*Option 1:*
  - **Constant_Current**: 10 mA

**最佳索引:** `[0]`
**相对分数:** `[1.0, 0.587629]`

### `single_varying_reference` 示例：`10_1002_anie_202416132_si_5_table_0_q1_ref`

- **反应物**: 2,2-difluoro-3-phenyl-2H-indole (`FC1(F)C(c2ccccc2)=Nc2ccccc21`)
- **产物**: 2-fluoro-3-phenyl-1H-indole (`Fc1c(-c2ccccc2)[nH]c2ccccc12`)

**不变条件：**
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **speed**: 800 rpm

**固定条件：**
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: PS-750-M
  - **溶剂 (solvents)**: water (`O`)

**Reference 条件：**
*Reference 1 (yield=59.0%):*
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 10 mA
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 18 h
  - **试剂 (reagents)**: —
  - **溶剂 (solvents)**: 3 wt % aq. PS-750-M
  - **speed**: 800 rpm

*Reference 2 (yield=92.0%):*
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 20 mA
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: PS-750-M
  - **溶剂 (solvents)**: —
  - **speed**: 800 rpm

**选项：**
*Option 0:*
  - **Constant_Current**: 10 mA

*Option 1:*
  - **Constant_Current**: 30 mA

**最佳索引:** `[1]`
**相对分数:** `[0.587629, 1.0]`

### `single_varying_reference_control` 示例：`10_1002_anie_202416132_si_5_table_0_q1_ref_control`

- **反应物**: 2,2-difluoro-3-phenyl-2H-indole (`FC1(F)C(c2ccccc2)=Nc2ccccc21`)
- **产物**: 2-fluoro-3-phenyl-1H-indole (`Fc1c(-c2ccccc2)[nH]c2ccccc12`)

**不变条件：**
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **speed**: 800 rpm

**固定条件：**
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: PS-750-M
  - **溶剂 (solvents)**: water (`O`)

**选项：**
*Option 0:*
  - **Constant_Current**: 30 mA

*Option 1:*
  - **Constant_Current**: 10 mA

**最佳索引:** `[0]`
**相对分数:** `[1.0, 0.587629]`

### `all_varying_reference` 示例：`10_1002_anie_202416132_si_4_table_1_q4_ref`

- **反应物**: 2,2-difluoro-3-phenyl-2H-indole (`FC1(F)C(c2ccccc2)=Nc2ccccc21`)
- **产物**: 2-fluoro-3-phenyl-1H-indole (`Fc1c(-c2ccccc2)[nH]c2ccccc12`)

**不变条件：**
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 30 mA
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **speed**: 800 rpm

**Reference 条件：**
*Reference 1 (yield=27.0%):*
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 30 mA
  - **Electrolyte**: n-Bu4NClO4 (0.1 M)
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: n-Bu4NClO4 (`CCCC[N+](CCCC)(CCCC)CCCC.[O-][Cl+3]([O-])([O-])[O-]`)
  - **溶剂 (solvents)**: 3 wt % aq. PS-750-M
  - **speed**: 800 rpm

*Reference 2 (yield=32.0%):*
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 30 mA
  - **Electrolyte**: NaI (0.1 M)
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: NaI (`[I-].[Na+]`)
  - **溶剂 (solvents)**: PS-750-M
  - **speed**: 800 rpm

*Reference 3 (yield=42.0%):*
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 30 mA
  - **Electrolyte**: n-Bu4NBr (0.1 M)
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **试剂 (reagents)**: n-Bu4NBr (`CCCC[N+](CCCC)(CCCC)CCCC.[Br-]`)
  - **溶剂 (solvents)**: 3 wt % aq. PS-750-M
  - **speed**: 800 rpm

**选项：**
*Option 0:*
  - **Electrolyte**: NaBF4 (0.1 M)
  - **试剂 (reagents)**: NaBF4 (`F[B-](F)(F)F.[Na+]`)
  - **溶剂 (solvents)**: PS-750-M

*Option 1:*
  - **Electrolyte**: n-Bu4NPF6 (0.1 M)
  - **试剂 (reagents)**: n-Bu4NPF6 (`CCCC[N+](CCCC)(CCCC)CCCC.F[P-](F)(F)(F)(F)F`)
  - **溶剂 (solvents)**: PS-750-M

*Option 2:*
  - **Electrolyte**: n-Bu4NI (0.1 M)
  - **试剂 (reagents)**: n-Bu4NI (`CCCC[N+](CCCC)(CCCC)CCCC.[I-]`)
  - **溶剂 (solvents)**: 3 wt % aq. PS-750-M

*Option 3:*
  - **Electrolyte**: NaBr (0.1 M)
  - **试剂 (reagents)**: NaBr (`[Br-].[Na+]`)
  - **溶剂 (solvents)**: aq. PS-750-M

*Option 4:*
  - **Electrolyte**: NaClO4 (0.1 M)
  - **试剂 (reagents)**: NaClO4 (`[Na+].[O-][Cl+3]([O-])([O-])[O-]`)
  - **溶剂 (solvents)**: PS-750-M

**最佳索引:** `[2]`
**相对分数:** `[0.79661, 0.474576, 1.0, 0.677966, 0.762712]`

### `all_varying_reference_control` 示例：`10_1002_anie_202416132_si_4_table_1_q4_ref_control`

- **反应物**: 2,2-difluoro-3-phenyl-2H-indole (`FC1(F)C(c2ccccc2)=Nc2ccccc21`)
- **产物**: 2-fluoro-3-phenyl-1H-indole (`Fc1c(-c2ccccc2)[nH]c2ccccc12`)

**不变条件：**
  - **Anode(+)**: Zn
  - **Cathode(-)**: C
  - **Constant_Current**: 30 mA
  - **Main_Mode**: Constant
  - **Reaction_Type**: Integrated Cell Reaction
  - **reaction_temperature**: rt
  - **reaction_time**: 4 h
  - **speed**: 800 rpm

**选项：**
*Option 0:*
  - **Electrolyte**: NaBr (0.1 M)
  - **试剂 (reagents)**: NaBr (`[Br-].[Na+]`)
  - **溶剂 (solvents)**: aq. PS-750-M

*Option 1:*
  - **Electrolyte**: n-Bu4NPF6 (0.1 M)
  - **试剂 (reagents)**: n-Bu4NPF6 (`CCCC[N+](CCCC)(CCCC)CCCC.F[P-](F)(F)(F)(F)F`)
  - **溶剂 (solvents)**: PS-750-M

*Option 2:*
  - **Electrolyte**: NaClO4 (0.1 M)
  - **试剂 (reagents)**: NaClO4 (`[Na+].[O-][Cl+3]([O-])([O-])[O-]`)
  - **溶剂 (solvents)**: PS-750-M

*Option 3:*
  - **Electrolyte**: NaBF4 (0.1 M)
  - **试剂 (reagents)**: NaBF4 (`F[B-](F)(F)F.[Na+]`)
  - **溶剂 (solvents)**: PS-750-M

*Option 4:*
  - **Electrolyte**: n-Bu4NI (0.1 M)
  - **试剂 (reagents)**: n-Bu4NI (`CCCC[N+](CCCC)(CCCC)CCCC.[I-]`)
  - **溶剂 (solvents)**: 3 wt % aq. PS-750-M

**最佳索引:** `[4]`
**相对分数:** `[0.677966, 0.474576, 0.762712, 0.79661, 1.0]`