| license: cc-by-nc-4.0 | |
| language: | |
| - zh | |
| - en | |
| tags: | |
| - patent | |
| - patent-drafting | |
| - benchmark | |
| pretty_name: PatSnap Patent Drafting Bench | |
| size_categories: | |
| - n<1K | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: test | |
| path: data/test.jsonl | |
| # patent-drafting-bench | |
| 中文 | [English](README.en.md) | |
| patent-drafting-bench 是一个评估大模型及智能体专利撰写能力的数据集，包含 **60 个测试任务**。模型需要依据技术交底书，按指定法域和语言撰写权利要求书、说明书及必要附图，最终交付一份 Word（`.docx`）文档。 | |
| 评测关注模型能否将交底中的技术方案转化为完整、合理且有依据的专利申请文本，包括权利要求的完整性、清楚性、保护范围和从属布局，说明书的支持与公开，以及是否编造技术内容。每个任务包含通用评分标准与案例特异评分标准，可用于逐项人工审阅或 LLM judge 评分。 | |
| ## 目录结构 | |
| ```text | |
| patent-drafting-bench/ | |
| ├── README.md | |
| ├── README.en.md | |
| ├── data/ | |
| │ └── test.jsonl | |
| └── asset/ | |
| ├── PD-0005_input.docx | |
| └── ...（共 60 份技术交底书） | |
| ``` | |
| `test.jsonl` 使用 UTF-8 编码，每行一个任务，共 60 行。`document_fields.input_file` 是**相对于本数据集根目录**的路径，例如 `asset/PD-0005_input.docx`，不是相对于 `data/` 的路径。 | |
| ## 数据规模与分布 | |
| ### 技术领域 | |
| 按每个任务的 `ipc` 字段统计，分类层级为 IPC 部，每个任务计数一次。 | |
| | IPC 部 | 技术领域 | 任务数 | 占比 | | |
| | --- | --- | ---: | ---: | | |
| | A | 人类生活必需 | 5 | 8.33% | | |
| | B | 作业；运输 | 11 | 18.33% | | |
| | C | 化学；冶金 | 5 | 8.33% | | |
| | D | 纺织；造纸 | 5 | 8.33% | | |
| | E | 固定建筑物 | 4 | 6.67% | | |
| | F | 机械工程；照明；加热；武器；爆破 | 5 | 8.33% | | |
| | G | 物理 | 13 | 21.67% | | |
| | H | 电学 | 12 | 20.00% | | |
| | **合计** | **8 个 IPC 部** | **60** | **100%** | | |
| 百分比保留两位小数。 | |
| ### 法域与输出语言 | |
| | 目标法域 | 任务数 | 占比 | | |
| | --- | ---: | ---: | | |
| | 中国（CN） | 31 | 51.67% | | |
| | 美国（US） | 15 | 25.00% | | |
| | 欧洲（EP） | 14 | 23.33% | | |
| | **合计** | **60** | **100%** | | |
| 要求使用中文（`zh`）输出的任务有 31 个，英文（`en`）输出的任务有 29 个。 | |
| ### 交底书有图 / 无图 | |
| | 输入交底书类型 | 任务数 | 占比 | | |
| | --- | ---: | ---: | | |
| | 含嵌入图片 | 15 | 25.00% | | |
| | 不含嵌入图片 | 45 | 75.00% | | |
| | **合计** | **60** | **100%** | | |
| 按交底书 DOCX 正文是否含嵌入图片统计，15 份含图交底书合计包含 17 处图片引用。 | |
| 所有任务均要求在必要时绘制附图并放入最终文档。图片信息保存在原始 DOCX 中。 | |
| ## 评分标准 | |
| 每个任务提供通用评分标准和案例特异评分标准。通用标准评价权利要求的客体、单一性、清楚性、完整性、保护范围、从属布局及说明书支持，以及说明书的结构、实施例、公开充分性、表达和技术一致性。特异标准评价当前交底书中的技术特征、参数、实施方式和保护主题。 | |
| | 评分标准 | 全部任务的条目总数 | 每个任务的条目数 | | |
| | --- | ---: | --- | | |
| | 通用标准 | 900 | 15 | | |
| | 案例特异标准 | 77 | 0～4 | | |
| | **合计** | **977** | **15～19** | | |
| 每条标准包含判定条件、评分档位和正整数权重。档位分为 0、0.5、1，部分标准采用 0、1 两档。评审者根据产物选择对应档位，按权重计算百分制得分： | |
| **得分 = 100 × Σ（权重 × 档位分）÷ Σ（权重）** | |