wei0616's picture
Sync patent drafting benchmark from GitHub 3c1949f (#1)
e787b8e
|
Raw History Blame Contribute Delete
3.64 kB
metadata
license: cc-by-nc-4.0
language:
  - zh
  - en
tags:
  - patent
  - patent-drafting
  - benchmark
pretty_name: PatSnap Patent Drafting Bench
size_categories:
  - n<1K
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test.jsonl

patent-drafting-bench

中文 | English

patent-drafting-bench 是一个评估大模型及智能体专利撰写能力的数据集,包含 60 个测试任务。模型需要依据技术交底书,按指定法域和语言撰写权利要求书、说明书及必要附图,最终交付一份 Word(.docx)文档。

评测关注模型能否将交底中的技术方案转化为完整、合理且有依据的专利申请文本,包括权利要求的完整性、清楚性、保护范围和从属布局,说明书的支持与公开,以及是否编造技术内容。每个任务包含通用评分标准与案例特异评分标准,可用于逐项人工审阅或 LLM judge 评分。

目录结构

patent-drafting-bench/
├── README.md
├── README.en.md
├── data/
│   └── test.jsonl
└── asset/
    ├── PD-0005_input.docx
    └── ...(共 60 份技术交底书)

test.jsonl 使用 UTF-8 编码,每行一个任务,共 60 行。document_fields.input_file 是相对于本数据集根目录的路径,例如 asset/PD-0005_input.docx,不是相对于 data/ 的路径。

数据规模与分布

技术领域

按每个任务的 ipc 字段统计,分类层级为 IPC 部,每个任务计数一次。

IPC 部 技术领域 任务数 占比
A 人类生活必需 5 8.33%
B 作业;运输 11 18.33%
C 化学;冶金 5 8.33%
D 纺织;造纸 5 8.33%
E 固定建筑物 4 6.67%
F 机械工程;照明;加热;武器;爆破 5 8.33%
G 物理 13 21.67%
H 电学 12 20.00%
合计 8 个 IPC 部 60 100%

百分比保留两位小数。

法域与输出语言

目标法域 任务数 占比
中国(CN) 31 51.67%
美国(US) 15 25.00%
欧洲(EP) 14 23.33%
合计 60 100%

要求使用中文(zh)输出的任务有 31 个,英文(en)输出的任务有 29 个。

交底书有图 / 无图

输入交底书类型 任务数 占比
含嵌入图片 15 25.00%
不含嵌入图片 45 75.00%
合计 60 100%

按交底书 DOCX 正文是否含嵌入图片统计,15 份含图交底书合计包含 17 处图片引用。

所有任务均要求在必要时绘制附图并放入最终文档。图片信息保存在原始 DOCX 中。

评分标准

每个任务提供通用评分标准和案例特异评分标准。通用标准评价权利要求的客体、单一性、清楚性、完整性、保护范围、从属布局及说明书支持,以及说明书的结构、实施例、公开充分性、表达和技术一致性。特异标准评价当前交底书中的技术特征、参数、实施方式和保护主题。

评分标准 全部任务的条目总数 每个任务的条目数
通用标准 900 15
案例特异标准 77 0~4
合计 977 15~19

每条标准包含判定条件、评分档位和正整数权重。档位分为 0、0.5、1,部分标准采用 0、1 两档。评审者根据产物选择对应档位,按权重计算百分制得分:

得分 = 100 × Σ(权重 × 档位分)÷ Σ(权重)