jing666888/mro-benchmark

工业 MRO 多领域检索与选型基准评测集 (Comprehensive Industrial MRO Retrieval & Selection Benchmark)

1. 架构愿景与基准定位

本基准测试集旨在为下一代具有复杂推理和工具调用能力的大型语言模型提供一个极其严苛的工业级评估环境。随着人工智能向实体经济的深度渗透，其在商业对商业（B2B）供应链环境中的决策可靠性成为核心命题。

在工业维护、维修和运营（MRO）场景下，终端工程师提交的查询词高度非结构化且充满领域黑话，同时暗含了极高密度的刚性工程参数（如物理尺寸、材料强度、公差标准、化学纯度等）。常规的语义相似度检索模型在此类任务中往往因为无法处理数字的微小差异或标准的隐式转换而全面崩溃。

本评测集要求参测模型不仅扮演检索系统中的交叉编码器（Cross-encoder）角色，更要充当“工业选型专家”。在第一阶段系统召回的庞大且高度同质化的候选池（包含大量强干扰的 Hard Negatives）中，模型需精准甄别并提取出完全契合多维参数约束的唯一或一组正确库存单位（SKU）。

2. 数据来源与真实性驱动 (Data Sourcing & Authenticity)

有别于由 LLM 生成的合成评估集，本基准测试的所有查询样本均源自真实的工业 MRO 询报价业务流水。候选 SKU 候选池与动态属性数据提取自真实的工业品供应链数据库（涵盖千万级 SKU 的精细化属性参数）。数据的清洗与标注过程保留了工业采购中最真实的噪音与歧义，是一次完全由真实选型与优化能力驱动的评测实践。

3. 宏观分类学拓扑与多级配置字典

为了全面评估模型在不同垂直工程学科领域的泛化与专业能力，本基准测试系统性地构建了覆盖核心工业供应链的十五大物料群组体系。

研究人员可以根据评估重点，实例化以下十六个独立的数据集配置（Configurations）：

• all: 全量汇总数据集（用于评估模型的跨域泛化综合性能）。
• electrical: 电气（侧重电压、电流、相数、频率及安规认证解析）。
• hand_tools: 手工具（侧重物理规格、驱动系统与基础材料合金辨识）。
• pumps_pipes_valves: 泵管阀（侧重流体动力学参数、管螺纹标准及压力等级匹配）。
• security: 安防（侧重访问控制协议、加密等级及物理防护强度）。
• ppe: 个人防护（侧重OSHA/ANSI等安全合规标准及材料抗性等级）。
• welding: 焊接（侧重输出功率、暂载率及填充材料兼容性评估）。
• tape_labels: 胶带标签（侧重基材特性、粘合强度、耐温及耐腐蚀属性）。
• power_tools: 动力工具（侧重转速、扭矩参数、动力源传输系统辨识）。
• pneumatics_hydraulics: 气动液压（侧重流体控制公称直径、气压液压耐受极限及接口规范）。
• factory_automation: 工厂自动化（侧重传感器触发机制、工业通信协议兼容）。
• lighting: 照明（侧重光度学参数如流明、色温及严苛环境防护等级）。
• office_supplies: 办公用品（侧重办公耗材的物理及设备兼容性规范）。
• industrial_control: 工控（侧重逻辑控制器I/O配置、继电器架构及总线协议）。
• test_measurement: 仪器仪表（侧重计量学中的量程范围、分辨率、校准公差及精度指标）。
• chemical_reagents: 化学试剂（侧重化学分析中的纯度级别如ACS/优级纯、浓度及容量管理）。

每个物料组均配置了严格物理隔离的 validation（供研究者用于 Prompt 调试与 Few-shot 样本选取）以及闭卷形式的 test（严禁用于微调，专用于榜单评测）。

4. 标准化数据模式 (Dataset Schema)

为确保与企业级生产搜索引擎数据管道的无缝衔接，测试集中每条记录的数据结构经过严密设计：

字段名称	存储类型	数据形态解析说明
query_text	String	用户的原始非结构化查询语句。通常表现为口语化、长短不一，且掺杂大量未声明单位的纯数值及行业特有缩略语。
recall_sku	Dictionary	模拟初筛算法截留的候选池。Key 为候选 SKU ID；Value 为包含品类、品牌及核心规格的嵌套字典。特别包含 dynamicAttrList（动态属性列表），此处预埋了大量仅存在微小参数偏差的强干扰项。
expect_selected_skus	List	预期入选的初筛/备选 SKU 列表。
expect_recommended_sku	List	**绝对标准答案 (Ground Truth)**。完全且唯一符合 query_text 全部约束的最终推荐 SKU ID 序列。

5. 评估指标与性能基准数学模型

有别于常规文本检索允许的“部分相关”容忍度，工业场景由于安全与装配规范的红线，采取严酷的二元相关性界定。选型的失误在物理世界中等同于系统的彻底失效。

因此，模型的性能评测将重度依赖针对排序头部位置的评估指标，核心推荐使用精确匹配率（Exact Match）以及截断在首位的归一化折损累计收益（NDCG@1）和召回率（Recall@1）。如果真实相关的 SKU 未能在重排序后占据列表的绝对首位，则该次选型任务视为失败。

6. 工程部署与数据集加载实例

本基准测试依托 Hugging Face 生态体系进行存储，并采用 Apache Arrow 后端以实现零开销序列化内存映射。以下代码展示了如何加载特定类别数据，并提取其中复杂的业务约束：

import json
from datasets import load_dataset

# 加载“手工具”分类的验证集用于调试模型 Prompt
dataset_tools = load_dataset("organization/mro-benchmark", "hand_tools", split="validation")

# 提取第一条测试用例
sample_case = dataset_tools[0]

# 提取核心意图与业务约束
query = sample_case["query_text"]
product_anchor = sample_case.get("ReqmProName", "N/A")
req_model = sample_case.get("ReqmProModels", "N/A")

# 获取复杂的候选 SKU 属性字典与标准答案序列
candidate_pool = sample_case["recall_sku"]
ground_truth_ids = sample_case["expect_recommended_sku"]

print(f"用户检索意图: {query}")
print(f"标准类目锚定: {product_anchor} | 型号约束: {req_model}")
print(f"需解析的候选 SKU 数量: {len(candidate_pool.keys())}")
print(f"标准答案 (Ground Truth): {ground_truth_ids}")

# 洞察候选池中的动态属性 (Dynamic Attributes)
first_candidate_id = list(candidate_pool.keys())[0]
first_candidate_attrs = candidate_pool[first_candidate_id].get("dynamicAttrList", [])

print(f"\n候选 SKU ({first_candidate_id}) 提取到的动态属性示例:")
for attr in first_candidate_attrs:
    if attr.get('value'):  # 仅展示有值的属性
        print(f" - {attr['name']}: {attr['value']}")