Update README.zh-CN.md
Browse files- README.zh-CN.md +15 -15
README.zh-CN.md
CHANGED
|
@@ -1,13 +1,13 @@
|
|
| 1 |
<div align="center">
|
| 2 |
|
| 3 |
-
<h1>
|
| 4 |
|
| 5 |
-
<img src="logo.png" alt="
|
| 6 |
|
| 7 |
<br/>
|
| 8 |
<br/>
|
| 9 |
|
| 10 |
-
[](https://huggingface.co/datasets/GTMLLab/DataClaw)
|
| 12 |

|
| 13 |

|
|
@@ -26,20 +26,20 @@
|
|
| 26 |
|
| 27 |
这意味着评测基准的核心难点,已经从单一的答案生成,转向完整的智能体驱动执行。一个真正有价值的数据分析评测基准,不仅要考察最终答案是否正确,还要考察智能体是否能够在复杂数据环境中稳定完成检索、筛选、计算、验证与约束遵循等一系列步骤。
|
| 28 |
|
| 29 |
-
|
| 30 |
|
| 31 |
-
## 🔍
|
| 32 |
|
| 33 |
-
|
| 34 |
|
| 35 |
-
|
| 36 |
|
| 37 |
|
| 38 |
-
## 🎯 为什么选择
|
| 39 |
|
| 40 |
-
- **从理想化的假设数据环境到非理想化的真实数据环境。**
|
| 41 |
-
- **从单点静态查询到多步动态推理。**
|
| 42 |
-
- **从结果导向评估到过程导向评估。**
|
| 43 |
|
| 44 |
## 🏗️ 本仓库代码架构
|
| 45 |
|
|
@@ -80,7 +80,7 @@ DataClaw大规模地模拟了高噪声、弱语义、跨领域的真实世界数
|
|
| 80 |
|
| 81 |
### 1. 获取预构建镜像
|
| 82 |
|
| 83 |
-
请从 **[
|
| 84 |
|
| 85 |
```bash
|
| 86 |
docker load -i dataclaw_ubuntu_v0.1.0.tar
|
|
@@ -216,7 +216,7 @@ output/summary_<model>.json
|
|
| 216 |
|
| 217 |
### 7. 评分规则
|
| 218 |
|
| 219 |
-
|
| 220 |
|
| 221 |
| 指标 | 含义 | 计算范围 | 方向 |
|
| 222 |
| --- | --- | --- | --- |
|
|
@@ -269,7 +269,7 @@ docker ps -a --filter "ancestor=${IMAGE}" --format "{{.Names}}\t{{.Status}}"
|
|
| 269 |
|
| 270 |
## 📊 数据集统计信息
|
| 271 |
|
| 272 |
-
|
| 273 |
|
| 274 |
### 🗂️ 数据环境统计信息
|
| 275 |
|
|
@@ -355,7 +355,7 @@ DataClaw数据并非来源于合成样本或教学示例,而是基于发布团
|
|
| 355 |
|
| 356 |
## 🙏 致谢
|
| 357 |
|
| 358 |
-
|
| 359 |
|
| 360 |
同时,本项目构建在优秀的开源智能体生态系统之上。我们衷心感谢以下项目:
|
| 361 |
|
|
|
|
| 1 |
<div align="center">
|
| 2 |
|
| 3 |
+
<h1>DataClawBench</h1>
|
| 4 |
|
| 5 |
+
<img src="logo.png" alt="DataClawBench Logo" width="220"/>
|
| 6 |
|
| 7 |
<br/>
|
| 8 |
<br/>
|
| 9 |
|
| 10 |
+
[](https://gtmllab.github.io/DataClaw/)
|
| 11 |
[](https://huggingface.co/datasets/GTMLLab/DataClaw)
|
| 12 |

|
| 13 |

|
|
|
|
| 26 |
|
| 27 |
这意味着评测基准的核心难点,已经从单一的答案生成,转向完整的智能体驱动执行。一个真正有价值的数据分析评测基准,不仅要考察最终答案是否正确,还要考察智能体是否能够在复杂数据环境中稳定完成检索、筛选、计算、验证与约束遵循等一系列步骤。
|
| 28 |
|
| 29 |
+
DataClawBench 正是面向这一变化而设计。它评测的不是脱离执行环境的抽象能力,而是在真实数据条件、明确任务约束和可复现执行协议下,OpenClaw 类端到端智能体完成数据分析任务的实际表现。
|
| 30 |
|
| 31 |
+
## 🔍 DataClawBenchBench 是什么
|
| 32 |
|
| 33 |
+
DataClawBench 是一个面向真实复杂数据环境的过程导向数据分析任务评测基准。核心目标并非仅仅是衡量智能体在数据分析任务上的最终表现,而是旨在将其作为一个现实高保真的测试平台,同时细粒度地评估智能体在面临真实复杂环境和多步推理时的演化过程。
|
| 34 |
|
| 35 |
+
DataClawBench 大规模地模拟了高噪声、弱语义、跨领域的真实世界数据环境。通过金融领域与计算机领域的人类专家撰写复杂数据分析任务问题,并由人类专家和AI辅助交叉核验提供每个任务的过程性标注和唯一客观答案。其中,过程性标注包括任务里程碑、人工订正参考轨迹和证据数据来源。DataClaw 采用 OpenClaw 作为统一 agent 框架。
|
| 36 |
|
| 37 |
|
| 38 |
+
## 🎯 为什么选择 DataClawBench
|
| 39 |
|
| 40 |
+
- **从理想化的假设数据环境到非理想化的真实数据环境。** DataClawBench 包含混合结构和非结构化数据,覆盖企业画像、企业经营状态、区域产业统计、全国行业统计与政策文本等资源。所有信息均来自真实世界采集,并面临指标缺失、口径不一致、命名不一致等摩擦;任务面对的是现实风格的数据环境,而非过度清洗后的单表查值。
|
| 41 |
+
- **从单点静态查询到多步动态推理。** DataClawBenchBench任务通常要求智能体完成多阶段操作链,而不是一次性命中答案。对 agent 的挑战不仅来自检索,更来自跨源整合、指标构造、聚合计算与格式约束执行。
|
| 42 |
+
- **从结果导向评估到过程导向评估。** DataClawBench超越单纯的结果准确率评估,对智能体的运行演化过程进行解剖式评测。结果导向的评估范式仅关注最终准确率。这种黑盒方法忽视了中间推理过程,极大弱化了评测的优化指导意义。
|
| 43 |
|
| 44 |
## 🏗️ 本仓库代码架构
|
| 45 |
|
|
|
|
| 80 |
|
| 81 |
### 1. 获取预构建镜像
|
| 82 |
|
| 83 |
+
请从 **[DataClawBench v0.1.0](https://github.com/GTML-LAB-sysu/DataClaw/releases/tag/dataclaw-v0.1.0)** 发布页下载资源文件 `dataclaw_ubuntu_v0.1.0.tar`,然后加载镜像:
|
| 84 |
|
| 85 |
```bash
|
| 86 |
docker load -i dataclaw_ubuntu_v0.1.0.tar
|
|
|
|
| 216 |
|
| 217 |
### 7. 评分规则
|
| 218 |
|
| 219 |
+
DataClawBench 对每次运行从 **四个指标** 打分。
|
| 220 |
|
| 221 |
| 指标 | 含义 | 计算范围 | 方向 |
|
| 222 |
| --- | --- | --- | --- |
|
|
|
|
| 269 |
|
| 270 |
## 📊 数据集统计信息
|
| 271 |
|
| 272 |
+
DataClawBench数据并非来源于合成样本或教学示例,而是基于发布团队在中国企业、产业与政策研究中的长期一线数据积累与行业洞察。当前版本以 2022 年相关数据为主,经过必要脱敏处理后构建任务,尽可能避免模型知识泄露且保留真实业务中的信息噪声与数据摩擦。任务撰写与标注由中山大学岭南学院专业团队完成,兼顾学术规范与业务可用性。
|
| 273 |
|
| 274 |
### 🗂️ 数据环境统计信息
|
| 275 |
|
|
|
|
| 355 |
|
| 356 |
## 🙏 致谢
|
| 357 |
|
| 358 |
+
DataClawBench 由中山大学计算机学院陈川团队与南方周末科创力研究中心联合发布,真诚感谢南方周末科创力研究中心提供的宝贵数据和巨大支持。
|
| 359 |
|
| 360 |
同时,本项目构建在优秀的开源智能体生态系统之上。我们衷心感谢以下项目:
|
| 361 |
|