---
license: mit
task_categories:
  - text-generation
language:
  - zh
tags:
  - code
  - agent
  - benchmark
  - evaluation
pretty_name: OctoCodingBench
size_categories:
  - n<1K
---

# OctoCodingBench: 编程智能体指令遵循基准

[English](README.md) | [中文](README_CN.md)

## 🌟 概览

**OctoCodingBench**（智能体指令遵循基准）是一个全面评估 AI 编程智能体指令遵循能力的基准测试。与现有仅关注任务完成度的基准不同，OctoCodingBench 系统性地测试智能体是否遵循来自多个来源的约束：

- **系统提示 (System Prompt)** — 角色定义、输出格式、工作流规则
- **系统提醒 (System Reminder)** — 行为纠正、工具使用提醒、信息保密
- **用户查询 (User Query)** — 任务需求、多轮指令变更
- **项目文档 (Agents.md)** — 来自 `CLAUDE.md`、`AGENTS.md` 的编码规范
- **技能 (Skill)** — 技能调用流程和协议
- **记忆 (Memory)** — 用户偏好和项目上下文延续
- **工具模式 (Tool Schema)** — 参数正确性、调用顺序、无幻觉结果

## 🚀 核心特性

- **多源指令评估**：测试智能体对 7 种不同指令类别的遵循程度
- **检查清单评分**：每个实例包含结构化的二元判定检查项
- **真实场景**：任务源自实际开发工作流
- **多脚手架支持**：在 Claude Code、Kilo、Droid 环境中评估

## 📦 数据集内容

本次发布包含 **72 个精选实例**：

- 自然语言任务规范
- 带有行为约束的系统提示
- 结构化评估检查清单（共 2,422 个检查项）
- 类别和脚手架元数据

## 📊 数据集统计

| 类别 | 实例数 |
|------|--------|
| Skill| 17 |
| Claude.md | 15 |
| AGENTS.md | 13 |
| Memory | 12 |
| System Prompt | 11 |
| User Query | 4 |
| **总计** | **72** |

| 脚手架 | 实例数 |
|--------|--------|
| Claude Code | 54 |
| Kilo | 11 |
| Droid | 7 |

| 指标 | 数值 |
|------|------|
| 总检查项数 | 2,422 |
| 平均每实例检查项 | 33.6 |

## 📝 数据格式

每个实例是一个 JSON 对象，包含以下字段：

```json
{
  "instance_id": "md-course-builder-conventional-commits",
  "user_query": ["Implement the feature as specified..."],
  "system_prompt": "You are a CLI assistant...",
  "category": "Claude.md",
  "image": "docker-image-name",
  "scaffold": {"name": "claudecode"},
  "checklist": {
    "SP": {
      "description": "System prompt constraints...",
      "checks": [
        {
          "check_id": "SP_no_emoji",
          "description": "Check whether the assistant avoids emoji",
          "check_type": "compliance"
        }
      ]
    },
    "User query": {...}
  }
}
```

| 字段 | 描述 |
|------|------|
| `instance_id` | 唯一任务标识符 |
| `user_query` | 用户消息列表（支持多轮） |
| `system_prompt` | 系统级行为约束 |
| `category` | 被测试的主要指令来源 |
| `image` | 任务环境 Docker 镜像 |
| `scaffold` | 智能体脚手架配置 |
| `checklist` | 结构化评估标准 |

## 💻 使用方法

```python
from datasets import load_dataset

# 加载数据集
dataset = load_dataset("MiniMaxAI/OctoCodingBench")

# 按类别筛选
skill_tasks = [d for d in dataset["train"] if d["category"] == "Skill"]

# 按脚手架筛选
claudecode_tasks = [d for d in dataset["train"] if d["scaffold"]["name"] == "claudecode"]
```

## ⚖️ 评估指标

- **ISR（实例成功率）**：所有检查项通过为 1，否则为 0
- **CSR（检查清单成功率）**：通过的检查项占比

## 📜 引用

```bibtex
@misc{octocodingbench2026,
  title={OctoCodingBench: Instruction-Following Benchmark for Coding Agents},
  author={MiniMax},
  year={2026},
  publisher={Hugging Face}
}
```