ceval / README.md
zhaode's picture
Upload folder using huggingface_hub
99d9b8a verified
metadata
license: cc-by-sa-4.0
language:
  - zh

C-Eval (Test-Split) in Unified JSONL Format

数据集描述

本项目将 C-Eval 数据集test 部分转换为 统一的指令式 JSONL 格式,以便于大语言模型的评估和测试。

C-Eval 是一个全面的中文基础模型评估套件,旨在衡量语言模型在中文语言和知识方面的能力。本仓库的数据源自 cevaltest 集,并与 CMMLU 数据集采用了完全相同的处理流程和数据结构,方便用户在统一的框架下进行评测。

数据格式

数据集为 JSONL 格式,每一行都是一个独立的 JSON 对象。该结构经过精心设计,以适应标准的指令微调和推理流程。

每个 JSON 对象包含以下字段:

  • id: 样本的唯一标识符。
  • instruction: 指令文本,用于引导模型进行单项选择题的回答。
  • choices: 一个包含四个选项的 字典,键为 "A", "B", "C", "D"。
  • answer: 问题的正确答案('A', 'B', 'C', 或 'D')。

格式示例:

{
    "id": "1",
    "instruction": "问题: 中国的首都是哪里?\n请从以下选项中选择一个正确答案。",
    "choices": {
        "A": "上海",
        "B": "北京",
        "C": "广州",
        "D": "深圳"
    },
    "answer": "B"
}

参考