| # LongMemEval ReMe Cleaned-S 数据集说明 |
|
|
| `longmemeval_s_reme_cleaned.json` 是 LongMemEval Cleaned-S 的修订版本。该文件保留原始问题和 |
| haystack 会话，并使用 `final_groundtruth_cleaned_s.json` 中经过复核的结果替换答案和证据 |
| session 标注。 |
|
|
| 本次修订主要处理不准确的答案和证据 session，其中包括证据时间晚于 `question_date`、导致评测 |
| 使用未来信息的情况。 |
|
|
| ## 数据来源 |
|
|
| - 上游数据集：[xiaowu0162/longmemeval-cleaned](https://huggingface.co/datasets/xiaowu0162/longmemeval-cleaned) |
| - 上游文件：`longmemeval_s_cleaned.json` |
| - 上游版本：`98d7416c24c778c2fee6e6f3006e7a073259d48f` |
| - 上游文件 SHA-256：`d6f21ea9d60a0d56f34a05b609c79c88a451d2ae03597821ea3d5a9678c3a442` |
| - 复核 ground truth SHA-256：`97dd2b0df872f12c682041c44fe8082f9fa55ab882f5c78c9237b7c77ba9bb00` |
| - 生成数据集 SHA-256：`f8b308cc2d184d029dd2226e0c0a88eeac298e6318706d588e015beb1b83fc7d` |
|
|
| ## 生成规则 |
|
|
| 两个输入文件通过 `question_id` 一一对应。输出文件保持上游 Cleaned-S 的字段约定，并执行以下 |
| 映射： |
|
|
| | 输出字段 | 内容 | |
| | --- | --- | |
| | `answer` | 复核后的 `answer` | |
| | `original_answer` | 上游原始 `answer` | |
| | `answer_session_ids` | 复核后的 `evidence_session_ids` | |
| | `original_answer_session_ids` | 上游原始 `answer_session_ids` | |
|
|
| 复核文件中的 `evidence_session_ids` 写入输出的 `answer_session_ids`，以保持与上游 Cleaned-S |
| 格式兼容。其余字段均保留上游记录中的值，包括 `question`、`question_date`、 |
| `question_type`、`haystack_sessions`、`haystack_session_ids` 和 `haystack_dates`。 |
|
|
| ## 变更统计 |
|
|
| 以下变化均按 JSON 值精确比较。 |
|
|
| | 指标 | 记录数 | 占比 | |
| | --- | ---: | ---: | |
| | 总记录数 | 500 | 100.0% | |
| | 至少一个修订字段发生变化 | 77 | 15.4% | |
| | 两个修订字段均未变化 | 423 | 84.6% | |
| | `answer` 发生变化 | 57 | 11.4% | |
| | `answer_session_ids` 发生变化 | 58 | 11.6% | |
| | 两个字段同时变化 | 38 | 7.6% | |
| | 仅 `answer` 变化 | 19 | 3.8% | |
| | 仅 `answer_session_ids` 变化 | 20 | 4.0% | |
|
|
| 证据 session 引用总数由 948 降至 819。本次修订在 58 条记录中共移除 129 个证据 ID，没有 |
| 新增证据 ID。空证据列表由 0 条增加到 58 条；修订后这 58 条记录的答案均以 |
| `The information provided is not enough.` 开头。 |
|
|
| | 问题类型 | 总数 | 答案变化 | 证据变化 | 任一字段变化 | |
| | --- | ---: | ---: | ---: | ---: | |
| | `knowledge-update` | 78 | 2 | 6 | 8 | |
| | `multi-session` | 133 | 7 | 11 | 17 | |
| | `single-session-assistant` | 56 | 0 | 0 | 0 | |
| | `single-session-preference` | 30 | 4 | 0 | 4 | |
| | `single-session-user` | 70 | 1 | 0 | 1 | |
| | `temporal-reasoning` | 133 | 43 | 41 | 47 | |
|
|
| ## 校验结果 |
|
|
| - 两个输入文件均包含 500 个唯一 `question_id`，且 ID 集合完全一致。 |
| - 500 条记录的 `question_type` 和提问时间全部一致。 |
| - 每个修订后的证据 ID 都存在于对应记录的 `haystack_session_ids` 中。 |
| - 输出包含 500 条唯一记录；除目标字段和新增的原始值字段外，其他上游字段值均保持不变。 |
|
|
| ## 引用 |
|
|
| 使用本数据集时，请引用 LongMemEval 原作者： |
|
|
| > Wu D, Wang H, Yu W, et al. Longmemeval: Benchmarking chat assistants on |
| > long-term interactive memory. arXiv preprint arXiv:2410.10813, 2024. |
|
|
|
|
