LongMemEval ReMe Cleaned-S 数据集说明
longmemeval_s_reme_cleaned.json 是 LongMemEval Cleaned-S 的修订版本。该文件保留原始问题和
haystack 会话，并使用 final_groundtruth_cleaned_s.json 中经过复核的结果替换答案和证据
session 标注。
本次修订主要处理不准确的答案和证据 session，其中包括证据时间晚于 question_date、导致评测
使用未来信息的情况。
数据来源
- 上游数据集：xiaowu0162/longmemeval-cleaned
- 上游文件：
longmemeval_s_cleaned.json - 上游版本：
98d7416c24c778c2fee6e6f3006e7a073259d48f - 上游文件 SHA-256：
d6f21ea9d60a0d56f34a05b609c79c88a451d2ae03597821ea3d5a9678c3a442 - 复核 ground truth SHA-256：
97dd2b0df872f12c682041c44fe8082f9fa55ab882f5c78c9237b7c77ba9bb00 - 生成数据集 SHA-256：
f8b308cc2d184d029dd2226e0c0a88eeac298e6318706d588e015beb1b83fc7d
生成规则
两个输入文件通过 question_id 一一对应。输出文件保持上游 Cleaned-S 的字段约定，并执行以下
映射：
| 输出字段 | 内容 |
|---|---|
answer |
复核后的 answer |
original_answer |
上游原始 answer |
answer_session_ids |
复核后的 evidence_session_ids |
original_answer_session_ids |
上游原始 answer_session_ids |
复核文件中的 evidence_session_ids 写入输出的 answer_session_ids，以保持与上游 Cleaned-S
格式兼容。其余字段均保留上游记录中的值，包括 question、question_date、
question_type、haystack_sessions、haystack_session_ids 和 haystack_dates。
变更统计
以下变化均按 JSON 值精确比较。
| 指标 | 记录数 | 占比 |
|---|---|---|
| 总记录数 | 500 | 100.0% |
| 至少一个修订字段发生变化 | 77 | 15.4% |
| 两个修订字段均未变化 | 423 | 84.6% |
answer 发生变化 |
57 | 11.4% |
answer_session_ids 发生变化 |
58 | 11.6% |
| 两个字段同时变化 | 38 | 7.6% |
仅 answer 变化 |
19 | 3.8% |
仅 answer_session_ids 变化 |
20 | 4.0% |
证据 session 引用总数由 948 降至 819。本次修订在 58 条记录中共移除 129 个证据 ID，没有
新增证据 ID。空证据列表由 0 条增加到 58 条；修订后这 58 条记录的答案均以
The information provided is not enough. 开头。
| 问题类型 | 总数 | 答案变化 | 证据变化 | 任一字段变化 |
|---|---|---|---|---|
knowledge-update |
78 | 2 | 6 | 8 |
multi-session |
133 | 7 | 11 | 17 |
single-session-assistant |
56 | 0 | 0 | 0 |
single-session-preference |
30 | 4 | 0 | 4 |
single-session-user |
70 | 1 | 0 | 1 |
temporal-reasoning |
133 | 43 | 41 | 47 |
校验结果
- 两个输入文件均包含 500 个唯一
question_id，且 ID 集合完全一致。 - 500 条记录的
question_type和提问时间全部一致。 - 每个修订后的证据 ID 都存在于对应记录的
haystack_session_ids中。 - 输出包含 500 条唯一记录；除目标字段和新增的原始值字段外，其他上游字段值均保持不变。
引用
使用本数据集时，请引用 LongMemEval 原作者：
Wu D, Wang H, Yu W, et al. Longmemeval: Benchmarking chat assistants on long-term interactive memory. arXiv preprint arXiv:2410.10813, 2024.