# LongMemEval ReMe Cleaned-S 数据集说明

`longmemeval_s_reme_cleaned.json` 是 LongMemEval Cleaned-S 的修订版本。该文件保留原始问题和
haystack 会话，并使用 `final_groundtruth_cleaned_s.json` 中经过复核的结果替换答案和证据
session 标注。

本次修订主要处理不准确的答案和证据 session，其中包括证据时间晚于 `question_date`、导致评测
使用未来信息的情况。

## 数据来源

- 上游数据集：[xiaowu0162/longmemeval-cleaned](https://huggingface.co/datasets/xiaowu0162/longmemeval-cleaned)
- 上游文件：`longmemeval_s_cleaned.json`
- 上游版本：`98d7416c24c778c2fee6e6f3006e7a073259d48f`
- 上游文件 SHA-256：`d6f21ea9d60a0d56f34a05b609c79c88a451d2ae03597821ea3d5a9678c3a442`
- 复核 ground truth SHA-256：`97dd2b0df872f12c682041c44fe8082f9fa55ab882f5c78c9237b7c77ba9bb00`
- 生成数据集 SHA-256：`f8b308cc2d184d029dd2226e0c0a88eeac298e6318706d588e015beb1b83fc7d`

## 生成规则

两个输入文件通过 `question_id` 一一对应。输出文件保持上游 Cleaned-S 的字段约定，并执行以下
映射：

| 输出字段 | 内容 |
| --- | --- |
| `answer` | 复核后的 `answer` |
| `original_answer` | 上游原始 `answer` |
| `answer_session_ids` | 复核后的 `evidence_session_ids` |
| `original_answer_session_ids` | 上游原始 `answer_session_ids` |

复核文件中的 `evidence_session_ids` 写入输出的 `answer_session_ids`，以保持与上游 Cleaned-S
格式兼容。其余字段均保留上游记录中的值，包括 `question`、`question_date`、
`question_type`、`haystack_sessions`、`haystack_session_ids` 和 `haystack_dates`。

## 变更统计

以下变化均按 JSON 值精确比较。

| 指标 | 记录数 | 占比 |
| --- | ---: | ---: |
| 总记录数 | 500 | 100.0% |
| 至少一个修订字段发生变化 | 77 | 15.4% |
| 两个修订字段均未变化 | 423 | 84.6% |
| `answer` 发生变化 | 57 | 11.4% |
| `answer_session_ids` 发生变化 | 58 | 11.6% |
| 两个字段同时变化 | 38 | 7.6% |
| 仅 `answer` 变化 | 19 | 3.8% |
| 仅 `answer_session_ids` 变化 | 20 | 4.0% |

证据 session 引用总数由 948 降至 819。本次修订在 58 条记录中共移除 129 个证据 ID，没有
新增证据 ID。空证据列表由 0 条增加到 58 条；修订后这 58 条记录的答案均以
`The information provided is not enough.` 开头。

| 问题类型 | 总数 | 答案变化 | 证据变化 | 任一字段变化 |
| --- | ---: | ---: | ---: | ---: |
| `knowledge-update` | 78 | 2 | 6 | 8 |
| `multi-session` | 133 | 7 | 11 | 17 |
| `single-session-assistant` | 56 | 0 | 0 | 0 |
| `single-session-preference` | 30 | 4 | 0 | 4 |
| `single-session-user` | 70 | 1 | 0 | 1 |
| `temporal-reasoning` | 133 | 43 | 41 | 47 |

## 校验结果

- 两个输入文件均包含 500 个唯一 `question_id`，且 ID 集合完全一致。
- 500 条记录的 `question_type` 和提问时间全部一致。
- 每个修订后的证据 ID 都存在于对应记录的 `haystack_session_ids` 中。
- 输出包含 500 条唯一记录；除目标字段和新增的原始值字段外，其他上游字段值均保持不变。

## 引用

使用本数据集时，请引用 LongMemEval 原作者：

> Wu D, Wang H, Yu W, et al. Longmemeval: Benchmarking chat assistants on
> long-term interactive memory. arXiv preprint arXiv:2410.10813, 2024.