Levi2ok/polymarket-eventconnector-compatible-v1

Polymarket EventConnector-compatible v1

进度同步：2026-08-21
当前状态：price-only 10→7 数据适配、train/test 导出、官方默认 500-record 图审计与 16 项针对性测试已经完成；固定预测器下的 EventConnector 检索增量、P3 跨事件预测 增量和关系模型训练尚未完成。
数据边界：本目录不包含新闻或新闻归因，也不把相关图边视为关系标签。 ◊ 本数据集将项目现有的 Polymarket 日频价格轨迹整理为 EventConnector 可直接读取的 price-only 10→7 JSONL：给定过去 10 个 UTC 日的市场概率，预测未来 7 个 UTC 日的概率 路径。数据不包含新闻与新闻归因字段；相关图输出只是轨迹相关候选，不是预测增量证据或 因果关系标签。

公开数据集：https://huggingface.co/datasets/Levi2ok/polymarket-eventconnector-compatible-v1

from datasets import load_dataset

repo = "Levi2ok/polymarket-eventconnector-compatible-v1"
files = {
    "train": "polymarket_data_processed_price_only_train_2025-11-01.jsonl",
    "test": "polymarket_data_processed_price_only_test_2025-11-01.jsonl",
}
dataset = load_dataset("json", data_files={
    split: f"hf://datasets/{repo}/{path}"
    for split, path in files.items()
})

0. 六个问题的直接回答

0.1 我们如何按照 EventConnector 处理数据

我们复用了 EventConnector 的核心任务接口，而不是直接复制论文数据：从 7.63 亿笔可信 成交构造小时状态，再取每个 market 每个 UTC 日最后一笔真实成交价格，形成固定日历的 10 日历史和 7 日目标。由于公开 loader 不读取缺失 mask，兼容导出只保留 17 日全部有效的 dense_window，并进一步要求 cold_family_eligible=true，避免同一父 event 的 sibling markets 跨集合泄漏。最终将原 train 与 validation 合并成论文式 train 文件，原 test 保持 为 test；正式实验仍会根据 sample_id 恢复项目自己的三分法。

0.2 它与原始 Polymarket、论文数据是什么关系

对象	基本单位与价格来源	规模	与本目录的关系
本项目原始 Polymarket 包	market metadata、逐笔成交、OrderFilled 与用户角色；约 159.113 GiB	约 7.66 亿条 trades	本目录的上游事实来源，不是可直接训练的窗口
EventConnector 论文数据	SWM-Bench 的 Gamma/CLOB API 日状态与预选 transition	9,803 train + 3,692 test	定义论文 benchmark 和 JSONL 接口，含类别、新闻等字段
本目录 compatible 数据	可信成交聚合得到的 UTC 日 close；自然 dense+cold 窗口	227,161 train + 137,854 test	与论文核心 10→7 价格接口兼容，但不是论文数据的内容子集

三者不能当作同一份数据。论文使用 API 状态点和 breakpoint/normal-point 抽样；本项目使用 实际成交聚合和自然滑窗，数据规模、事件范围、缺失机制、价格时点与 split 均不同。本目录 保留问题文本和 outcome 方向，但 categories=[]，也不含新闻或 attribution，因此适合做 price-only 方法迁移，不等于完整复刻论文数据内容。

0.3 目前在处理后数据上完成了什么

• 已导出 365,015 条连续 17 日记录，并验证长度、日间隔、字段和 train/test 事件隔离；
• 已对固定 500 条训练 records 复现公开代码默认的近重复合并、局部 Pearson、lead-lag 和 DTW 图，得到 460 个 canonical nodes、62,272 条共波动边和 920 条 DTW 边；
• 已增加真实 UTC 日历审计：62,020 条跨 event 共波动边中有 57,727 条完全没有日期重叠， 只有 109 条两端窗口日期完全一致；
• 已完成 16 项针对性测试，并与公开图函数在合成轨迹上逐边核对一致；
• 尚未运行正式预测器比较、完整 Granger/EC-Fusion，也尚未证明任何图边有时间外预测增量。

0.4 EventConnector 设计了什么，如何预测

公开实现先把每条 17 点训练 record 当作 STG 节点：全轨迹 |r|>0.95 的节点用 union-find 合并；任一 7 点窗口 |r|≥0.70 时建立共波动边；在 [-3,3] 日记录 lead-lag； 对未连接 pair 用 DTW 补边。面对一个 query，它用过去 10 日价格和文本找 anchor，再做两跳 BFS，返回 top-k 训练 records。另一条通道把 records 按 event_id 分组构造 Granger 图， EC-Fusion 再融合两种排名。最后由 DLinear、N-BEATS、TimesNet、PatchTST、iTransformer、 Informer、Autoformer、TSMixer 或 TiDE 在检索训练池上拟合 10→7，对未来 7 日路径计算 RMSE/MAE。

这里 STG node 是“窗口 record”，不一定是 unique event；k 是每个 query 返回的训练 records 数。公开 pooled runner 会合并前 50 个 queries 的结果，实际训练池可以远大于 k。

0.5 论文效果、其他任务和工作量是什么

论文 claim 是检索增益，不是提出新的预测架构：EC-Fusion 相对每个模型—数据集单元中的 最强可比检索 baseline，平均 RMSE 降低 6.87%，最大降低 10.86%；Polymarket 上各模型的 EC-Fusion RMSE 约为 0.064–0.076。突出案例是 iTransformer 从 EventConnector 的 0.0740 降到 0.0660，约改善 10.9%。多数 Full-Shot 结果仍略优；在 k=20 的效率比较中， EC-Fusion 平均使用 1,203 条训练样本取得 0.0670 RMSE，Full-Shot 使用 8,333 条取得 0.0652。正文在纳入 EC-Hybrid 后报告 17/18 个 model–dataset cells 最优；Table 3 的 18/18 只针对表中较小的方法集合。

除预测外，论文还报告图结构、检索重合度、组件消融、top-k 敏感性、融合权重、数据效率 和跨主题案例。它不报告逐边关系标签准确率，也不证明结构因果。论文覆盖 2 个平台、9 个 预测器和 3 个 seeds；作者报告完整实验约 700 A6000 GPU-hours。仓库 README 称约 882 次 运行，但当前公开脚本可直接枚举的两组核心矩阵为 756 jobs，正式复现须以实际 run manifest 为准。

0.6 如何理解当前轨迹、相关图与下一步

当前每条 JSONL 是一个 market × as_of_time 样本，包含 17 个 {t,p}：前 10 点输入、后 7 点目标；p 是 p_answer1，不必然是 Yes。365,015 是窗口数，不是事件数；同一 market 可以贡献多个窗口。

共波动图表示“两个窗口在某个 7 点相对位置上形状相关”，DTW 图表示“允许局部时间伸缩后 形状接近”，lead-lag 表示该窗口内的相对先后，Granger 边表示 pairwise 过去值带来统计 预测信息。它们都是检索或候选信号，不是关系真值。下一阶段依次做：官方数据数值复现 → 本地固定预算检索比较 → 共同 UTC 日期与语义审核 → P3 target-only 对比 +source innovation。完整的可执行方案见 ../../docs/polymarket-eventconnector-reproduction-research-plan.md。

1. 构建结果

输出 split	窗口数	markets	events
train	227,161（约 22.72 万）	7,575	3,116
test	137,854（约 13.79 万）	6,654	2,005
合计	365,015（约 36.50 万）	—	—

train 与 test 的 market_id、event_id 交集均为 0。每个窗口包含连续 17 个 UTC 日价格， 其中前 10 点是模型输入，后 7 点是预测目标。

2. 从成交到日价格

数据源不是 CLOB prices-history API，而是本项目已经验收的可信实际成交：

原始 trades + quant 对账
  → 可信逻辑成交
  → market × UTC hour observed bars
  → market × UTC day 的最后一个真实成交小时
  → 当日 p_answer1_close

日价格定义为某个 market 在该 UTC 日内最后一个真实成交小时的 p_answer1_close。价格 方向统一为 answer1，但 answer1 不一定是 Yes，也可能是候选人、球队或区间。因此 字段不能笼统解释为 yes_price。

日状态构造遵循以下规则：

• 当天至少有一笔可信成交，才生成该日价格状态；
• 无成交日保持缺失，不跨日延续前一个价格；
• 同一天的成交量、成交数和 signed flow 分别聚合；
• 日价格仍可追溯到原始小时状态，但 JSONL 只导出价格轨迹。

3. A-D 10→7 窗口如何构造

对每个具有有效日价格的预测时点 as_of_time，在固定 UTC 日历上建立：

历史输入：as_of_time - 9d, ..., as_of_time，共 10 个日历日
预测目标：as_of_time + 1d, ..., as_of_time + 7d，共 7 个日历日

例如，若 as_of_time = 2025-06-10 00:00:00 UTC：

历史：2025-06-01 至 2025-06-10
目标：2025-06-11 至 2025-06-17

这些位置是连续日历日，不是“下一个有成交日”。在正式 Track A 中，无成交位置以 null + mask 保存；因此模型不会把间隔数周的两次成交误认为相邻时间步。

原始 A-D 窗口包含以下字段层：

身份：sample_id, market_id, event_id, event_family_id
边界：as_of_time, temporal_split, cold_family_eligible
历史：history_p_answer1[10], history_mask[10], history_has_trade[10],
      history_usd_volume[10], history_trade_count[10],
      history_signed_usd[10], history_staleness_seconds[10]
目标：target_p_answer1[7], target_mask[7]
诊断：history_valid_count, target_valid_count, dense_window

4. 时间切分如何形成

正式 Track A 首先使用三个互斥的目标时间段：

项目 split	as_of_time 范围	用途
train	2022-11-21 至 2025-07-31	模型拟合与图构造
validation	2025-08-01 至 2025-10-31	超参数与停止点选择
test	2025-11-01 至 2026-05-04	冻结后的时间外评估

分配窗口时同时要求：

as_of_time 位于该 split
并且
最远目标 as_of_time + 7d 仍位于同一 split

因此，目标路径跨越 split 边界的窗口会被删除。例如 as_of_time=2025-10-28 的第 7 日 目标落入 test，不能作为 validation 样本。

历史输入可以位于 split 边界之前，因为它是在预测时点已经可见的信息。例如 8 月 1 日 的 validation 预测可以使用 7 月下旬的历史；约束对象是预测时点和未来目标，不能把未来 测试目标泄漏给训练过程。

5. cold-family 如何阻止事件泄漏

仅按时间切分不够。同一个父事件可能包含多个相互关联的 markets；如果 sibling markets 分散在不同 split，模型可能只是识别了已见过的事件。

当前 event_family_id v0 将同一个父 event_id 下的 markets 视为一个 family，并按该 family 的最早可信成交时间确定首次出现 split。窗口只有满足以下条件时才标记为 cold_family_eligible=true：

窗口所在 split == 该 family 首次出现的 split

因此：

• train 保留首次出现在 train 的 family；
• validation 只保留首次出现在 validation 的 family；
• test 只保留首次出现在 test 的 family；
• 早期已经出现的 family 不会以 continuation 窗口进入后续 cold-family 评估。

这解释了为什么最终 train/test 的 market 和 event ID 均无交集。需要注意，family v0 阻止了同一父 event 的 sibling 泄漏，但尚未合并跨 event 的同义改写和相邻 deadline； 这部分仍需 family v1 语义审核。

6. 为什么只输出 dense 窗口

EventConnector 的公开 loader 直接把 window_history 切为前 10 点和后 7 点，不读取 缺失 mask。为保持接口兼容，本数据集只选择：

dense_window = true
且
cold_family_eligible = true

dense_window=true 表示 10 个历史日和 7 个目标日全部具有有效价格，共 17 个连续 UTC 日 没有缺失。这是 EventConnector-compatible 导出规则，不是原始 Track A 的数据要求。 自然稀疏窗口仍保存在 Track A 中，不能因为此次导出而视为无效数据。

筛选过程如下：

项目 split	全部 A-D 窗口	dense 窗口	dense + cold-family
train	720,505	212,892	212,892
validation	281,734	60,668	14,269
test	1,677,926	271,081	137,854

dense 筛选会明显提高高流动性、连续交易市场的权重。因此这份数据适合做接口对照和 EventConnector 复现，不应替代包含自然缺失的 Track A 主测试集。

7. 如何映射为 EventConnector train/test

EventConnector 公开数据使用 2025-11-01 作为 train/test cutoff。为保持这一边界：

本项目 train + validation → EventConnector-compatible train
本项目 test               → EventConnector-compatible test

因此：

train = 212,892 + 14,269 = 227,161
test  = 137,854

validation 被并入导出训练文件，只是为了匹配 EventConnector 的两分法数据接口；本项目 自己的模型选择仍应保留原始 train/validation/test 三分法，不能在 test 上调参。由于 JSONL 不单列 temporal_split，正式实验必须按 sample_id 回连 Track A，生成显式 split 映射后再训练。

8. JSONL 单条记录

导出记录与 prediction-market-news 的价格接口兼容：

下面是字段结构示意；window_history 为节省篇幅只展示第一个点，实际记录固定为17点， 不能把下面的截断示例直接当作完整训练行。

{
  "sample_id": "A_D-100-20250610T0000Z",
  "market_id": "100",
  "event_id": "10",
  "question": "Will ...?",
  "categories": [],
  "sample_type": "natural_dense_window",
  "before": {"t": 1750032000, "p": 0.41},
  "after": {"t": 1750118400, "p": 0.46},
  "change": 0.05,
  "z_score": 1.2,
  "window_start": 1748736000,
  "window_end": 1750118400,
  "window_history": [
    {"t": 1748736000, "p": 0.31}
  ],
  "answer1": "Outcome A",
  "answer2": "Outcome B",
  "price_orientation": "answer1"
}

实际 window_history 固定包含 17 个 {t,p}：

• window_history[0:10]：过去 10 日输入；
• window_history[10:17]：未来 7 日目标；
• 相邻时间戳严格相差 86,400 秒；
• 第 10 点，即索引 9，对应 as_of_time。

sample_id 是记录唯一键，形式为 A_D-{market_id}-{as_of_time}。兼容字段的计算方式为：

• before、after：17点窗口中的第16和第17点，即未来第6日和第7日；
• change：abs(after.p - before.p)；
• z_score：用前15个绝对相邻价格变化的 median/MAD 标准化最后一个绝对变化，MAD 按1.4826缩放且分母下限为0.01；
• window_start、window_end：17点窗口首尾的 Unix 秒时间戳。

字段边界：

• 完全不写入 news 和 attributions；
• categories=[]，因为本项目尚未冻结正式 category 契约；
• sample_type=natural_dense_window，因为这些是自然窗口，而不是 SWM 筛选的 breakpoint/normal_point；
• z_score 只是 schema-compatible 诊断字段，EventConnector 相关图不读取它；
• 问题文本和 answer 语义来自本项目 market_catalog.parquet。

9. 相关图如何构造

在导出的训练文件中，以固定随机种子抽取 500 条记录，复现 EventConnector 公开默认图：

抽样：500 records，seed=42
近重复合并：全17点 |r| > 0.95
局部相关：7点滑动 Pearson；任一窗口 |r| ≥ 0.70 即连边
lead-lag：相对位置 ±3
DTW：最多检查2,000个尚未连接的 pair
相关输入：原始价格水平
时间对齐：17点窗口的相对位置，而非共同 UTC 日期

确定性细节如下：训练记录首先按 market_shard 文件名和文件内行序读取，然后使用 RandomState(42) 从训练记录索引中无放回抽取500条，并以抽样返回顺序编号 graph_node_index。近重复合并按 node index 从小到大扫描，使用 union-find 将全17点 绝对 Pearson 相关大于0.95的记录合并，较早扫描到的连通根作为 canonical node。

对每对 canonical nodes，算法在17点价格水平上得到11个七点滑动窗口相关，边权 weight 取其中最大的绝对相关；peak_local_signed_corr 保留该峰值的正负号。lead-lag 在 [-3,3] 上重新计算全序列相关：正 lag 表示 source 领先 target，负值表示 target 领先 source，0表示同步；corr_sign 是峰值 lag 相关的符号，不一定等于局部峰值符号。

平坦序列和并列值按以下确定性规则处理：若合并阶段任一17点序列的标准差小于 1e-12，该 pair 不参与相关合并；若某个七点局部窗口任一侧标准差小于 1e-12，该窗口 记为无效，所有局部窗口均无效时不生成 Pearson 边。局部最大绝对相关并列时保留最早的 七点窗口；lag 按 -3,-2,...,3 扫描且只在绝对相关严格增大时更新，因此并列时保留最早 扫描到的 lag。全17点序列在 lag 阶段为平坦序列时返回 lag=0、相关强度0。

边表只为无向图中的每对节点保存一次：较小的 graph_node_index 记为 source，较大的记为 target。这只是确定性的存储方向，不表示经济传导方向；direction=lead 与正 lag 才表示 该表中 source 的轨迹领先 target，direction=lag 与负 lag 表示 target 领先 source。

DTW 先分别把两条17点轨迹缩放到 [0,1]，使用宽度3的 Sakoe–Chiba band。尚未由 Pearson 连边的 canonical pairs 若超过2,000对，同样以 seed 42 无放回抽样；距离小于 1.5时增加 DTW 边，权重为 1 - distance/1.5。

图边表的核心字段为：

字段	含义
source/target_sample_id	两端窗口身份
source/target_market_id、source/target_event_id	两端市场与事件身份
source/target_as_of_time	两端预测时点
weight	最大局部绝对相关，或DTW换算权重
peak_local_signed_corr	局部峰值相关及其正负号
direction、lag、corr_sign	lead-lag方向、步数和lag相关符号
edge_type	cofluctuation 或 dtw
calendar_overlap_days	两个17日窗口实际重叠的UTC日数
same_market、same_event	是否属于相同market或父event

首轮结果：

对象	数量
抽样记录	500
canonical nodes / 被合并节点	460 / 40
co-fluctuation edges	62,272
DTW edges	920
跨 event co-fluctuation edges	62,020
日期完全一致的跨 event edges	109
日历完全不重叠的跨 event edges	57,727（93.1%）
co-fluctuation graph density	59.0%

原始算法比较17点窗口的相对形状，大多数边并不要求事件在同一时期活跃。因此：

• cross_event_correlations.parquet 用于复现官方检索图；
• calendar_aligned_cross_event_correlations.parquet 仅保留两个17日窗口覆盖相同 UTC 日期 的109条审计候选；
• 日期一致只能修复时间可比性，仍不能证明一个事件对另一个事件具有预测增量；
• P3 还必须比较 target-only 与 +source innovation，并加入时间平移、反向边、随机 pair 和 rolling OOS 验证。

10. 文件清单

文件	内容
polymarket_data_processed_price_only_train_2025-11-01.jsonl	227,161 条训练窗口
polymarket_data_processed_price_only_test_2025-11-01.jsonl	137,854 条测试窗口
graph_sample_records.parquet	固定抽中的500条训练记录及项目身份
graph_merge_membership.parquet	近重复轨迹与 canonical node 映射
graph_edges.parquet	co-fluctuation 与 DTW 原始图边
cross_event_correlations.parquet	排除同 event 后的 co-fluctuation 边
calendar_aligned_cross_event_correlations.parquet	两个17日窗口日期完全一致的审计子集
calendar_aligned_cross_event_correlations.csv	上述109条候选的便捷浏览版
top_cross_event_correlations.csv	原始跨事件边前1,000条
summary.json	数据规模、算法参数、图密度和限制

11. 复现与验收

默认输入契约：

A-D窗口：runs/polymarket_track_a_v0/sample_manifest/protocol=A_D/
市场语义：runs/polymarket_p1b_multiscale_v0/market_catalog.parquet
输出目录：runs/polymarket_eventconnector_compatible_v1/

命令需在仓库根目录运行，并要求当前项目环境已提供 NumPy、pandas、PyArrow 与 pytest； 构建过程不需要再次扫描原始逐笔成交，也不依赖单独克隆 EventConnector 仓库。 本轮验证环境为 Python 3.13.5、NumPy 2.1.3、pandas 2.2.3、PyArrow 21.0.0 和 pytest 8.3.4。项目目前尚未把这些库的精确版本锁成可移植环境文件，因此这些版本是已验证环境， 不是对其他版本兼容性的保证。

PYTHONPATH=src python -m econwm.eval.build_polymarket_eventconnector_compatible_v1

PYTHONPATH=src pytest -q \
  tests/test_polymarket_eventconnector_compatible_v1.py \
  tests/test_polymarket_p2_eventconnector_v1.py \
  tests/test_polymarket_track_a_p2_v0.py

当前验收结果：

• train 227,161 条，test 137,854 条；
• 所有记录均为17点，且相邻时间戳严格相差一天；
• 所有 JSONL 记录均不含 news 和 attributions；
• train/test 的 market 与 event ID 交集均为0；
• 本地图实现与 EventConnector 公开实现的 canonical nodes、merge map、边集合、权重、 direction 和 lag 已在随机轨迹上逐边核对一致；
• 相关测试共16项通过。

构建实现位于： src/econwm/eval/build_polymarket_eventconnector_compatible_v1.py。

12. 当前项目进度与下一步

本目录位于“可信市场状态 → 单事件预测样本 → 跨事件检索 → 逐边增量验证”证据链的 中间层。它消费已经完成的 P1B 与 Track A 数据，并为 EventConnector 预测实验提供统一 接口；它本身不输出预测误差、检索增益或跨事件关系标签。

阶段	当前状态	已有证据或产物	尚未完成
P1B 多尺度市场状态	完成	763,126,566（约 7.63 亿）笔可信成交；1 分钟、15 分钟和 1 小时 observed bars	当前实验无需重扫 raw 数据
Track A 固定日历样本	完成	A-H/A-D/A-S 共 31,949,309（约 3,194.93 万）条样本；时间与 family v0 切分	family v1 语义合并待审核
target-only 简单基线	完成简单方法	persistence、drift、rolling mean 已覆盖全部 cold-family 样本	ridge、Linear、NLinear、DLinear 待全量训练
P2 候选筛选	首轮完成	43,971（约 4.40 万）条 seed、19,432（约 1.94 万）条宽相关候选、1,225 个优先审核 event pairs	BM25/SBERT、实体、主题、DTW、人工审核与 family v1
本目录的数据适配	完成	227,161（约 22.72 万）条 train、137,854（约 13.79 万）条 test，共 365,015（约 36.50 万）条连续 17 日窗口	无；当前范围为 price-only
本目录的默认图审计	完成	固定 500 条记录；62,272 条共波动边、920 条 DTW 边、109 条严格同日期审计候选	尚未证明任何边具有时间外预测增量
EventConnector 预测实验	未完成	输入格式和图入口已就绪	full-shot、random、文本、DTW、calendar-EC、融合检索的固定预测器比较
SWM-Bench 迁移	方案完成，实验未完成	A-S 16→1 协议和统一切分已冻结	公开 evaluation、A-S history-only；新闻实验等待独立语料契约
P3 关系验证	未开始	target-only 与 +source innovation、负对照和 rolling OOS 协议已定义	尚无关系标签或关系训练样本
关系模型 / agent	未开始	启动条件已定义	尚无 7B 微调或 agentic system

下一步按依赖关系推进，其中第 2、3 项可以并行：

1. 完成 ridge、Linear、NLinear、DLinear 与分层 target-only 结果；
2. 基于本目录的 JSONL 和图，在固定预测器、per-query top-k 与测试样本下比较 matched random、文本、DTW、calendar-EC 和融合检索；global full-train 作为不受 top-k 约束的大样本参照单列；
3. 人工审核 1,225 个 P2 优先 event pairs，并补充语义、实体、主题和 DTW 通道；
4. 对审核后的少量 pairs 运行 P3 target-only vs +source innovation、时间平移、反向边、 随机 pair 与 rolling OOS；
5. 完成 SWM-Bench 公开 evaluation 和 P1B A-S history-only；新闻条件实验等待独立语料 契约；
6. 只有训练型 baseline、检索增量和 P3 证据成立后，再决定是否训练关系模型或封装 agentic system。

因此，截至 2026-08-21，可以声称“EventConnector-compatible 数据与默认图审计已经 完成”，不能声称“EventConnector 已在本项目数据上取得预测增益”“已经发现稳定跨事件 关系”或“已经生成 P3 训练标签”。

项目级进度与方法边界见：

• 人工审核与检索增强验证计划： 真实审核案例、审核标准、记录模板与下一阶段执行顺序；
• EventConnector复现研究计划： 官方数值复现、本地方法迁移、高相关候选筛选与 P3 验证计划；
• Track A与P2进展；
• P2 EventConnector筛选说明；
• 数据审计；
• 合作者说明。

上游数据来自 SII-WANGZJ/Polymarket_data； 方法对照来自 EventConnector论文 与 官方实现。本仓库发布的是任务化派生数据， 不替代上游原始数据。