polymarket-eventconnector-compatible-v1 / docs /polymarket-data-audit-current.md
Levi2ok's picture
Add audit and experiment documentation
3affe8e verified
|
Raw
History Blame Contribute Delete
32.4 kB

Polymarket 当前数据审计答案

核验日期:2026-08-21
数据版本:polymarket-p1b-multiscale-v0 / polymarket-track-a-v0 / polymarket-p2-calendar-eventconnector-v1 / polymarket-eventconnector-compatible-v1
结论状态:数据规模、字段和多尺度轨迹分布已核验,Data Atlas v1、31,949,309(约 3,194.93 万)条正式 Track A 固定日历样本与 365,015(约 36.50 万)条 EventConnector-compatible price-only 窗口已完成。
数字阅读约定:万级以上的数据规模同时保留精确值与“约 X 万/X 亿”标注;日期、比例、文件大小和标识符不作此换算。

本文回答训练前最重要的五个数据问题,并区分正式全量证据、早期 pilot 和尚未完成的 工作。研究对象首先是 market 轨迹,不是把一个父 event 下的多个 markets 直接 平均成一条轨迹。

1. 数据有多少事件、时间点和多大跨度?

1.1 研究单位

  • market_id:一条可交易命题及其概率轨迹,是 Track A 的基本预测单位;
  • event_id:父事件容器,可能包含多个语义不同或相互约束的 markets;
  • market_id × bucket_start_utc:一条时间序列观测。

全量 catalog 包含 1,019,069(约 101.91 万)个 markets;其中 897,580(约 89.76 万)个 markets 有可信成交,归属于 379,711(约 37.97 万)个有效 events。后两个数字是当前 P1B 可用于轨迹研究的主体规模。

1.2 多尺度时间点

“时间点”需要区分全局 UTC bucket 和 market-time 观测行:同一时刻可能有许多 markets 同时活跃。

尺度 不同 UTC buckets market-time 观测行 起止时间(UTC) 当前用途
1 分钟 1,215,098(约 121.51 万) 101,460,285(约 1.01 亿) 2022-11-21 19:49 至 2026-05-04 16:11 可继续聚合的基础层;高流动性机制分析
15 分钟 109,838(约 10.98 万) 41,110,464(约 4,111.05 万) 2022-11-21 19:45 至 2026-05-04 16:00 短时响应诊断
1 小时 29,125(约 2.91 万) 21,737,095(约 2,173.71 万) 2022-11-21 19:00 至 2026-05-04 16:00 Track A、P2、P3 首版主频率
规则小时序列 30,415,016(约 3,041.50 万) 同一研究期 真实成交小时加最多一小时的状态延续

最细尺度覆盖约 1,259.85 天,即 3.45 年。三个 observed 层只保存至少发生一笔可信 成交的 market-time bucket,不创建全市场稠密空桶。

按实际文件字节,磁盘规模为:1 分钟层 3.902 GiB、15 分钟层 1.668 GiB、1 小时层 0.928 GiB;两个 catalog 合计约 0.092 GiB。可信成交总数为 763,126,566(约 7.63 亿),三个尺度的 trade_count 汇总均与其一致。

2. 每个事件包含哪些字段,单条轨迹是什么形式?

2.1 父事件字段

event_catalog.parquet 每行对应一个有成交 event,主要字段包括:

event_id, event_title, market_count,
first_trade_hour_utc, last_trade_hour_utc, event_span_hours,
market_active_span_hours, observed_bar_count, trusted_trade_count,
usd_volume, token_volume

这里的 observed_bar_count 是该 event 下所有 market-hour 行数之和,不是一条可以直接 解释为事件概率的序列长度。

2.2 Market 元数据字段

market_catalog.parquet 每行对应一个 market,主要字段分为:

  • 身份与文本:market_idcondition_idevent_idquestionevent_title
  • 命题方向:answer1answer2canonical_propositionprice_orientation
  • 生命周期:created_at_utcend_date_raw_utc、首末成交小时;
  • 数据状态:metadata_valididentity_statusstrict_event_eligiblehas_trusted_trades
  • 轨迹摘要:小时观测数、可信成交数、成交量、价格范围、活跃跨度和小时覆盖率。

价格统一表示 answer1 方向的市场概率,不能一律命名为 yes_price,因为体育和其他 非 Yes/No markets 的 answer1 可能是球队、候选人或 Over。

2.3 单条 observed bar

1 分钟、15 分钟和 1 小时 observed 层的一行具有统一结构:

bucket_start_utc, market_id, event_id,
first/last transaction time and order,
p_open, p_high, p_low, p_close,
price_x_usd, usd_volume, token_volume,
signed_usd, trade_count

1 分钟是基础层;15 分钟和 1 小时由它确定性聚合。规则小时序列进一步提供 p_vwapdelta_pdelta_logit_phas_tradestaleness_secondsgap_from_previous_trade_seconds,用于区分真实新成交和短时延续状态。

因此,一条可训练轨迹应以 market_id 为主键,按 bucket_start_utc 排序,并同时携带 父事件、命题方向、成交活动和缺失状态。event 层只能在明确命题关系和聚合规则后构造。

3. 轨迹长度、采样频率和数据量如何分布?

3.1 每个有成交 market 的 observed 点数

尺度 均值 P25 中位数 P75 P90 P99 最大值
1 分钟 113.0 5 14 52 170 1,397 122,945(约 12.29 万)
15 分钟 45.8 2 5 21 77 597 21,405(约 2.14 万)
1 小时 24.2 2 3 13 41 348 7,859

分布高度长尾。以主频率 1 小时为例,中位 market 只有 3 个真实成交小时,90% 的 markets 不超过 41 个,只有最活跃的 1% 超过约 348 个。这意味着不能对全部 markets 直接使用同一固定长窗口:Track A 必须明确最低长度、缺失 mask、流动性分层和自然 分布与高活跃子集的分别报告。

3.2 活跃跨度、交易数与父事件规模

  • market 活跃跨度中位数为 6 小时,P75 为 45 小时,P90 为 162 小时,P99 为 3,113 小时;
  • 每个 market 的可信成交数中位数为 66,P90 为 1,767,P99 为 11,286(约 1.13 万);
  • 每个有成交 event 包含的 markets 中位数为 1,P90 为 6,P99 为 18,最大为 144;
  • event 的小时 market-row 数中位数为 2,P90 为 63,P99 为 768。

因此,“一个 event 有多少时间点”没有单一答案:单 market event 可以直接使用它的 market 轨迹;多 market event 需要先区分命题类型,再决定按 market 建模、使用机械 约束,还是在验证后汇总。

3.3 频率选择

  • 首版全市场预测统一使用 1 小时,控制规模并覆盖更多低流动性 markets;
  • 15 分钟用于检验短时响应是否被小时聚合抹平;
  • 1 分钟只用于流动性足够的代表市场和机制分析;
  • 更粗频率可从 1 分钟基础层继续派生,不需要重新读取逐笔数据。

4. 当前有哪些代表性案例?

案例 当前正式轨迹证据 它检验的问题
2024 美国总统选举 Trump market (253591) 122,945(约 12.29 万)个分钟点、17,456(约 1.75 万)个 15 分钟点、5,616 个小时点、2,749,424(约 274.94 万)笔可信成交 长轨迹、高流动性和同父事件互斥约束
Dota 2 Game 2 Winner (1776899) 173 / 26 / 7 个多尺度点;父 event 有 137 个有成交 markets event 是容器,不能把胜负、让分和局内统计直接平均
US–Iran ceasefire deadline (2036399) 7,845 / 972 / 246 个多尺度点 短 deadline family、相邻命题的事件族切分,以及 catalog 日期与真实成交边界不一致
Seahawks vs. Patriots (1269423) 10,190(约 1.02 万) / 1,349 / 340 个多尺度点;answer1=Seahawks 非 Yes/No outcome 的概率方向
Israel–Hezbollah ceasefire (1994007) 3,003 / 412 / 106 个多尺度点 原始结束时间早于创建时间时,应使用实际成交边界并保留元数据异常
Super Bowl 55 (115) 无可信轨迹,event_id 缺失并被隔离 文本可理解不等于事件身份可验证
2020 Pennsylvania election (67) catalog 有记录,但当前可信数据中无成交轨迹 catalog 生命周期不能代替真实可训练轨迹

这些案例最初已在 Data Atlas v0 中用于暴露语义边界;上表的多尺度点数来自正式 P1B。 Data Atlas v1 已把正式轨迹图、字段、轨迹摘要和样本预览整合到同一离线页面;网页 保存的是紧凑摘要和降采样轨迹,不复制亿级原始 bars。

5. 如何整理成“历史信息—预测目标”训练样本?

5.1 先纠正数据格式表述

当前原始和派生数据主体是 Parquet,不是原始 JSON。训练接口可以根据模型需要导出 Parquet、JSONL 或张量,但不能把文件格式与样本语义混为一谈。

5.2 已完成的 pilot

runs/polymarket_fast_dataset_v0/ 已经证明 history–future 形式可以物化。它使用早期 约 1.5625% 的成交样本构造 observed-day bars,并产生:

  • 1,033,390(约 103.34 万)条日频 market observations;
  • 481,077(约 48.11 万)个 markets、303,037(约 30.30 万)个 events;
  • 6,227 个满足 pilot 长度条件的 markets;
  • 14,440(约 1.44 万)条 10 observed points → 7 future points 样本;
  • train / validation / test 分别为 5,877 / 1,209 / 7,354 条;
  • 一个 last-observation persistence 结果:test MAE 为 0.0441,RMSE 为 0.1002。

pilot 样本字段已经包括:

sample_id, market_id, event_id, as_of_time,
history_times_utc, history_p_answer1,
target_times_utc, target_p_answer1,
history_span_days, target_span_days, split

它验证了格式,但不是正式 Track A 数据集:输入来自成交样本而非当前全量 P1B;日频 只保留有成交日期,所以“10 个历史点”和“7 个未来点”对应的日历跨度会随 market 变化,不是固定 horizon;只有简单时间切分,没有事件族隔离;也没有纳入成交量、 staleness、mask 和公共市场状态。

5.3 正式 Track A 样本采用的结构

正式版本已经从 P1B 规则小时序列构造。窗口文件只保存训练所需的数值状态和身份; 问题文本、父事件标题和答案方向按 market_idmarket_catalog.parquet 连接,避免在 3,194.93 万条窗口中重复存储:

身份:sample_id, protocol, market_id, event_id, event_family_id
边界:as_of_time, temporal_split, cold_family_eligible,
      market_continuation_eligible
协议:history_steps, horizons
历史:history_p_answer1, history_has_trade, history_usd_volume,
      history_trade_count, history_signed_usd, history_staleness_seconds
目标:target_p_answer1, target_mask
诊断:history_mask, history_valid_count, target_valid_count, dense_window
外部连接:question, event_title, answer1, answer2(来自 market catalog)

输入只包含 as_of_time 及之前的信息;完整 target path 必须处于同一时间 split。 父 event 级 family v0 已用于 cold-family 视图,跨 event 的同义改写和相邻 deadline 仍需经 P2 审核后形成 family v1。公共市场状态是 P3 的计划输入,当前尚未物化到 Track A 窗口中。

5.4 当前完成边界

问题 当前状态
全量规模、字段、时间范围 已完成并通过 P1B 验收
多尺度轨迹长度与数据量分布 已完成统计并进入 Data Atlas v1
代表案例 已有案例集和正式多尺度点数,Data Atlas v1 网页已完成
history–future 格式 正式 A-H/A-D/A-S 固定日历格式已完成
全量正式 Track A 样本 已完成,共 31,949,309(约 3,194.93 万)条
事件族切分、统一指标和 baseline 复现 父 event family v0 与 deterministic simple baseline 已完成;语义 family v1、训练型 baseline 待完成
EventConnector-compatible 数据 已生成 227,161(约 22.72 万)条 train 与 137,854(约 13.79 万)条 test 的无新闻 10→7 JSONL;默认 500-record 图包含 62,272 条共波动边和 920 条 DTW 边,另有 109 条严格日历对齐审计候选
P2 候选边与 P3 跨事件训练样本 P2 seed 43,971(约 4.40 万)条、宽相关候选 19,432(约 1.94 万)条、优先审核 event pairs 1,225 对;P3 未开始

因此,当前阶段已经从“冻结正式样本协议”推进到“训练型 baseline、检索消融和 P2 候选审核”。EventConnector 的数据格式适配与默认相关图审计已经完成,下一项直接交付应是 ridge/Linear/NLinear/DLinear、固定预测器下的 EventConnector 检索增量比较和 P2 人工审核,而不是立即 训练 7B 模型。默认图的 62,020 条跨事件共波动边中,有 57,727 条(93.1%)的窗口日历 完全不重叠,所以它们只能作为算法审计与检索候选,不能作为关系标签。

6. 原始 159.1 GiB 为什么可以整理成 6.59 GiB?

6.1 先纠正规模口径:不是把全部原始文件直接压缩 24 倍

本地原始目录的六个数据文件合计 170.846 GB,即 159.113 GiB。当前所说的“约 6.7 GB”对应 runs/polymarket_p1b_multiscale_v0/ 中的多尺度 observed bars 与两个 catalog;按实际文件字节计算为 7.075 GB,即 6.589 GiB。两者不能只用一个压缩比概括, 因为原始目录中有 107.413 GiB 并未进入 P1B 市场轨迹主链。

原始对象 实际大小 是否直接进入 P1B 当前处理方式
markets.parquet 0.154 GiB 规范化身份、文本、答案方向和生命周期,生成紧凑 catalog
trades.parquet 26.073 GiB 原始 token 视角的逐笔成交;与 quant 逐键核对
quant.parquet 25.473 GiB answer1 方向的逐笔转换视图;核对后不与 trades 双份保存
orderfilled_part1/2.parquet 73.726 GiB 原始链上 fill 证据;P0 检查其文件与 overlap,但当前轨迹任务不读取其订单和费用字段
users.parquet 33.687 GiB maker/taker 用户展开视图;当前研究不以用户行为为预测单位,因此不进入 bars
原始目录合计 159.113 GiB 原始文件仍保留,未被处理程序覆盖或删除

因此,应使用两个不同的比例:

  • 相对全部原始目录,6.589 GiB 是 159.113 GiB 的 4.14%;
  • 相对真正进入主链的 markets + trades + quant 51.700 GiB,6.589 GiB 是其 12.74%。

原始文件和派生文件都已经使用 Parquet 的 ZSTD 压缩。规模下降的主要原因不是更换压缩 算法,而是:不复制与当前问题无关的原始视图、去除完全重复的物理记录、只保留一次 通过双表核对的逻辑成交,以及把逐笔成交聚合为稀疏 market-time 状态。

6.2 每一步保留、隔离和不再重复存储什么?

159.113 GiB 原始目录(六个文件,原样保留)
  ↓ 研究范围选择
51.700 GiB:markets + trades + quant 进入 P0/P1B 主链
  ↓ market 身份规范化;交易双表逐键核对
763,126,566(约 7.63 亿)笔可信逻辑成交
  ↓ 逐笔成交直接聚合;不物化重型 transaction relation
101,460,285(约 1.01 亿)条稀疏 market-minute bars
  ↓ 从 1 分钟基础层确定性派生
41,110,464(约 4,111.05 万)条 15 分钟 bars + 21,737,095(约 2,173.71 万)条小时 bars
  ↓ 加入紧凑 market/event catalog
6.589 GiB 多尺度 observed release

各阶段的具体变化如下:

阶段 输入到输出 删除、隔离或不再存储的内容 保留下来的研究信息
研究范围选择 六个原始文件 → markets/trades/quant orderfilled 的订单哈希、原始资产数量、maker/taker/protocol fee;users 的逐用户展开行不进入当前 bars。它们没有从原始目录删除 当前任务需要的市场目录、逐笔价格、金额、方向和身份仍在主链输入中
P0/P0.1 身份规范化 1,019,069(约 101.91 万)条 market metadata → 规范化 market/event identity 9 个无法形成有效父事件身份的 markets 标为 quarantine;不猜测或合成 event ID,其中 1 个 market 有 73 个成交键 全部 market 仍进入 market catalog,并保存 identity_statusstrict_event_eligible 和是否有可信成交
双表去重 trades 766,412,708(约 7.66 亿)行、quant 766,412,707(约 7.66 亿)行 → 两侧各自的规范交易键 两侧各有 3,286,068(约 328.61 万)条完全重复物理行不再作为独立成交计数,占各自原表约 0.429%;重复统计保存在验收报告 每个逻辑成交保留一个代表;冲突重复键为 0,因此没有在不同 payload 之间任意取舍
trades–quant 对账 去重后的两种成交视图 → 单一可信成交表示 1 个 trades-only key 不进入主数据;73 个没有有效 event 身份的 key 被隔离;quant 作为转换核对视图不再整表复制 763,126,566(约 7.63 亿)笔成交保留统一的 p_answer1、USD/token 数量和 answer1 方向;价格、金额、方向或身份硬冲突均为 0
直接分钟聚合 763,126,566(约 7.63 亿)笔可信成交 → 101,460,285(约 1.01 亿)个非空 market-minute 不物化历史重型 P1a relation;不在每个 bar 中保存交易标识、maker/taker、每笔价格/数量/方向和完整 lineage 每分钟保存 OHLC、价格×金额分子、USD/token volume、signed flow、trade count,以及首末成交的时间、区块与日志位置
稀疏时间表示 全市场日历分钟 → observed-only 分钟 没有可信成交的 market-minute 不写空行;这不是删除成交,而是以时间缺口编码无成交 任意两个 observed 时间点之间的空桶可以从 UTC 时间差恢复;Track A 另保存 mask、has_trade 和 staleness
多尺度派生 1 分钟基础层 → 15 分钟和 1 小时 在较粗视图内不保留分钟内的完整变化顺序 1 分钟基础层仍长期保留,因此 15 分钟、1 小时和更粗 observed bars 可重新确定性生成;三个尺度的 trade_count 都守恒到 763,126,566(约 7.63 亿)
Catalog 精简 原始 market metadata → market/event catalog 不重复保存 token1/token2、slug、event slug、activearchivedoutcome_pricesupdated_at 等原始字段 保存当前实验需要的 market/event 身份、问题文本、answer1/answer2、价格方向、生命周期、身份状态和轨迹摘要

这里的“隔离”与“丢弃”不同。73 个无有效 event 身份的成交没有进入严格事件级 bars, 但其异常原因和原始定位保存在 P0.1 quarantine;1 个 trades-only key 和两侧重复计数也 保存在验收证据中。原始六个文件仍在 data/raw/polymarket/,所以项目层面可以重新读取; 但只拿到 6.589 GiB release 的使用者无法反推出每一笔原始成交。

P0/P0.1 的规范化 catalog、身份表和审计 sidecars 目前另占约 0.382 GiB,它们是治理证据, 不是上述 51.700 GiB 到 6.589 GiB 之间的一份逐笔替代数据。构建过程中还会产生按交易键 前缀划分的临时 bars 和按月 merge work;只有最终月分区、守恒检查和小时等价性检查通过 后才清理这些临时副本。它们不含最终 1 分钟层之外的独立研究变量,因此清理不会再造成 业务信息损失。

6.3 6.589 GiB 内部由什么组成?

派生对象 文件大小 行数 是否含有新的独立信息
1 分钟 observed bars 3.902 GiB 101,460,285(约 1.01 亿) 是;当前长期保留的最细状态基础层
15 分钟 observed bars 1.668 GiB 41,110,464(约 4,111.05 万) 否;由 1 分钟层确定性派生,便于短期实验直接读取
1 小时 observed bars 0.928 GiB 21,737,095(约 2,173.71 万) 否;由 1 分钟层确定性派生,是 Track A/P3 主频率入口
market_catalog.parquet 0.080 GiB 1,019,069(约 101.91 万) 是;文本、命题方向、身份状态和轨迹摘要
event_catalog.parquet 0.012 GiB 379,711(约 37.97 万) 是;父事件级活动索引与汇总
验收与日志 小于 1 MiB 守恒、等价性和质量结论
合计 6.589 GiB

若只考虑不可由其他派生层重新生成的 1 分钟基础层与 catalog,核心长期数据约为 3.994 GiB。保留 15 分钟和 1 小时层是用额外磁盘换取读取效率,并不是又增加了两套 独立成交证据。另一个目录 polymarket_p1b_hourly_v0/ 保存 observed 小时层和最多延续 一小时的规则状态,共约 1.424 GiB;它与上述多尺度 release 有部分内容重叠,不属于 “6.589 GiB”本身。Track A 样本和 baseline 预测也属于后续实验产物,不计入该数字。

6.4 是否损失了研究所需信息?

结论需要按研究问题回答:它不是无损压缩,但对当前以 market 概率状态为对象的 Track A、P2 和首版 P3,损失是有意且可接受的;对逐笔微观结构、用户行为和链上订单 研究,则存在实质信息损失。

研究任务 6.589 GiB release 是否足够 判断依据与缺口
1 小时/15 分钟概率轨迹预测 足够 保存 OHLC/VWAP 所需分子、成交量、成交数、signed flow、时间缺口和命题语义;正式 Track A 已从该接口生成
跨事件预测增量与 lead-lag 对首版协议足够 P3 主频率为 1 小时,15 分钟可做短时诊断;source/target 的状态、活动性和共同活跃窗口可构造
文本检索与事件族治理 基本足够 问题、父事件标题、answer1/answer2 和身份均保留;原始 slug 与 token ID 通常不是语义检索必要字段
分钟级价格发现 部分足够 可研究分钟 OHLC、流量和成交强度,但不能恢复分钟内每笔成交的完整顺序与路径
秒级或逐笔市场微观结构 不足 缺少逐笔时间序列、单笔价格/数量/方向、交易标识和中间成交顺序,必须重读 raw trades/quant
用户行为、钱包网络、maker/taker 异质性 不足 bars 不保存 maker/taker,users.parquet 也未进入派生层
链上订单、费用和协议机制 不足 order hash、资产 ID、原始 wei 数量和各类 fee 只在 orderfilled
最终结算正确率与 outcome calibration 当前 catalog 不完全足够 closed 保留,但原始 outcome_prices 未进入紧凑 catalog;需要从 raw markets 补回并按 as_of_time 防止泄漏
对每笔成交做完整来源追溯 release 单独不足 bar 只保留首末成交位置和汇总统计;完整 transaction lineage 没有物化,需结合 raw 与扫描证据重建

还要区分“处理中损失”和“原始数据本来就没有”。当前原始包是成交与链上 fill 数据, 不包含完整的历史 order book、撤单流、逐时新闻或事件证据文本;这些能力缺口不是从 159.1 GiB 整理到 6.589 GiB 时造成的,后续需要独立数据契约补充。

对当前项目,最重要的验收不是能否从 bars 还原每一笔成交,而是:可信成交总数在三个 尺度上守恒;价格方向统一到 answer1;小时结果与从分钟层重新派生的结果逐键一致;空桶 不会被误当成零变化。上述条件均已通过。若研究问题扩展到用户、费用、逐笔响应或最终 结算,必须回到对应 raw 表,而不能把多尺度 release 当作通用无损替代品。

6.5 为什么当前研究没有使用 orderfilledusers?它们是否包含语义?

“没有进入当前 P1B bars”不等于“对 Economic World Model 没有价值”。当前版本先回答 market belief state 是否可预测,以及 source market 是否提供时间外增量,因此把基本状态 单位冻结为 market × UTC time bucketorderfilledusers 分别位于协议执行层和 参与者行为层;若直接加入,会把 target-only 时序基线、交易机制和 agent 行为三个问题 混在一起,无法判断增量来自哪里。

orderfilled_part1/2.parquet:链上成交执行语义

两个 part 是同一种表的物理分片,不是两类数据。它们合计 1,241,515,084(约 12.42 亿)条 Polygon OrderFilled 日志,覆盖 2022-11-21 至 2026-05-04。两个文件在 2026-02-23 至 2026-02-24 存在时间范围重叠,但已有 overlap audit 未发现跨 part 重复交易键。

一行表示一次合约 OrderFilled 日志,字段含义为:

字段组 字段 具体含义
链上顺序 timestampblock_numbertransaction_hashlog_index 一次 fill 在 Polygon 上发生的时间、区块、交易和日志位置
机制类型 contract 成交来自普通 CTF、NegRisk 或后续合约版本,表示不同市场机制路径
订单身份 order_hash 被撮合订单的标识,可用于研究一个订单是否分多次成交
参与地址 makertaker 挂单方和接单/撮合侧地址;其中可能包含交易所合约或代理地址,不能直接等同于两个自然人
资产流 maker_asset_idtaker_asset_id 两侧交付的资产;0 表示 USDC,非零大整数表示 outcome token
原始数量 maker_amount_filledtaker_amount_filled 合约原始精度下的成交数量;当前文件以 32-byte 整数保存,解码后才能变成 USD/token 数量
费用 maker_feetaker_feeprotocol_fee 订单双方和协议层记录的原始费用,可研究交易成本和机制变化

这张表不含自然语言语义:没有 questionevent_titleanswer1/answer2,甚至没有 直接的 market_id。它通过非 USDC asset_id → markets.token1/token2 映射后,才获得 market、event 和 outcome 方向。trades.parquet 正是这种解码和 market linkage 的后继 视图,所以对于当前价格轨迹任务,重复读取 73.726 GiB orderfilled 不会新增问题文本 或新闻证据。

但它包含 trades 和 bars 没有完整保留的交易机制语义:合约版本、订单标识、原始 资产流与费用。因此它适合订单拆分、成交机制、费用制度、NegRisk 路径和链上来源核验, 不适合作为第一版 LLM 文本语义输入。它也只有已成交订单,没有未成交挂单、撤单和完整 order book,所以即使加入,也不能直接得到真实盘口深度或买卖价差。

users.parquet:钱包角色与交易行为语义

当前本地文件有 1,233,429,330(约 12.33 亿)行,覆盖同一研究期。一行不是一个新市场事件,而是一个 钱包地址在一次成交中的一个角色视图:

链上身份:timestamp, block_number, transaction_hash, log_index
参与者:address, role = maker/taker
行为:direction = BUY/SELL, usd_amount, token_amount, price
市场连接:market_id, condition_id, event_id, nonusdc_side = token1/token2

它包含以下结构化行为语义:谁参与、是 maker 还是 taker、交易哪个 outcome token、 买还是卖、规模和价格是多少。它没有问题文本和事件标题,但可以按 market_id 连接 market_catalog,从而得到“某类钱包何时买入哪个现实命题”的联合语义。

users 主要是 trades 的参与者展开视图,而不是独立信息源。当前行数恰好是 616,714,665(约 6.17 亿)个保留成交的两倍,与 maker/taker 两角色展开一致;地址、角色和方向本来 也可从 trades 重建。它的价值在于让钱包轨迹和跨市场行为更容易查询,而不是增加新的 新闻或市场命题。

这里存在一个必须先解决的版本契约问题。数据集旧 README 和官方处理代码描述的是:过滤 部分合约侧成交、每笔成交拆成 maker/taker 两行、统一为 answer1/BUY 视角并用负数量表示 卖出;但当前本地 users.parquet 的实际 schema 使用 address 而不是 user,同时保留 BUY/SELLtoken1/token2。本地文件规模也已经高于 README 的旧统计。因此正式实验 不能只按文字说明读取它,必须从当前 trades 重新冻结转换规则,并核对每条 role-row 与 原成交的对应关系。

当前不纳入的原因与后续价值

原因 当前设计判断
研究问题不同 Track A 首先建立仅靠 target 市场状态的预测地板;钱包行为属于额外条件变量,不能预先混入 baseline
信息大多可重建 userstrades 的角色展开;orderfilled 到价格、金额和市场身份的主要转换已经进入 trades/quant
粒度与规模不同 当前主键是 market-hour;直接加入十亿级钱包或 fill 行会造成高维、稀疏且难以时间外泛化的输入
身份解释有限 一个地址不是一个经济主体,同一主体可能有多个地址,合约地址也不是普通交易者;只能声称 wallet-level 行为,不能直接声称“用户信念”
当前契约未冻结 本地 users 与旧 README/schema 不完全一致,尚无正式的 as-of wallet feature 和验收协议

这不应成为永久排除。对于 Economic World Model,建议新增一个独立的 agent-behavior / market-mechanism channel,但只物化预测时点前可见的聚合特征:

wallet activity:活跃钱包数、新进入钱包比例、maker/taker 量占比
flow concentration:头部钱包成交占比、成交量集中度、钱包流量分散度
cross-market behavior:同一钱包历史参与的市场数、跨事件净流方向、source/target 钱包重叠
mechanism:合约类型、独立订单数、每订单 fill 数、费用率、合约侧成交比例

正式比较应保持分层:

M0:target 价格与活动历史 + 公共市场状态
MB:M0 + 截止 as_of_time 的聚合 wallet/mechanism features
M1:M0 + source innovation
M1B:MB + source innovation

这样才能分别回答:行为层是否改善单市场预测、source 的增量是否只是共享交易者造成、 以及控制参与者结构后跨事件信息是否仍然存在。原始钱包地址和订单记录用于内部聚合与 核验,不作为 LLM token 直接输入,也不把钱包地址解释成自然语言语义。

证据入口

  • data/raw/polymarket/SII-WANGZJ_Polymarket_data/:六个原始文件及其字段说明;
  • runs/polymarket_p01_remediation/:身份规范化、quarantine 和原始表审计证据;
  • runs/polymarket_p1b_hourly_v0/p1b_acceptance.json:双表去重、对账、隔离与可信成交计数;
  • runs/polymarket_p1b_multiscale_v0/multiscale_acceptance.json:三尺度成交守恒与小时等价性;
  • src/econwm/impact/build_polymarket_p1b_bars.py:可信成交核对与直接聚合实现;
  • src/econwm/impact/finalize_polymarket_p1b_multiscale.py:月分区合并、粗尺度派生与临时产物清理;
  • polymarket-p1b-multiscale-v0-handoff.md:多尺度数据与验收;
  • polymarket-cross-event-scope.md:研究问题和任务边界;
  • polymarket-baseline-transfer-experiment-plan.md: EventConnector、SWM-Bench 与 P2/P3 在当前数据上的统一实验协议;
  • polymarket-track-a-p2-progress.md:正式 Track A 样本、simple baseline、P2 日历筛选与 EventConnector-compatible 数据的当前结果;
  • polymarket-p2-eventconnector-v1.md:P2 筛选、 EventConnector-compatible 字段、默认图算法与日历审计结论;
  • ../runs/polymarket_eventconnector_compatible_v1/README.md: EventConnector-compatible 10→7 数据、切分、图算法与审计结果;
  • runs/polymarket_p1b_multiscale_v0/:正式多尺度数据与 catalog;
  • runs/polymarket_fast_dataset_v0/:早期 Track A 样本格式 pilot;
  • outputs/polymarket_data_atlas_v0/:历史 catalog-first 案例页面。
  • Data Atlas v1 公开网页:当前公开数据浏览页。