Datasets:
Polymarket 当前数据审计答案
核验日期:2026-08-21
数据版本:polymarket-p1b-multiscale-v0/polymarket-track-a-v0/polymarket-p2-calendar-eventconnector-v1/polymarket-eventconnector-compatible-v1
结论状态:数据规模、字段和多尺度轨迹分布已核验,Data Atlas v1、31,949,309(约 3,194.93 万)条正式 Track A 固定日历样本与 365,015(约 36.50 万)条 EventConnector-compatible price-only 窗口已完成。
数字阅读约定:万级以上的数据规模同时保留精确值与“约 X 万/X 亿”标注;日期、比例、文件大小和标识符不作此换算。
本文回答训练前最重要的五个数据问题,并区分正式全量证据、早期 pilot 和尚未完成的 工作。研究对象首先是 market 轨迹,不是把一个父 event 下的多个 markets 直接 平均成一条轨迹。
1. 数据有多少事件、时间点和多大跨度?
1.1 研究单位
market_id:一条可交易命题及其概率轨迹,是 Track A 的基本预测单位;event_id:父事件容器,可能包含多个语义不同或相互约束的 markets;market_id × bucket_start_utc:一条时间序列观测。
全量 catalog 包含 1,019,069(约 101.91 万)个 markets;其中 897,580(约 89.76 万)个 markets 有可信成交,归属于 379,711(约 37.97 万)个有效 events。后两个数字是当前 P1B 可用于轨迹研究的主体规模。
1.2 多尺度时间点
“时间点”需要区分全局 UTC bucket 和 market-time 观测行:同一时刻可能有许多 markets 同时活跃。
| 尺度 | 不同 UTC buckets | market-time 观测行 | 起止时间(UTC) | 当前用途 |
|---|---|---|---|---|
| 1 分钟 | 1,215,098(约 121.51 万) | 101,460,285(约 1.01 亿) | 2022-11-21 19:49 至 2026-05-04 16:11 | 可继续聚合的基础层;高流动性机制分析 |
| 15 分钟 | 109,838(约 10.98 万) | 41,110,464(约 4,111.05 万) | 2022-11-21 19:45 至 2026-05-04 16:00 | 短时响应诊断 |
| 1 小时 | 29,125(约 2.91 万) | 21,737,095(约 2,173.71 万) | 2022-11-21 19:00 至 2026-05-04 16:00 | Track A、P2、P3 首版主频率 |
| 规则小时序列 | — | 30,415,016(约 3,041.50 万) | 同一研究期 | 真实成交小时加最多一小时的状态延续 |
最细尺度覆盖约 1,259.85 天,即 3.45 年。三个 observed 层只保存至少发生一笔可信 成交的 market-time bucket,不创建全市场稠密空桶。
按实际文件字节,磁盘规模为:1 分钟层 3.902 GiB、15 分钟层 1.668 GiB、1 小时层
0.928 GiB;两个 catalog 合计约 0.092 GiB。可信成交总数为 763,126,566(约 7.63 亿),三个尺度的
trade_count 汇总均与其一致。
2. 每个事件包含哪些字段,单条轨迹是什么形式?
2.1 父事件字段
event_catalog.parquet 每行对应一个有成交 event,主要字段包括:
event_id, event_title, market_count,
first_trade_hour_utc, last_trade_hour_utc, event_span_hours,
market_active_span_hours, observed_bar_count, trusted_trade_count,
usd_volume, token_volume
这里的 observed_bar_count 是该 event 下所有 market-hour 行数之和,不是一条可以直接
解释为事件概率的序列长度。
2.2 Market 元数据字段
market_catalog.parquet 每行对应一个 market,主要字段分为:
- 身份与文本:
market_id、condition_id、event_id、question、event_title; - 命题方向:
answer1、answer2、canonical_proposition、price_orientation; - 生命周期:
created_at_utc、end_date_raw_utc、首末成交小时; - 数据状态:
metadata_valid、identity_status、strict_event_eligible、has_trusted_trades; - 轨迹摘要:小时观测数、可信成交数、成交量、价格范围、活跃跨度和小时覆盖率。
价格统一表示 answer1 方向的市场概率,不能一律命名为 yes_price,因为体育和其他
非 Yes/No markets 的 answer1 可能是球队、候选人或 Over。
2.3 单条 observed bar
1 分钟、15 分钟和 1 小时 observed 层的一行具有统一结构:
bucket_start_utc, market_id, event_id,
first/last transaction time and order,
p_open, p_high, p_low, p_close,
price_x_usd, usd_volume, token_volume,
signed_usd, trade_count
1 分钟是基础层;15 分钟和 1 小时由它确定性聚合。规则小时序列进一步提供
p_vwap、delta_p、delta_logit_p、has_trade、staleness_seconds 和
gap_from_previous_trade_seconds,用于区分真实新成交和短时延续状态。
因此,一条可训练轨迹应以 market_id 为主键,按 bucket_start_utc 排序,并同时携带
父事件、命题方向、成交活动和缺失状态。event 层只能在明确命题关系和聚合规则后构造。
3. 轨迹长度、采样频率和数据量如何分布?
3.1 每个有成交 market 的 observed 点数
| 尺度 | 均值 | P25 | 中位数 | P75 | P90 | P99 | 最大值 |
|---|---|---|---|---|---|---|---|
| 1 分钟 | 113.0 | 5 | 14 | 52 | 170 | 1,397 | 122,945(约 12.29 万) |
| 15 分钟 | 45.8 | 2 | 5 | 21 | 77 | 597 | 21,405(约 2.14 万) |
| 1 小时 | 24.2 | 2 | 3 | 13 | 41 | 348 | 7,859 |
分布高度长尾。以主频率 1 小时为例,中位 market 只有 3 个真实成交小时,90% 的 markets 不超过 41 个,只有最活跃的 1% 超过约 348 个。这意味着不能对全部 markets 直接使用同一固定长窗口:Track A 必须明确最低长度、缺失 mask、流动性分层和自然 分布与高活跃子集的分别报告。
3.2 活跃跨度、交易数与父事件规模
- market 活跃跨度中位数为 6 小时,P75 为 45 小时,P90 为 162 小时,P99 为 3,113 小时;
- 每个 market 的可信成交数中位数为 66,P90 为 1,767,P99 为 11,286(约 1.13 万);
- 每个有成交 event 包含的 markets 中位数为 1,P90 为 6,P99 为 18,最大为 144;
- event 的小时 market-row 数中位数为 2,P90 为 63,P99 为 768。
因此,“一个 event 有多少时间点”没有单一答案:单 market event 可以直接使用它的 market 轨迹;多 market event 需要先区分命题类型,再决定按 market 建模、使用机械 约束,还是在验证后汇总。
3.3 频率选择
- 首版全市场预测统一使用 1 小时,控制规模并覆盖更多低流动性 markets;
- 15 分钟用于检验短时响应是否被小时聚合抹平;
- 1 分钟只用于流动性足够的代表市场和机制分析;
- 更粗频率可从 1 分钟基础层继续派生,不需要重新读取逐笔数据。
4. 当前有哪些代表性案例?
| 案例 | 当前正式轨迹证据 | 它检验的问题 |
|---|---|---|
2024 美国总统选举 Trump market (253591) |
122,945(约 12.29 万)个分钟点、17,456(约 1.75 万)个 15 分钟点、5,616 个小时点、2,749,424(约 274.94 万)笔可信成交 | 长轨迹、高流动性和同父事件互斥约束 |
Dota 2 Game 2 Winner (1776899) |
173 / 26 / 7 个多尺度点;父 event 有 137 个有成交 markets | event 是容器,不能把胜负、让分和局内统计直接平均 |
US–Iran ceasefire deadline (2036399) |
7,845 / 972 / 246 个多尺度点 | 短 deadline family、相邻命题的事件族切分,以及 catalog 日期与真实成交边界不一致 |
Seahawks vs. Patriots (1269423) |
10,190(约 1.02 万) / 1,349 / 340 个多尺度点;answer1=Seahawks |
非 Yes/No outcome 的概率方向 |
Israel–Hezbollah ceasefire (1994007) |
3,003 / 412 / 106 个多尺度点 | 原始结束时间早于创建时间时,应使用实际成交边界并保留元数据异常 |
Super Bowl 55 (115) |
无可信轨迹,event_id 缺失并被隔离 |
文本可理解不等于事件身份可验证 |
2020 Pennsylvania election (67) |
catalog 有记录,但当前可信数据中无成交轨迹 | catalog 生命周期不能代替真实可训练轨迹 |
这些案例最初已在 Data Atlas v0 中用于暴露语义边界;上表的多尺度点数来自正式 P1B。 Data Atlas v1 已把正式轨迹图、字段、轨迹摘要和样本预览整合到同一离线页面;网页 保存的是紧凑摘要和降采样轨迹,不复制亿级原始 bars。
5. 如何整理成“历史信息—预测目标”训练样本?
5.1 先纠正数据格式表述
当前原始和派生数据主体是 Parquet,不是原始 JSON。训练接口可以根据模型需要导出 Parquet、JSONL 或张量,但不能把文件格式与样本语义混为一谈。
5.2 已完成的 pilot
runs/polymarket_fast_dataset_v0/ 已经证明 history–future 形式可以物化。它使用早期
约 1.5625% 的成交样本构造 observed-day bars,并产生:
- 1,033,390(约 103.34 万)条日频 market observations;
- 481,077(约 48.11 万)个 markets、303,037(约 30.30 万)个 events;
- 6,227 个满足 pilot 长度条件的 markets;
- 14,440(约 1.44 万)条
10 observed points → 7 future points样本; - train / validation / test 分别为 5,877 / 1,209 / 7,354 条;
- 一个 last-observation persistence 结果:test MAE 为 0.0441,RMSE 为 0.1002。
pilot 样本字段已经包括:
sample_id, market_id, event_id, as_of_time,
history_times_utc, history_p_answer1,
target_times_utc, target_p_answer1,
history_span_days, target_span_days, split
它验证了格式,但不是正式 Track A 数据集:输入来自成交样本而非当前全量 P1B;日频 只保留有成交日期,所以“10 个历史点”和“7 个未来点”对应的日历跨度会随 market 变化,不是固定 horizon;只有简单时间切分,没有事件族隔离;也没有纳入成交量、 staleness、mask 和公共市场状态。
5.3 正式 Track A 样本采用的结构
正式版本已经从 P1B 规则小时序列构造。窗口文件只保存训练所需的数值状态和身份;
问题文本、父事件标题和答案方向按 market_id 从 market_catalog.parquet 连接,避免在
3,194.93 万条窗口中重复存储:
身份:sample_id, protocol, market_id, event_id, event_family_id
边界:as_of_time, temporal_split, cold_family_eligible,
market_continuation_eligible
协议:history_steps, horizons
历史:history_p_answer1, history_has_trade, history_usd_volume,
history_trade_count, history_signed_usd, history_staleness_seconds
目标:target_p_answer1, target_mask
诊断:history_mask, history_valid_count, target_valid_count, dense_window
外部连接:question, event_title, answer1, answer2(来自 market catalog)
输入只包含 as_of_time 及之前的信息;完整 target path 必须处于同一时间 split。
父 event 级 family v0 已用于 cold-family 视图,跨 event 的同义改写和相邻 deadline
仍需经 P2 审核后形成 family v1。公共市场状态是 P3 的计划输入,当前尚未物化到 Track A
窗口中。
5.4 当前完成边界
| 问题 | 当前状态 |
|---|---|
| 全量规模、字段、时间范围 | 已完成并通过 P1B 验收 |
| 多尺度轨迹长度与数据量分布 | 已完成统计并进入 Data Atlas v1 |
| 代表案例 | 已有案例集和正式多尺度点数,Data Atlas v1 网页已完成 |
| history–future 格式 | 正式 A-H/A-D/A-S 固定日历格式已完成 |
| 全量正式 Track A 样本 | 已完成,共 31,949,309(约 3,194.93 万)条 |
| 事件族切分、统一指标和 baseline 复现 | 父 event family v0 与 deterministic simple baseline 已完成;语义 family v1、训练型 baseline 待完成 |
| EventConnector-compatible 数据 | 已生成 227,161(约 22.72 万)条 train 与 137,854(约 13.79 万)条 test 的无新闻 10→7 JSONL;默认 500-record 图包含 62,272 条共波动边和 920 条 DTW 边,另有 109 条严格日历对齐审计候选 |
| P2 候选边与 P3 跨事件训练样本 | P2 seed 43,971(约 4.40 万)条、宽相关候选 19,432(约 1.94 万)条、优先审核 event pairs 1,225 对;P3 未开始 |
因此,当前阶段已经从“冻结正式样本协议”推进到“训练型 baseline、检索消融和 P2 候选审核”。EventConnector 的数据格式适配与默认相关图审计已经完成,下一项直接交付应是 ridge/Linear/NLinear/DLinear、固定预测器下的 EventConnector 检索增量比较和 P2 人工审核,而不是立即 训练 7B 模型。默认图的 62,020 条跨事件共波动边中,有 57,727 条(93.1%)的窗口日历 完全不重叠,所以它们只能作为算法审计与检索候选,不能作为关系标签。
6. 原始 159.1 GiB 为什么可以整理成 6.59 GiB?
6.1 先纠正规模口径:不是把全部原始文件直接压缩 24 倍
本地原始目录的六个数据文件合计 170.846 GB,即 159.113 GiB。当前所说的“约
6.7 GB”对应 runs/polymarket_p1b_multiscale_v0/ 中的多尺度 observed bars 与两个
catalog;按实际文件字节计算为 7.075 GB,即 6.589 GiB。两者不能只用一个压缩比概括,
因为原始目录中有 107.413 GiB 并未进入 P1B 市场轨迹主链。
| 原始对象 | 实际大小 | 是否直接进入 P1B | 当前处理方式 |
|---|---|---|---|
markets.parquet |
0.154 GiB | 是 | 规范化身份、文本、答案方向和生命周期,生成紧凑 catalog |
trades.parquet |
26.073 GiB | 是 | 原始 token 视角的逐笔成交;与 quant 逐键核对 |
quant.parquet |
25.473 GiB | 是 | answer1 方向的逐笔转换视图;核对后不与 trades 双份保存 |
orderfilled_part1/2.parquet |
73.726 GiB | 否 | 原始链上 fill 证据;P0 检查其文件与 overlap,但当前轨迹任务不读取其订单和费用字段 |
users.parquet |
33.687 GiB | 否 | maker/taker 用户展开视图;当前研究不以用户行为为预测单位,因此不进入 bars |
| 原始目录合计 | 159.113 GiB | — | 原始文件仍保留,未被处理程序覆盖或删除 |
因此,应使用两个不同的比例:
- 相对全部原始目录,6.589 GiB 是 159.113 GiB 的 4.14%;
- 相对真正进入主链的
markets + trades + quant51.700 GiB,6.589 GiB 是其 12.74%。
原始文件和派生文件都已经使用 Parquet 的 ZSTD 压缩。规模下降的主要原因不是更换压缩 算法,而是:不复制与当前问题无关的原始视图、去除完全重复的物理记录、只保留一次 通过双表核对的逻辑成交,以及把逐笔成交聚合为稀疏 market-time 状态。
6.2 每一步保留、隔离和不再重复存储什么?
159.113 GiB 原始目录(六个文件,原样保留)
↓ 研究范围选择
51.700 GiB:markets + trades + quant 进入 P0/P1B 主链
↓ market 身份规范化;交易双表逐键核对
763,126,566(约 7.63 亿)笔可信逻辑成交
↓ 逐笔成交直接聚合;不物化重型 transaction relation
101,460,285(约 1.01 亿)条稀疏 market-minute bars
↓ 从 1 分钟基础层确定性派生
41,110,464(约 4,111.05 万)条 15 分钟 bars + 21,737,095(约 2,173.71 万)条小时 bars
↓ 加入紧凑 market/event catalog
6.589 GiB 多尺度 observed release
各阶段的具体变化如下:
| 阶段 | 输入到输出 | 删除、隔离或不再存储的内容 | 保留下来的研究信息 |
|---|---|---|---|
| 研究范围选择 | 六个原始文件 → markets/trades/quant |
orderfilled 的订单哈希、原始资产数量、maker/taker/protocol fee;users 的逐用户展开行不进入当前 bars。它们没有从原始目录删除 |
当前任务需要的市场目录、逐笔价格、金额、方向和身份仍在主链输入中 |
| P0/P0.1 身份规范化 | 1,019,069(约 101.91 万)条 market metadata → 规范化 market/event identity | 9 个无法形成有效父事件身份的 markets 标为 quarantine;不猜测或合成 event ID,其中 1 个 market 有 73 个成交键 | 全部 market 仍进入 market catalog,并保存 identity_status、strict_event_eligible 和是否有可信成交 |
| 双表去重 | trades 766,412,708(约 7.66 亿)行、quant 766,412,707(约 7.66 亿)行 → 两侧各自的规范交易键 | 两侧各有 3,286,068(约 328.61 万)条完全重复物理行不再作为独立成交计数,占各自原表约 0.429%;重复统计保存在验收报告 | 每个逻辑成交保留一个代表;冲突重复键为 0,因此没有在不同 payload 之间任意取舍 |
| trades–quant 对账 | 去重后的两种成交视图 → 单一可信成交表示 | 1 个 trades-only key 不进入主数据;73 个没有有效 event 身份的 key 被隔离;quant 作为转换核对视图不再整表复制 | 763,126,566(约 7.63 亿)笔成交保留统一的 p_answer1、USD/token 数量和 answer1 方向;价格、金额、方向或身份硬冲突均为 0 |
| 直接分钟聚合 | 763,126,566(约 7.63 亿)笔可信成交 → 101,460,285(约 1.01 亿)个非空 market-minute | 不物化历史重型 P1a relation;不在每个 bar 中保存交易标识、maker/taker、每笔价格/数量/方向和完整 lineage | 每分钟保存 OHLC、价格×金额分子、USD/token volume、signed flow、trade count,以及首末成交的时间、区块与日志位置 |
| 稀疏时间表示 | 全市场日历分钟 → observed-only 分钟 | 没有可信成交的 market-minute 不写空行;这不是删除成交,而是以时间缺口编码无成交 | 任意两个 observed 时间点之间的空桶可以从 UTC 时间差恢复;Track A 另保存 mask、has_trade 和 staleness |
| 多尺度派生 | 1 分钟基础层 → 15 分钟和 1 小时 | 在较粗视图内不保留分钟内的完整变化顺序 | 1 分钟基础层仍长期保留,因此 15 分钟、1 小时和更粗 observed bars 可重新确定性生成;三个尺度的 trade_count 都守恒到 763,126,566(约 7.63 亿) |
| Catalog 精简 | 原始 market metadata → market/event catalog | 不重复保存 token1/token2、slug、event slug、active、archived、outcome_prices、updated_at 等原始字段 |
保存当前实验需要的 market/event 身份、问题文本、answer1/answer2、价格方向、生命周期、身份状态和轨迹摘要 |
这里的“隔离”与“丢弃”不同。73 个无有效 event 身份的成交没有进入严格事件级 bars,
但其异常原因和原始定位保存在 P0.1 quarantine;1 个 trades-only key 和两侧重复计数也
保存在验收证据中。原始六个文件仍在 data/raw/polymarket/,所以项目层面可以重新读取;
但只拿到 6.589 GiB release 的使用者无法反推出每一笔原始成交。
P0/P0.1 的规范化 catalog、身份表和审计 sidecars 目前另占约 0.382 GiB,它们是治理证据, 不是上述 51.700 GiB 到 6.589 GiB 之间的一份逐笔替代数据。构建过程中还会产生按交易键 前缀划分的临时 bars 和按月 merge work;只有最终月分区、守恒检查和小时等价性检查通过 后才清理这些临时副本。它们不含最终 1 分钟层之外的独立研究变量,因此清理不会再造成 业务信息损失。
6.3 6.589 GiB 内部由什么组成?
| 派生对象 | 文件大小 | 行数 | 是否含有新的独立信息 |
|---|---|---|---|
| 1 分钟 observed bars | 3.902 GiB | 101,460,285(约 1.01 亿) | 是;当前长期保留的最细状态基础层 |
| 15 分钟 observed bars | 1.668 GiB | 41,110,464(约 4,111.05 万) | 否;由 1 分钟层确定性派生,便于短期实验直接读取 |
| 1 小时 observed bars | 0.928 GiB | 21,737,095(约 2,173.71 万) | 否;由 1 分钟层确定性派生,是 Track A/P3 主频率入口 |
market_catalog.parquet |
0.080 GiB | 1,019,069(约 101.91 万) | 是;文本、命题方向、身份状态和轨迹摘要 |
event_catalog.parquet |
0.012 GiB | 379,711(约 37.97 万) | 是;父事件级活动索引与汇总 |
| 验收与日志 | 小于 1 MiB | — | 守恒、等价性和质量结论 |
| 合计 | 6.589 GiB | — | — |
若只考虑不可由其他派生层重新生成的 1 分钟基础层与 catalog,核心长期数据约为
3.994 GiB。保留 15 分钟和 1 小时层是用额外磁盘换取读取效率,并不是又增加了两套
独立成交证据。另一个目录 polymarket_p1b_hourly_v0/ 保存 observed 小时层和最多延续
一小时的规则状态,共约 1.424 GiB;它与上述多尺度 release 有部分内容重叠,不属于
“6.589 GiB”本身。Track A 样本和 baseline 预测也属于后续实验产物,不计入该数字。
6.4 是否损失了研究所需信息?
结论需要按研究问题回答:它不是无损压缩,但对当前以 market 概率状态为对象的 Track A、P2 和首版 P3,损失是有意且可接受的;对逐笔微观结构、用户行为和链上订单 研究,则存在实质信息损失。
| 研究任务 | 6.589 GiB release 是否足够 | 判断依据与缺口 |
|---|---|---|
| 1 小时/15 分钟概率轨迹预测 | 足够 | 保存 OHLC/VWAP 所需分子、成交量、成交数、signed flow、时间缺口和命题语义;正式 Track A 已从该接口生成 |
| 跨事件预测增量与 lead-lag | 对首版协议足够 | P3 主频率为 1 小时,15 分钟可做短时诊断;source/target 的状态、活动性和共同活跃窗口可构造 |
| 文本检索与事件族治理 | 基本足够 | 问题、父事件标题、answer1/answer2 和身份均保留;原始 slug 与 token ID 通常不是语义检索必要字段 |
| 分钟级价格发现 | 部分足够 | 可研究分钟 OHLC、流量和成交强度,但不能恢复分钟内每笔成交的完整顺序与路径 |
| 秒级或逐笔市场微观结构 | 不足 | 缺少逐笔时间序列、单笔价格/数量/方向、交易标识和中间成交顺序,必须重读 raw trades/quant |
| 用户行为、钱包网络、maker/taker 异质性 | 不足 | bars 不保存 maker/taker,users.parquet 也未进入派生层 |
| 链上订单、费用和协议机制 | 不足 | order hash、资产 ID、原始 wei 数量和各类 fee 只在 orderfilled 中 |
| 最终结算正确率与 outcome calibration | 当前 catalog 不完全足够 | closed 保留,但原始 outcome_prices 未进入紧凑 catalog;需要从 raw markets 补回并按 as_of_time 防止泄漏 |
| 对每笔成交做完整来源追溯 | release 单独不足 | bar 只保留首末成交位置和汇总统计;完整 transaction lineage 没有物化,需结合 raw 与扫描证据重建 |
还要区分“处理中损失”和“原始数据本来就没有”。当前原始包是成交与链上 fill 数据, 不包含完整的历史 order book、撤单流、逐时新闻或事件证据文本;这些能力缺口不是从 159.1 GiB 整理到 6.589 GiB 时造成的,后续需要独立数据契约补充。
对当前项目,最重要的验收不是能否从 bars 还原每一笔成交,而是:可信成交总数在三个 尺度上守恒;价格方向统一到 answer1;小时结果与从分钟层重新派生的结果逐键一致;空桶 不会被误当成零变化。上述条件均已通过。若研究问题扩展到用户、费用、逐笔响应或最终 结算,必须回到对应 raw 表,而不能把多尺度 release 当作通用无损替代品。
6.5 为什么当前研究没有使用 orderfilled 和 users?它们是否包含语义?
“没有进入当前 P1B bars”不等于“对 Economic World Model 没有价值”。当前版本先回答
market belief state 是否可预测,以及 source market 是否提供时间外增量,因此把基本状态
单位冻结为 market × UTC time bucket。orderfilled 和 users 分别位于协议执行层和
参与者行为层;若直接加入,会把 target-only 时序基线、交易机制和 agent 行为三个问题
混在一起,无法判断增量来自哪里。
orderfilled_part1/2.parquet:链上成交执行语义
两个 part 是同一种表的物理分片,不是两类数据。它们合计 1,241,515,084(约 12.42 亿)条 Polygon
OrderFilled 日志,覆盖 2022-11-21 至 2026-05-04。两个文件在 2026-02-23 至
2026-02-24 存在时间范围重叠,但已有 overlap audit 未发现跨 part 重复交易键。
一行表示一次合约 OrderFilled 日志,字段含义为:
| 字段组 | 字段 | 具体含义 |
|---|---|---|
| 链上顺序 | timestamp、block_number、transaction_hash、log_index |
一次 fill 在 Polygon 上发生的时间、区块、交易和日志位置 |
| 机制类型 | contract |
成交来自普通 CTF、NegRisk 或后续合约版本,表示不同市场机制路径 |
| 订单身份 | order_hash |
被撮合订单的标识,可用于研究一个订单是否分多次成交 |
| 参与地址 | maker、taker |
挂单方和接单/撮合侧地址;其中可能包含交易所合约或代理地址,不能直接等同于两个自然人 |
| 资产流 | maker_asset_id、taker_asset_id |
两侧交付的资产;0 表示 USDC,非零大整数表示 outcome token |
| 原始数量 | maker_amount_filled、taker_amount_filled |
合约原始精度下的成交数量;当前文件以 32-byte 整数保存,解码后才能变成 USD/token 数量 |
| 费用 | maker_fee、taker_fee、protocol_fee |
订单双方和协议层记录的原始费用,可研究交易成本和机制变化 |
这张表不含自然语言语义:没有 question、event_title、answer1/answer2,甚至没有
直接的 market_id。它通过非 USDC asset_id → markets.token1/token2 映射后,才获得
market、event 和 outcome 方向。trades.parquet 正是这种解码和 market linkage 的后继
视图,所以对于当前价格轨迹任务,重复读取 73.726 GiB orderfilled 不会新增问题文本
或新闻证据。
但它包含 trades 和 bars 没有完整保留的交易机制语义:合约版本、订单标识、原始
资产流与费用。因此它适合订单拆分、成交机制、费用制度、NegRisk 路径和链上来源核验,
不适合作为第一版 LLM 文本语义输入。它也只有已成交订单,没有未成交挂单、撤单和完整
order book,所以即使加入,也不能直接得到真实盘口深度或买卖价差。
users.parquet:钱包角色与交易行为语义
当前本地文件有 1,233,429,330(约 12.33 亿)行,覆盖同一研究期。一行不是一个新市场事件,而是一个 钱包地址在一次成交中的一个角色视图:
链上身份:timestamp, block_number, transaction_hash, log_index
参与者:address, role = maker/taker
行为:direction = BUY/SELL, usd_amount, token_amount, price
市场连接:market_id, condition_id, event_id, nonusdc_side = token1/token2
它包含以下结构化行为语义:谁参与、是 maker 还是 taker、交易哪个 outcome token、
买还是卖、规模和价格是多少。它没有问题文本和事件标题,但可以按 market_id 连接
market_catalog,从而得到“某类钱包何时买入哪个现实命题”的联合语义。
users 主要是 trades 的参与者展开视图,而不是独立信息源。当前行数恰好是
616,714,665(约 6.17 亿)个保留成交的两倍,与 maker/taker 两角色展开一致;地址、角色和方向本来
也可从 trades 重建。它的价值在于让钱包轨迹和跨市场行为更容易查询,而不是增加新的
新闻或市场命题。
这里存在一个必须先解决的版本契约问题。数据集旧 README 和官方处理代码描述的是:过滤
部分合约侧成交、每笔成交拆成 maker/taker 两行、统一为 answer1/BUY 视角并用负数量表示
卖出;但当前本地 users.parquet 的实际 schema 使用 address 而不是 user,同时保留
BUY/SELL 和 token1/token2。本地文件规模也已经高于 README 的旧统计。因此正式实验
不能只按文字说明读取它,必须从当前 trades 重新冻结转换规则,并核对每条 role-row 与
原成交的对应关系。
当前不纳入的原因与后续价值
| 原因 | 当前设计判断 |
|---|---|
| 研究问题不同 | Track A 首先建立仅靠 target 市场状态的预测地板;钱包行为属于额外条件变量,不能预先混入 baseline |
| 信息大多可重建 | users 是 trades 的角色展开;orderfilled 到价格、金额和市场身份的主要转换已经进入 trades/quant |
| 粒度与规模不同 | 当前主键是 market-hour;直接加入十亿级钱包或 fill 行会造成高维、稀疏且难以时间外泛化的输入 |
| 身份解释有限 | 一个地址不是一个经济主体,同一主体可能有多个地址,合约地址也不是普通交易者;只能声称 wallet-level 行为,不能直接声称“用户信念” |
| 当前契约未冻结 | 本地 users 与旧 README/schema 不完全一致,尚无正式的 as-of wallet feature 和验收协议 |
这不应成为永久排除。对于 Economic World Model,建议新增一个独立的 agent-behavior / market-mechanism channel,但只物化预测时点前可见的聚合特征:
wallet activity:活跃钱包数、新进入钱包比例、maker/taker 量占比
flow concentration:头部钱包成交占比、成交量集中度、钱包流量分散度
cross-market behavior:同一钱包历史参与的市场数、跨事件净流方向、source/target 钱包重叠
mechanism:合约类型、独立订单数、每订单 fill 数、费用率、合约侧成交比例
正式比较应保持分层:
M0:target 价格与活动历史 + 公共市场状态
MB:M0 + 截止 as_of_time 的聚合 wallet/mechanism features
M1:M0 + source innovation
M1B:MB + source innovation
这样才能分别回答:行为层是否改善单市场预测、source 的增量是否只是共享交易者造成、 以及控制参与者结构后跨事件信息是否仍然存在。原始钱包地址和订单记录用于内部聚合与 核验,不作为 LLM token 直接输入,也不把钱包地址解释成自然语言语义。
证据入口
data/raw/polymarket/SII-WANGZJ_Polymarket_data/:六个原始文件及其字段说明;runs/polymarket_p01_remediation/:身份规范化、quarantine 和原始表审计证据;runs/polymarket_p1b_hourly_v0/p1b_acceptance.json:双表去重、对账、隔离与可信成交计数;runs/polymarket_p1b_multiscale_v0/multiscale_acceptance.json:三尺度成交守恒与小时等价性;src/econwm/impact/build_polymarket_p1b_bars.py:可信成交核对与直接聚合实现;src/econwm/impact/finalize_polymarket_p1b_multiscale.py:月分区合并、粗尺度派生与临时产物清理;polymarket-p1b-multiscale-v0-handoff.md:多尺度数据与验收;polymarket-cross-event-scope.md:研究问题和任务边界;polymarket-baseline-transfer-experiment-plan.md: EventConnector、SWM-Bench 与 P2/P3 在当前数据上的统一实验协议;polymarket-track-a-p2-progress.md:正式 Track A 样本、simple baseline、P2 日历筛选与 EventConnector-compatible 数据的当前结果;polymarket-p2-eventconnector-v1.md:P2 筛选、 EventConnector-compatible 字段、默认图算法与日历审计结论;../runs/polymarket_eventconnector_compatible_v1/README.md: EventConnector-compatible10→7数据、切分、图算法与审计结果;runs/polymarket_p1b_multiscale_v0/:正式多尺度数据与 catalog;runs/polymarket_fast_dataset_v0/:早期 Track A 样本格式 pilot;outputs/polymarket_data_atlas_v0/:历史 catalog-first 案例页面。- Data Atlas v1 公开网页:当前公开数据浏览页。