docs/polymarket-data-audit-current.md

# Polymarket 当前数据审计答案

> 核验日期：2026-08-21  
> 数据版本：`polymarket-p1b-multiscale-v0` / `polymarket-track-a-v0` /
> `polymarket-p2-calendar-eventconnector-v1` / `polymarket-eventconnector-compatible-v1`  
> 结论状态：数据规模、字段和多尺度轨迹分布已核验，Data Atlas v1、31,949,309（约 3,194.93 万）条正式 Track A 固定日历样本与 365,015（约 36.50 万）条 EventConnector-compatible price-only 窗口已完成。  
> 数字阅读约定：万级以上的数据规模同时保留精确值与“约 X 万／X 亿”标注；日期、比例、文件大小和标识符不作此换算。

本文回答训练前最重要的五个数据问题，并区分正式全量证据、早期 pilot 和尚未完成的
工作。研究对象首先是 **market 轨迹**，不是把一个父 event 下的多个 markets 直接
平均成一条轨迹。

## 1. 数据有多少事件、时间点和多大跨度？

### 1.1 研究单位

- `market_id`：一条可交易命题及其概率轨迹，是 Track A 的基本预测单位；
- `event_id`：父事件容器，可能包含多个语义不同或相互约束的 markets；
- `market_id × bucket_start_utc`：一条时间序列观测。

全量 catalog 包含 1,019,069（约 101.91 万）个 markets；其中 897,580（约 89.76 万）个 markets 有可信成交，归属于
379,711（约 37.97 万）个有效 events。后两个数字是当前 P1B 可用于轨迹研究的主体规模。

### 1.2 多尺度时间点

“时间点”需要区分全局 UTC bucket 和 market-time 观测行：同一时刻可能有许多 markets
同时活跃。

| 尺度 | 不同 UTC buckets | market-time 观测行 | 起止时间（UTC） | 当前用途 |
| --- | ---: | ---: | --- | --- |
| 1 分钟 | 1,215,098（约 121.51 万） | 101,460,285（约 1.01 亿） | 2022-11-21 19:49 至 2026-05-04 16:11 | 可继续聚合的基础层；高流动性机制分析 |
| 15 分钟 | 109,838（约 10.98 万） | 41,110,464（约 4,111.05 万） | 2022-11-21 19:45 至 2026-05-04 16:00 | 短时响应诊断 |
| 1 小时 | 29,125（约 2.91 万） | 21,737,095（约 2,173.71 万） | 2022-11-21 19:00 至 2026-05-04 16:00 | Track A、P2、P3 首版主频率 |
| 规则小时序列 | — | 30,415,016（约 3,041.50 万） | 同一研究期 | 真实成交小时加最多一小时的状态延续 |

最细尺度覆盖约 1,259.85 天，即 3.45 年。三个 observed 层只保存至少发生一笔可信
成交的 market-time bucket，不创建全市场稠密空桶。

按实际文件字节，磁盘规模为：1 分钟层 3.902 GiB、15 分钟层 1.668 GiB、1 小时层
0.928 GiB；两个 catalog 合计约 0.092 GiB。可信成交总数为 763,126,566（约 7.63 亿），三个尺度的
`trade_count` 汇总均与其一致。

## 2. 每个事件包含哪些字段，单条轨迹是什么形式？

### 2.1 父事件字段

`event_catalog.parquet` 每行对应一个有成交 event，主要字段包括：

```text
event_id, event_title, market_count,
first_trade_hour_utc, last_trade_hour_utc, event_span_hours,
market_active_span_hours, observed_bar_count, trusted_trade_count,
usd_volume, token_volume
```

这里的 `observed_bar_count` 是该 event 下所有 market-hour 行数之和，不是一条可以直接
解释为事件概率的序列长度。

### 2.2 Market 元数据字段

`market_catalog.parquet` 每行对应一个 market，主要字段分为：

- 身份与文本：`market_id`、`condition_id`、`event_id`、`question`、`event_title`；
- 命题方向：`answer1`、`answer2`、`canonical_proposition`、`price_orientation`；
- 生命周期：`created_at_utc`、`end_date_raw_utc`、首末成交小时；
- 数据状态：`metadata_valid`、`identity_status`、`strict_event_eligible`、
  `has_trusted_trades`；
- 轨迹摘要：小时观测数、可信成交数、成交量、价格范围、活跃跨度和小时覆盖率。

价格统一表示 `answer1` 方向的市场概率，不能一律命名为 `yes_price`，因为体育和其他
非 Yes/No markets 的 `answer1` 可能是球队、候选人或 Over。

### 2.3 单条 observed bar

1 分钟、15 分钟和 1 小时 observed 层的一行具有统一结构：

```text
bucket_start_utc, market_id, event_id,
first/last transaction time and order,
p_open, p_high, p_low, p_close,
price_x_usd, usd_volume, token_volume,
signed_usd, trade_count
```

1 分钟是基础层；15 分钟和 1 小时由它确定性聚合。规则小时序列进一步提供
`p_vwap`、`delta_p`、`delta_logit_p`、`has_trade`、`staleness_seconds` 和
`gap_from_previous_trade_seconds`，用于区分真实新成交和短时延续状态。

因此，一条可训练轨迹应以 `market_id` 为主键，按 `bucket_start_utc` 排序，并同时携带
父事件、命题方向、成交活动和缺失状态。event 层只能在明确命题关系和聚合规则后构造。

## 3. 轨迹长度、采样频率和数据量如何分布？

### 3.1 每个有成交 market 的 observed 点数

| 尺度 | 均值 | P25 | 中位数 | P75 | P90 | P99 | 最大值 |
| --- | ---: | ---: | ---: | ---: | ---: | ---: | ---: |
| 1 分钟 | 113.0 | 5 | 14 | 52 | 170 | 1,397 | 122,945（约 12.29 万） |
| 15 分钟 | 45.8 | 2 | 5 | 21 | 77 | 597 | 21,405（约 2.14 万） |
| 1 小时 | 24.2 | 2 | 3 | 13 | 41 | 348 | 7,859 |

分布高度长尾。以主频率 1 小时为例，中位 market 只有 3 个真实成交小时，90% 的
markets 不超过 41 个，只有最活跃的 1% 超过约 348 个。这意味着不能对全部 markets
直接使用同一固定长窗口：Track A 必须明确最低长度、缺失 mask、流动性分层和自然
分布与高活跃子集的分别报告。

### 3.2 活跃跨度、交易数与父事件规模

- market 活跃跨度中位数为 6 小时，P75 为 45 小时，P90 为 162 小时，P99 为
  3,113 小时；
- 每个 market 的可信成交数中位数为 66，P90 为 1,767，P99 为 11,286（约 1.13 万）；
- 每个有成交 event 包含的 markets 中位数为 1，P90 为 6，P99 为 18，最大为 144；
- event 的小时 market-row 数中位数为 2，P90 为 63，P99 为 768。

因此，“一个 event 有多少时间点”没有单一答案：单 market event 可以直接使用它的
market 轨迹；多 market event 需要先区分命题类型，再决定按 market 建模、使用机械
约束，还是在验证后汇总。

### 3.3 频率选择

- 首版全市场预测统一使用 1 小时，控制规模并覆盖更多低流动性 markets；
- 15 分钟用于检验短时响应是否被小时聚合抹平；
- 1 分钟只用于流动性足够的代表市场和机制分析；
- 更粗频率可从 1 分钟基础层继续派生，不需要重新读取逐笔数据。

## 4. 当前有哪些代表性案例？

| 案例 | 当前正式轨迹证据 | 它检验的问题 |
| --- | --- | --- |
| 2024 美国总统选举 Trump market (`253591`) | 122,945（约 12.29 万）个分钟点、17,456（约 1.75 万）个 15 分钟点、5,616 个小时点、2,749,424（约 274.94 万）笔可信成交 | 长轨迹、高流动性和同父事件互斥约束 |
| Dota 2 Game 2 Winner (`1776899`) | 173 / 26 / 7 个多尺度点；父 event 有 137 个有成交 markets | event 是容器，不能把胜负、让分和局内统计直接平均 |
| US–Iran ceasefire deadline (`2036399`) | 7,845 / 972 / 246 个多尺度点 | 短 deadline family、相邻命题的事件族切分，以及 catalog 日期与真实成交边界不一致 |
| Seahawks vs. Patriots (`1269423`) | 10,190（约 1.02 万） / 1,349 / 340 个多尺度点；`answer1=Seahawks` | 非 Yes/No outcome 的概率方向 |
| Israel–Hezbollah ceasefire (`1994007`) | 3,003 / 412 / 106 个多尺度点 | 原始结束时间早于创建时间时，应使用实际成交边界并保留元数据异常 |
| Super Bowl 55 (`115`) | 无可信轨迹，`event_id` 缺失并被隔离 | 文本可理解不等于事件身份可验证 |
| 2020 Pennsylvania election (`67`) | catalog 有记录，但当前可信数据中无成交轨迹 | catalog 生命周期不能代替真实可训练轨迹 |

这些案例最初已在 Data Atlas v0 中用于暴露语义边界；上表的多尺度点数来自正式 P1B。
Data Atlas v1 已把正式轨迹图、字段、轨迹摘要和样本预览整合到同一离线页面；网页
保存的是紧凑摘要和降采样轨迹，不复制亿级原始 bars。

## 5. 如何整理成“历史信息—预测目标”训练样本？

### 5.1 先纠正数据格式表述

当前原始和派生数据主体是 Parquet，不是原始 JSON。训练接口可以根据模型需要导出
Parquet、JSONL 或张量，但不能把文件格式与样本语义混为一谈。

### 5.2 已完成的 pilot

`runs/polymarket_fast_dataset_v0/` 已经证明 history–future 形式可以物化。它使用早期
约 1.5625% 的成交样本构造 observed-day bars，并产生：

- 1,033,390（约 103.34 万）条日频 market observations；
- 481,077（约 48.11 万）个 markets、303,037（约 30.30 万）个 events；
- 6,227 个满足 pilot 长度条件的 markets；
- 14,440（约 1.44 万）条 `10 observed points → 7 future points` 样本；
- train / validation / test 分别为 5,877 / 1,209 / 7,354 条；
- 一个 last-observation persistence 结果：test MAE 为 0.0441，RMSE 为 0.1002。

pilot 样本字段已经包括：

```text
sample_id, market_id, event_id, as_of_time,
history_times_utc, history_p_answer1,
target_times_utc, target_p_answer1,
history_span_days, target_span_days, split
```

它验证了格式，但不是正式 Track A 数据集：输入来自成交样本而非当前全量 P1B；日频
只保留有成交日期，所以“10 个历史点”和“7 个未来点”对应的日历跨度会随 market
变化，不是固定 horizon；只有简单时间切分，没有事件族隔离；也没有纳入成交量、
staleness、mask 和公共市场状态。

### 5.3 正式 Track A 样本采用的结构

正式版本已经从 P1B 规则小时序列构造。窗口文件只保存训练所需的数值状态和身份；
问题文本、父事件标题和答案方向按 `market_id` 从 `market_catalog.parquet` 连接，避免在
3,194.93 万条窗口中重复存储：

```text
身份：sample_id, protocol, market_id, event_id, event_family_id
边界：as_of_time, temporal_split, cold_family_eligible,
      market_continuation_eligible
协议：history_steps, horizons
历史：history_p_answer1, history_has_trade, history_usd_volume,
      history_trade_count, history_signed_usd, history_staleness_seconds
目标：target_p_answer1, target_mask
诊断：history_mask, history_valid_count, target_valid_count, dense_window
外部连接：question, event_title, answer1, answer2（来自 market catalog）
```

输入只包含 `as_of_time` 及之前的信息；完整 target path 必须处于同一时间 split。
父 event 级 family v0 已用于 cold-family 视图，跨 event 的同义改写和相邻 deadline
仍需经 P2 审核后形成 family v1。公共市场状态是 P3 的计划输入，当前尚未物化到 Track A
窗口中。

### 5.4 当前完成边界

| 问题 | 当前状态 |
| --- | --- |
| 全量规模、字段、时间范围 | 已完成并通过 P1B 验收 |
| 多尺度轨迹长度与数据量分布 | 已完成统计并进入 Data Atlas v1 |
| 代表案例 | 已有案例集和正式多尺度点数，Data Atlas v1 网页已完成 |
| history–future 格式 | 正式 A-H/A-D/A-S 固定日历格式已完成 |
| 全量正式 Track A 样本 | 已完成，共 31,949,309（约 3,194.93 万）条 |
| 事件族切分、统一指标和 baseline 复现 | 父 event family v0 与 deterministic simple baseline 已完成；语义 family v1、训练型 baseline 待完成 |
| EventConnector-compatible 数据 | 已生成 227,161（约 22.72 万）条 train 与 137,854（约 13.79 万）条 test 的无新闻 `10→7` JSONL；默认 500-record 图包含 62,272 条共波动边和 920 条 DTW 边，另有 109 条严格日历对齐审计候选 |
| P2 候选边与 P3 跨事件训练样本 | P2 seed 43,971（约 4.40 万）条、宽相关候选 19,432（约 1.94 万）条、优先审核 event pairs 1,225 对；P3 未开始 |

因此，当前阶段已经从“冻结正式样本协议”推进到“训练型 baseline、检索消融和 P2
候选审核”。EventConnector 的数据格式适配与默认相关图审计已经完成，下一项直接交付应是
ridge/Linear/NLinear/DLinear、固定预测器下的 EventConnector 检索增量比较和 P2 人工审核，而不是立即
训练 7B 模型。默认图的 62,020 条跨事件共波动边中，有 57,727 条（93.1%）的窗口日历
完全不重叠，所以它们只能作为算法审计与检索候选，不能作为关系标签。

## 6. 原始 159.1 GiB 为什么可以整理成 6.59 GiB？

### 6.1 先纠正规模口径：不是把全部原始文件直接压缩 24 倍

本地原始目录的六个数据文件合计 170.846 GB，即 159.113 GiB。当前所说的“约
6.7 GB”对应 `runs/polymarket_p1b_multiscale_v0/` 中的多尺度 observed bars 与两个
catalog；按实际文件字节计算为 7.075 GB，即 6.589 GiB。两者不能只用一个压缩比概括，
因为原始目录中有 107.413 GiB 并未进入 P1B 市场轨迹主链。

| 原始对象 | 实际大小 | 是否直接进入 P1B | 当前处理方式 |
| --- | ---: | --- | --- |
| `markets.parquet` | 0.154 GiB | 是 | 规范化身份、文本、答案方向和生命周期，生成紧凑 catalog |
| `trades.parquet` | 26.073 GiB | 是 | 原始 token 视角的逐笔成交；与 quant 逐键核对 |
| `quant.parquet` | 25.473 GiB | 是 | answer1 方向的逐笔转换视图；核对后不与 trades 双份保存 |
| `orderfilled_part1/2.parquet` | 73.726 GiB | 否 | 原始链上 fill 证据；P0 检查其文件与 overlap，但当前轨迹任务不读取其订单和费用字段 |
| `users.parquet` | 33.687 GiB | 否 | maker/taker 用户展开视图；当前研究不以用户行为为预测单位，因此不进入 bars |
| **原始目录合计** | **159.113 GiB** | — | 原始文件仍保留，未被处理程序覆盖或删除 |

因此，应使用两个不同的比例：

- 相对全部原始目录，6.589 GiB 是 159.113 GiB 的 4.14%；
- 相对真正进入主链的 `markets + trades + quant` 51.700 GiB，6.589 GiB 是其
  12.74%。

原始文件和派生文件都已经使用 Parquet 的 ZSTD 压缩。规模下降的主要原因不是更换压缩
算法，而是：不复制与当前问题无关的原始视图、去除完全重复的物理记录、只保留一次
通过双表核对的逻辑成交，以及把逐笔成交聚合为稀疏 market-time 状态。

### 6.2 每一步保留、隔离和不再重复存储什么？

```text
159.113 GiB 原始目录（六个文件，原样保留）
  ↓ 研究范围选择
51.700 GiB：markets + trades + quant 进入 P0/P1B 主链
  ↓ market 身份规范化；交易双表逐键核对
763,126,566（约 7.63 亿）笔可信逻辑成交
  ↓ 逐笔成交直接聚合；不物化重型 transaction relation
101,460,285（约 1.01 亿）条稀疏 market-minute bars
  ↓ 从 1 分钟基础层确定性派生
41,110,464（约 4,111.05 万）条 15 分钟 bars + 21,737,095（约 2,173.71 万）条小时 bars
  ↓ 加入紧凑 market/event catalog
6.589 GiB 多尺度 observed release
```

各阶段的具体变化如下：

| 阶段 | 输入到输出 | 删除、隔离或不再存储的内容 | 保留下来的研究信息 |
| --- | --- | --- | --- |
| 研究范围选择 | 六个原始文件 → `markets/trades/quant` | `orderfilled` 的订单哈希、原始资产数量、maker/taker/protocol fee；`users` 的逐用户展开行不进入当前 bars。它们没有从原始目录删除 | 当前任务需要的市场目录、逐笔价格、金额、方向和身份仍在主链输入中 |
| P0/P0.1 身份规范化 | 1,019,069（约 101.91 万）条 market metadata → 规范化 market/event identity | 9 个无法形成有效父事件身份的 markets 标为 quarantine；不猜测或合成 event ID，其中 1 个 market 有 73 个成交键 | 全部 market 仍进入 market catalog，并保存 `identity_status`、`strict_event_eligible` 和是否有可信成交 |
| 双表去重 | trades 766,412,708（约 7.66 亿）行、quant 766,412,707（约 7.66 亿）行 → 两侧各自的规范交易键 | 两侧各有 3,286,068（约 328.61 万）条完全重复物理行不再作为独立成交计数，占各自原表约 0.429%；重复统计保存在验收报告 | 每个逻辑成交保留一个代表；冲突重复键为 0，因此没有在不同 payload 之间任意取舍 |
| trades–quant 对账 | 去重后的两种成交视图 → 单一可信成交表示 | 1 个 trades-only key 不进入主数据；73 个没有有效 event 身份的 key 被隔离；quant 作为转换核对视图不再整表复制 | 763,126,566（约 7.63 亿）笔成交保留统一的 `p_answer1`、USD/token 数量和 answer1 方向；价格、金额、方向或身份硬冲突均为 0 |
| 直接分钟聚合 | 763,126,566（约 7.63 亿）笔可信成交 → 101,460,285（约 1.01 亿）个非空 market-minute | 不物化历史重型 P1a relation；不在每个 bar 中保存交易标识、maker/taker、每笔价格/数量/方向和完整 lineage | 每分钟保存 OHLC、价格×金额分子、USD/token volume、signed flow、trade count，以及首末成交的时间、区块与日志位置 |
| 稀疏时间表示 | 全市场日历分钟 → observed-only 分钟 | 没有可信成交的 market-minute 不写空行；这不是删除成交，而是以时间缺口编码无成交 | 任意两个 observed 时间点之间的空桶可以从 UTC 时间差恢复；Track A 另保存 mask、`has_trade` 和 staleness |
| 多尺度派生 | 1 分钟基础层 → 15 分钟和 1 小时 | 在较粗视图内不保留分钟内的完整变化顺序 | 1 分钟基础层仍长期保留，因此 15 分钟、1 小时和更粗 observed bars 可重新确定性生成；三个尺度的 `trade_count` 都守恒到 763,126,566（约 7.63 亿） |
| Catalog 精简 | 原始 market metadata → market/event catalog | 不重复保存 token1/token2、slug、event slug、`active`、`archived`、`outcome_prices`、`updated_at` 等原始字段 | 保存当前实验需要的 market/event 身份、问题文本、answer1/answer2、价格方向、生命周期、身份状态和轨迹摘要 |

这里的“隔离”与“丢弃”不同。73 个无有效 event 身份的成交没有进入严格事件级 bars，
但其异常原因和原始定位保存在 P0.1 quarantine；1 个 trades-only key 和两侧重复计数也
保存在验收证据中。原始六个文件仍在 `data/raw/polymarket/`，所以项目层面可以重新读取；
但只拿到 6.589 GiB release 的使用者无法反推出每一笔原始成交。

P0/P0.1 的规范化 catalog、身份表和审计 sidecars 目前另占约 0.382 GiB，它们是治理证据，
不是上述 51.700 GiB 到 6.589 GiB 之间的一份逐笔替代数据。构建过程中还会产生按交易键
前缀划分的临时 bars 和按月 merge work；只有最终月分区、守恒检查和小时等价性检查通过
后才清理这些临时副本。它们不含最终 1 分钟层之外的独立研究变量，因此清理不会再造成
业务信息损失。

### 6.3 6.589 GiB 内部由什么组成？

| 派生对象 | 文件大小 | 行数 | 是否含有新的独立信息 |
| --- | ---: | ---: | --- |
| 1 分钟 observed bars | 3.902 GiB | 101,460,285（约 1.01 亿） | 是；当前长期保留的最细状态基础层 |
| 15 分钟 observed bars | 1.668 GiB | 41,110,464（约 4,111.05 万） | 否；由 1 分钟层确定性派生，便于短期实验直接读取 |
| 1 小时 observed bars | 0.928 GiB | 21,737,095（约 2,173.71 万） | 否；由 1 分钟层确定性派生，是 Track A/P3 主频率入口 |
| `market_catalog.parquet` | 0.080 GiB | 1,019,069（约 101.91 万） | 是；文本、命题方向、身份状态和轨迹摘要 |
| `event_catalog.parquet` | 0.012 GiB | 379,711（约 37.97 万） | 是；父事件级活动索引与汇总 |
| 验收与日志 | 小于 1 MiB | — | 守恒、等价性和质量结论 |
| **合计** | **6.589 GiB** | — | — |

若只考虑不可由其他派生层重新生成的 1 分钟基础层与 catalog，核心长期数据约为
3.994 GiB。保留 15 分钟和 1 小时层是用额外磁盘换取读取效率，并不是又增加了两套
独立成交证据。另一个目录 `polymarket_p1b_hourly_v0/` 保存 observed 小时层和最多延续
一小时的规则状态，共约 1.424 GiB；它与上述多尺度 release 有部分内容重叠，不属于
“6.589 GiB”本身。Track A 样本和 baseline 预测也属于后续实验产物，不计入该数字。

### 6.4 是否损失了研究所需信息？

结论需要按研究问题回答：**它不是无损压缩，但对当前以 market 概率状态为对象的
Track A、P2 和首版 P3，损失是有意且可接受的；对逐笔微观结构、用户行为和链上订单
研究，则存在实质信息损失。**

| 研究任务 | 6.589 GiB release 是否足够 | 判断依据与缺口 |
| --- | --- | --- |
| 1 小时/15 分钟概率轨迹预测 | 足够 | 保存 OHLC/VWAP 所需分子、成交量、成交数、signed flow、时间缺口和命题语义；正式 Track A 已从该接口生成 |
| 跨事件预测增量与 lead-lag | 对首版协议足够 | P3 主频率为 1 小时，15 分钟可做短时诊断；source/target 的状态、活动性和共同活跃窗口可构造 |
| 文本检索与事件族治理 | 基本足够 | 问题、父事件标题、answer1/answer2 和身份均保留；原始 slug 与 token ID 通常不是语义检索必要字段 |
| 分钟级价格发现 | 部分足够 | 可研究分钟 OHLC、流量和成交强度，但不能恢复分钟内每笔成交的完整顺序与路径 |
| 秒级或逐笔市场微观结构 | 不足 | 缺少逐笔时间序列、单笔价格/数量/方向、交易标识和中间成交顺序，必须重读 raw trades/quant |
| 用户行为、钱包网络、maker/taker 异质性 | 不足 | bars 不保存 maker/taker，`users.parquet` 也未进入派生层 |
| 链上订单、费用和协议机制 | 不足 | order hash、资产 ID、原始 wei 数量和各类 fee 只在 `orderfilled` 中 |
| 最终结算正确率与 outcome calibration | 当前 catalog 不完全足够 | `closed` 保留，但原始 `outcome_prices` 未进入紧凑 catalog；需要从 raw markets 补回并按 `as_of_time` 防止泄漏 |
| 对每笔成交做完整来源追溯 | release 单独不足 | bar 只保留首末成交位置和汇总统计；完整 transaction lineage 没有物化，需结合 raw 与扫描证据重建 |

还要区分“处理中损失”和“原始数据本来就没有”。当前原始包是成交与链上 fill 数据，
不包含完整的历史 order book、撤单流、逐时新闻或事件证据文本；这些能力缺口不是从
159.1 GiB 整理到 6.589 GiB 时造成的，后续需要独立数据契约补充。

对当前项目，最重要的验收不是能否从 bars 还原每一笔成交，而是：可信成交总数在三个
尺度上守恒；价格方向统一到 answer1；小时结果与从分钟层重新派生的结果逐键一致；空桶
不会被误当成零变化。上述条件均已通过。若研究问题扩展到用户、费用、逐笔响应或最终
结算，必须回到对应 raw 表，而不能把多尺度 release 当作通用无损替代品。

### 6.5 为什么当前研究没有使用 `orderfilled` 和 `users`？它们是否包含语义？

“没有进入当前 P1B bars”不等于“对 Economic World Model 没有价值”。当前版本先回答
market belief state 是否可预测，以及 source market 是否提供时间外增量，因此把基本状态
单位冻结为 `market × UTC time bucket`。`orderfilled` 和 `users` 分别位于协议执行层和
参与者行为层；若直接加入，会把 target-only 时序基线、交易机制和 agent 行为三个问题
混在一起，无法判断增量来自哪里。

#### `orderfilled_part1/2.parquet`：链上成交执行语义

两个 part 是同一种表的物理分片，不是两类数据。它们合计 1,241,515,084（约 12.42 亿）条 Polygon
`OrderFilled` 日志，覆盖 2022-11-21 至 2026-05-04。两个文件在 2026-02-23 至
2026-02-24 存在时间范围重叠，但已有 overlap audit 未发现跨 part 重复交易键。

一行表示一次合约 `OrderFilled` 日志，字段含义为：

| 字段组 | 字段 | 具体含义 |
| --- | --- | --- |
| 链上顺序 | `timestamp`、`block_number`、`transaction_hash`、`log_index` | 一次 fill 在 Polygon 上发生的时间、区块、交易和日志位置 |
| 机制类型 | `contract` | 成交来自普通 CTF、NegRisk 或后续合约版本，表示不同市场机制路径 |
| 订单身份 | `order_hash` | 被撮合订单的标识，可用于研究一个订单是否分多次成交 |
| 参与地址 | `maker`、`taker` | 挂单方和接单/撮合侧地址；其中可能包含交易所合约或代理地址，不能直接等同于两个自然人 |
| 资产流 | `maker_asset_id`、`taker_asset_id` | 两侧交付的资产；`0` 表示 USDC，非零大整数表示 outcome token |
| 原始数量 | `maker_amount_filled`、`taker_amount_filled` | 合约原始精度下的成交数量；当前文件以 32-byte 整数保存，解码后才能变成 USD/token 数量 |
| 费用 | `maker_fee`、`taker_fee`、`protocol_fee` | 订单双方和协议层记录的原始费用，可研究交易成本和机制变化 |

这张表**不含自然语言语义**：没有 `question`、`event_title`、`answer1/answer2`，甚至没有
直接的 `market_id`。它通过非 USDC `asset_id → markets.token1/token2` 映射后，才获得
market、event 和 outcome 方向。`trades.parquet` 正是这种解码和 market linkage 的后继
视图，所以对于当前价格轨迹任务，重复读取 73.726 GiB `orderfilled` 不会新增问题文本
或新闻证据。

但它包含 `trades` 和 bars 没有完整保留的**交易机制语义**：合约版本、订单标识、原始
资产流与费用。因此它适合订单拆分、成交机制、费用制度、NegRisk 路径和链上来源核验，
不适合作为第一版 LLM 文本语义输入。它也只有已成交订单，没有未成交挂单、撤单和完整
order book，所以即使加入，也不能直接得到真实盘口深度或买卖价差。

#### `users.parquet`：钱包角色与交易行为语义

当前本地文件有 1,233,429,330（约 12.33 亿）行，覆盖同一研究期。一行不是一个新市场事件，而是一个
钱包地址在一次成交中的一个角色视图：

```text
链上身份：timestamp, block_number, transaction_hash, log_index
参与者：address, role = maker/taker
行为：direction = BUY/SELL, usd_amount, token_amount, price
市场连接：market_id, condition_id, event_id, nonusdc_side = token1/token2
```

它包含以下**结构化行为语义**：谁参与、是 maker 还是 taker、交易哪个 outcome token、
买还是卖、规模和价格是多少。它没有问题文本和事件标题，但可以按 `market_id` 连接
`market_catalog`，从而得到“某类钱包何时买入哪个现实命题”的联合语义。

`users` 主要是 `trades` 的参与者展开视图，而不是独立信息源。当前行数恰好是
616,714,665（约 6.17 亿）个保留成交的两倍，与 maker/taker 两角色展开一致；地址、角色和方向本来
也可从 `trades` 重建。它的价值在于让钱包轨迹和跨市场行为更容易查询，而不是增加新的
新闻或市场命题。

这里存在一个必须先解决的版本契约问题。数据集旧 README 和官方处理代码描述的是：过滤
部分合约侧成交、每笔成交拆成 maker/taker 两行、统一为 answer1/BUY 视角并用负数量表示
卖出；但当前本地 `users.parquet` 的实际 schema 使用 `address` 而不是 `user`，同时保留
`BUY/SELL` 和 `token1/token2`。本地文件规模也已经高于 README 的旧统计。因此正式实验
不能只按文字说明读取它，必须从当前 `trades` 重新冻结转换规则，并核对每条 role-row 与
原成交的对应关系。

#### 当前不纳入的原因与后续价值

| 原因 | 当前设计判断 |
| --- | --- |
| 研究问题不同 | Track A 首先建立仅靠 target 市场状态的预测地板；钱包行为属于额外条件变量，不能预先混入 baseline |
| 信息大多可重建 | `users` 是 `trades` 的角色展开；`orderfilled` 到价格、金额和市场身份的主要转换已经进入 `trades/quant` |
| 粒度与规模不同 | 当前主键是 market-hour；直接加入十亿级钱包或 fill 行会造成高维、稀疏且难以时间外泛化的输入 |
| 身份解释有限 | 一个地址不是一个经济主体，同一主体可能有多个地址，合约地址也不是普通交易者；只能声称 wallet-level 行为，不能直接声称“用户信念” |
| 当前契约未冻结 | 本地 `users` 与旧 README/schema 不完全一致，尚无正式的 as-of wallet feature 和验收协议 |

这不应成为永久排除。对于 Economic World Model，建议新增一个独立的
**agent-behavior / market-mechanism channel**，但只物化预测时点前可见的聚合特征：

```text
wallet activity：活跃钱包数、新进入钱包比例、maker/taker 量占比
flow concentration：头部钱包成交占比、成交量集中度、钱包流量分散度
cross-market behavior：同一钱包历史参与的市场数、跨事件净流方向、source/target 钱包重叠
mechanism：合约类型、独立订单数、每订单 fill 数、费用率、合约侧成交比例
```

正式比较应保持分层：

```text
M0：target 价格与活动历史 + 公共市场状态
MB：M0 + 截止 as_of_time 的聚合 wallet/mechanism features
M1：M0 + source innovation
M1B：MB + source innovation
```

这样才能分别回答：行为层是否改善单市场预测、source 的增量是否只是共享交易者造成、
以及控制参与者结构后跨事件信息是否仍然存在。原始钱包地址和订单记录用于内部聚合与
核验，不作为 LLM token 直接输入，也不把钱包地址解释成自然语言语义。

## 证据入口

- `data/raw/polymarket/SII-WANGZJ_Polymarket_data/`：六个原始文件及其字段说明；
- `runs/polymarket_p01_remediation/`：身份规范化、quarantine 和原始表审计证据；
- `runs/polymarket_p1b_hourly_v0/p1b_acceptance.json`：双表去重、对账、隔离与可信成交计数；
- `runs/polymarket_p1b_multiscale_v0/multiscale_acceptance.json`：三尺度成交守恒与小时等价性；
- `src/econwm/impact/build_polymarket_p1b_bars.py`：可信成交核对与直接聚合实现；
- `src/econwm/impact/finalize_polymarket_p1b_multiscale.py`：月分区合并、粗尺度派生与临时产物清理；
- [`polymarket-p1b-multiscale-v0-handoff.md`](polymarket-p1b-multiscale-v0-handoff.md)：多尺度数据与验收；
- [`polymarket-cross-event-scope.md`](polymarket-cross-event-scope.md)：研究问题和任务边界；
- [`polymarket-baseline-transfer-experiment-plan.md`](polymarket-baseline-transfer-experiment-plan.md)：
  EventConnector、SWM-Bench 与 P2/P3 在当前数据上的统一实验协议；
- [`polymarket-track-a-p2-progress.md`](polymarket-track-a-p2-progress.md)：正式 Track A
  样本、simple baseline、P2 日历筛选与 EventConnector-compatible 数据的当前结果；
- [`polymarket-p2-eventconnector-v1.md`](polymarket-p2-eventconnector-v1.md)：P2 筛选、
  EventConnector-compatible 字段、默认图算法与日历审计结论；
- [`../runs/polymarket_eventconnector_compatible_v1/README.md`](../runs/polymarket_eventconnector_compatible_v1/README.md)：
  EventConnector-compatible `10→7` 数据、切分、图算法与审计结果；
- `runs/polymarket_p1b_multiscale_v0/`：正式多尺度数据与 catalog；
- `runs/polymarket_fast_dataset_v0/`：早期 Track A 样本格式 pilot；
- `outputs/polymarket_data_atlas_v0/`：历史 catalog-first 案例页面。
- [Data Atlas v1 公开网页](https://economicworldmodel.github.io/)：当前公开数据浏览页。