| --- |
| license: cc-by-4.0 |
| task_categories: |
| - text-classification |
| language: |
| - en |
| tags: |
| - prediction-markets |
| - polymarket |
| - forecasting |
| - agents |
| - llm-agents |
| size_categories: |
| - 10K<n<100K |
| --- |
| |
| # agentic-polymarket |
|
|
| 38,915 个**已结算**的 Polymarket 二元事件市场, 带完整小时级价格曲线、题面、结算 |
| 条款和真实结果. 为「让 LLM agent 在预测市场上交易」这类研究准备的. |
|
|
| 配套代码 (回测环境 + agent 交易接口): 见 `RSI-economy/shadow-market`. |
|
|
| ## 这份数据解决什么问题 |
|
|
| 历史价格序列不能直接当回测标的 —— 录像不对 agent 的行为作出反应: 任意价位可成交 |
| 任意数量、买卖同价、自身成交不推动价格、持仓不计资金成本. 结果是一类策略在回测里 |
| 表现优异而真实不可执行 (典型形态: 只在隐含概率接近 0 或 1 时入场吃末段残值). |
|
|
| 所以这里除了价格曲线, 还给了从真实订单簿统计出来的**深度表**和**半价差表**, |
| 用来补上滑点和价差. |
|
|
| ## 文件 |
|
|
| | 文件 | 内容 | |
| |---|---| |
| | `data/markets.jsonl` | 一行一个市场: `path` (小时 VWAP 锚曲线) / `outcome` / `T_start` / `T_end` / `category` / `slug` / 成交笔数与额 | |
| | `data/questions.jsonl` | `condition_id -> question / resolution_criteria / tick`, 100% 覆盖 | |
| | `data/index.json` | 构建口径与筛选漏斗 | |
| | `splits.json` | **冻结的** train/val/test 市场 id 全表 + sha256 | |
| | `depth_table.json` | 深度表 `D(m,k)` 与半价差 `δ(m)`, 按中间价分桶取中位数 | |
| | `market_params.json` | 影子市场机制参数 (冲击强度/衰减/价差等) | |
| | `Polymarket-v{1,2}/daily_aligned/*.parquet` | **原始逐笔成交** (1364 个日文件, 19.31 GB) | |
|
|
| `Polymarket-v{1,2}/` 是构建上面那些派生文件的原料: 24 列的宽表, 每行一笔成交, 带 |
| `condition_id` / `price` / `usdc_amount` / `taker_direction` / 结算状态 / |
| 生命周期时间戳. 只想用市场库的话不必下它; 想改构建口径 (换聚合粒度、改筛选条件、 |
| 自己重算深度) 就需要. |
|
|
| ```python |
| # 只下派生数据 (157 MB) |
| from huggingface_hub import snapshot_download |
| snapshot_download("tennant/agentic-polymarket", repo_type="dataset", |
| allow_patterns=["data/*", "*.json"]) |
| |
| # 下某一天的原始成交 |
| from huggingface_hub import hf_hub_download |
| hf_hub_download("tennant/agentic-polymarket", repo_type="dataset", |
| filename="Polymarket-v1/daily_aligned/2026_03_23.parquet") |
| |
| # 只下 2026 年的原始成交 |
| snapshot_download("tennant/agentic-polymarket", repo_type="dataset", |
| allow_patterns=["Polymarket-v*/daily_aligned/2026_*.parquet"]) |
| ``` |
|
|
| ## 规模 |
|
|
| - 原始存档 **19.31 GB** / 1364 个日文件 (2022-11-21 .. 2026-08-22) |
| - 扫过 **476,956,714** 行逐笔成交 (YES 腿; 全部腿约 9.5 亿) |
| - 保留 **38,915** 个市场: 已结算 + 有真实结果 + YES/NO 二元 + 成交 ≥80 笔 |
| - 剔除 `Up or Down` 类短周期价格蜡烛 (靠研究无法预测, 会让 agent 分数好看却学不到东西) |
|
|
| ## 冻结划分 (按时间切, 不是随机切) |
|
|
| | split | n | T_end 区间 | base rate | |
| |---|---:|---|---:| |
| | train | 4,454 | 2023-01-30 .. 2026-04-03 | 56.3% | |
| | val | 954 | 2026-04-03 .. 2026-06-09 | 57.3% | |
| | test | 956 | 2026-06-09 .. 2026-08-22 | 51.7% | |
| |
| `sha256 = 4a9c5bf900f8f40b94a35692d0e5a27666afa9c9560290cfffe1e55a6756d91b` |
| |
| **为什么按时间切**: (1) Polymarket 常把一个事件拆成多条只差日期的市场, 随机切会 |
| 让 test 的答案能从 train 里推出来; (2) 模型预训练有截止日期, 用早期市场调参、晚期 |
| 市场评测, 才能分辨"真的会预测"和"记住了结果". |
| |
| ## 数据可信度 |
| |
| 锚曲线是整个环境的地基. 检验方式是看末段锚价的校准: 分桶后实际兑现率必须单调 |
| 贴近桶中心. |
| |
| ``` |
| 末段 10% 锚价 实际兑现率 |
| 0.0-0.1 n=22,433 0.000 |
| 0.3-0.4 n= 681 0.217 |
| 0.5-0.6 n= 470 0.623 |
| 0.9-1.0 n= 9,914 0.999 |
| |
| Brier = 0.0196 (常报 0.5 = 0.2500) |
| ``` |
| |
| 单调且贴合. 这条同时能抓出 outcome 标签接反、YES/NO 腿混淆、时间戳错位. |
| |
| ## 已知限制 (务必知情) |
| |
| **深度表不是历史快照.** Polymarket 不提供历史订单簿 (`/book` 只返回当前状态), |
| 公开数据集里也没有 book 存档. 所以 `D(m,k)` 与 `δ(m)` 由**实时采样标定后冻结** |
| (1233 个双边 book). 深度是聚合流动性, 在今天标定不泄露任何历史市场的结果 —— |
| 时代错置只在微观结构真实度上, 不在信息上. 但**任何依赖滑点精确幅度的结论都要 |
| 显式声明这一限制**. |
| |
| **tick 不是全局 0.001.** 实测相邻档位间隔: 只有 21% 落在连续 0.001 上, 59% 间隔 |
| 10 个 tick (0.01 网格). 所以 tick 按市场判定, `questions.jsonl` 里带 `tick` 字段. |
| |
| **加密货币占比高.** 3.9 万个市场里约 1.3 万是 Crypto/Bitcoin/Ethereum/Price |
| Action. 要研究可迁移的检索/推理能力, 建议过滤掉, 再要求 `≥40` 个价格点和 |
| `≥$10k` 成交额, 得到约 6,400 个"可研究"市场. |
| |
| ## 上游与许可 |
| |
| 派生自 [`TimeSeventeen/Polymarket-v1`](https://huggingface.co/datasets/TimeSeventeen/Polymarket-v1) |
| 和 [`-v2`](https://huggingface.co/datasets/TimeSeventeen/Polymarket-v2) (CC BY 4.0) |
| 的 `daily_aligned` 分区, 题面与结算条款来自 Polymarket Gamma API. 本数据集同样 |
| 以 CC BY 4.0 发布. |
|
|
| 注: 两仓在 2026-04-03..04-28 有 26 天重叠, 但**重叠期 v2 的文件几乎是空的** |
| (`2026_04_15`: v1 = 4,387,421 行, v2 = 2 行). 构建时按"同一天取字节数更大者" |
| 裁决, 26/26 天判给 v1. |
|
|
| ## 用法 |
|
|
| ```python |
| import json |
| |
| markets = [json.loads(l) for l in open("data/markets.jsonl")] |
| questions = {json.loads(l)["id"]: json.loads(l) |
| for l in open("data/questions.jsonl")} |
| splits = json.load(open("splits.json")) |
| |
| val_ids = set(splits["ids"]["val"]) |
| val = [m for m in markets if m["id"] in val_ids] |
| |
| m = val[0] |
| print(questions[m["id"]]["question"]) |
| print(f"{len(m['path'])} 个价格点, outcome={m['outcome']}") |
| ``` |
|
|
