agentic-polymarket / README.md
tennant's picture
Fix archive paths in card to match actual layout
ffb43da verified
|
Raw
History Blame Contribute Delete
6.04 kB
metadata
license: cc-by-4.0
task_categories:
  - text-classification
language:
  - en
tags:
  - prediction-markets
  - polymarket
  - forecasting
  - agents
  - llm-agents
size_categories:
  - 10K<n<100K

agentic-polymarket

38,915 个已结算的 Polymarket 二元事件市场, 带完整小时级价格曲线、题面、结算 条款和真实结果. 为「让 LLM agent 在预测市场上交易」这类研究准备的.

配套代码 (回测环境 + agent 交易接口): 见 RSI-economy/shadow-market.

这份数据解决什么问题

历史价格序列不能直接当回测标的 —— 录像不对 agent 的行为作出反应: 任意价位可成交 任意数量、买卖同价、自身成交不推动价格、持仓不计资金成本. 结果是一类策略在回测里 表现优异而真实不可执行 (典型形态: 只在隐含概率接近 0 或 1 时入场吃末段残值).

所以这里除了价格曲线, 还给了从真实订单簿统计出来的深度表半价差表, 用来补上滑点和价差.

文件

文件 内容
data/markets.jsonl 一行一个市场: path (小时 VWAP 锚曲线) / outcome / T_start / T_end / category / slug / 成交笔数与额
data/questions.jsonl condition_id -> question / resolution_criteria / tick, 100% 覆盖
data/index.json 构建口径与筛选漏斗
splits.json 冻结的 train/val/test 市场 id 全表 + sha256
depth_table.json 深度表 D(m,k) 与半价差 δ(m), 按中间价分桶取中位数
market_params.json 影子市场机制参数 (冲击强度/衰减/价差等)
Polymarket-v{1,2}/daily_aligned/*.parquet 原始逐笔成交 (1364 个日文件, 19.31 GB)

Polymarket-v{1,2}/ 是构建上面那些派生文件的原料: 24 列的宽表, 每行一笔成交, 带 condition_id / price / usdc_amount / taker_direction / 结算状态 / 生命周期时间戳. 只想用市场库的话不必下它; 想改构建口径 (换聚合粒度、改筛选条件、 自己重算深度) 就需要.

# 只下派生数据 (157 MB)
from huggingface_hub import snapshot_download
snapshot_download("tennant/agentic-polymarket", repo_type="dataset",
                  allow_patterns=["data/*", "*.json"])

# 下某一天的原始成交
from huggingface_hub import hf_hub_download
hf_hub_download("tennant/agentic-polymarket", repo_type="dataset",
                filename="Polymarket-v1/daily_aligned/2026_03_23.parquet")

# 只下 2026 年的原始成交
snapshot_download("tennant/agentic-polymarket", repo_type="dataset",
                  allow_patterns=["Polymarket-v*/daily_aligned/2026_*.parquet"])

规模

  • 原始存档 19.31 GB / 1364 个日文件 (2022-11-21 .. 2026-08-22)
  • 扫过 476,956,714 行逐笔成交 (YES 腿; 全部腿约 9.5 亿)
  • 保留 38,915 个市场: 已结算 + 有真实结果 + YES/NO 二元 + 成交 ≥80 笔
  • 剔除 Up or Down 类短周期价格蜡烛 (靠研究无法预测, 会让 agent 分数好看却学不到东西)

冻结划分 (按时间切, 不是随机切)

split n T_end 区间 base rate
train 4,454 2023-01-30 .. 2026-04-03 56.3%
val 954 2026-04-03 .. 2026-06-09 57.3%
test 956 2026-06-09 .. 2026-08-22 51.7%

sha256 = 4a9c5bf900f8f40b94a35692d0e5a27666afa9c9560290cfffe1e55a6756d91b

为什么按时间切: (1) Polymarket 常把一个事件拆成多条只差日期的市场, 随机切会 让 test 的答案能从 train 里推出来; (2) 模型预训练有截止日期, 用早期市场调参、晚期 市场评测, 才能分辨"真的会预测"和"记住了结果".

数据可信度

锚曲线是整个环境的地基. 检验方式是看末段锚价的校准: 分桶后实际兑现率必须单调 贴近桶中心.

末段 10% 锚价      实际兑现率
0.0-0.1  n=22,433    0.000
0.3-0.4  n=   681    0.217
0.5-0.6  n=   470    0.623
0.9-1.0  n= 9,914    0.999

Brier = 0.0196   (常报 0.5 = 0.2500)

单调且贴合. 这条同时能抓出 outcome 标签接反、YES/NO 腿混淆、时间戳错位.

已知限制 (务必知情)

深度表不是历史快照. Polymarket 不提供历史订单簿 (/book 只返回当前状态), 公开数据集里也没有 book 存档. 所以 D(m,k)δ(m)实时采样标定后冻结 (1233 个双边 book). 深度是聚合流动性, 在今天标定不泄露任何历史市场的结果 —— 时代错置只在微观结构真实度上, 不在信息上. 但任何依赖滑点精确幅度的结论都要 显式声明这一限制.

tick 不是全局 0.001. 实测相邻档位间隔: 只有 21% 落在连续 0.001 上, 59% 间隔 10 个 tick (0.01 网格). 所以 tick 按市场判定, questions.jsonl 里带 tick 字段.

加密货币占比高. 3.9 万个市场里约 1.3 万是 Crypto/Bitcoin/Ethereum/Price Action. 要研究可迁移的检索/推理能力, 建议过滤掉, 再要求 ≥40 个价格点和 ≥$10k 成交额, 得到约 6,400 个"可研究"市场.

上游与许可

派生自 TimeSeventeen/Polymarket-v1-v2 (CC BY 4.0) 的 daily_aligned 分区, 题面与结算条款来自 Polymarket Gamma API. 本数据集同样 以 CC BY 4.0 发布.

注: 两仓在 2026-04-03..04-28 有 26 天重叠, 但重叠期 v2 的文件几乎是空的 (2026_04_15: v1 = 4,387,421 行, v2 = 2 行). 构建时按"同一天取字节数更大者" 裁决, 26/26 天判给 v1.

用法

import json

markets = [json.loads(l) for l in open("data/markets.jsonl")]
questions = {json.loads(l)["id"]: json.loads(l)
              for l in open("data/questions.jsonl")}
splits = json.load(open("splits.json"))

val_ids = set(splits["ids"]["val"])
val = [m for m in markets if m["id"] in val_ids]

m = val[0]
print(questions[m["id"]]["question"])
print(f"{len(m['path'])} 个价格点, outcome={m['outcome']}")