solar-rl / code /PROJECT_FILES_DETAILED_GUIDE.md
Shilin-1234's picture
Upload SolarChain-Eval dataset bundle
4bd5225 verified
|
Raw
History Blame Contribute Delete
31.2 kB

SolarChain-Eval 项目文件详细说明

本文档对当前 SolarChain-Eval 仓库中的文件进行系统说明。它面向需要快速理解项目结构、实验逻辑、代码职责、数据来源、输出文件和论文流水线的人。

1. 项目总体介绍

SolarChain-Eval 是一个面向去中心化能源市场的强化学习评估基准项目。它的核心目标不是简单训练一个收益最高的智能体,而是评估自治经济治理 agent 是否能在受物理约束的能源市场中安全、稳定、可审计地做出治理决策。

项目关注的问题可以概括为:

  • 能源节点上报的发电量是否符合太阳能物理上限 P_max
  • 市场流动性、奖励分配和代币燃烧策略如何影响交易匹配、滑点和价格稳定性。
  • PPO、SAC、DQN 等强化学习策略是否会为了收益利用不可信发电报告。
  • 固定规则、随机策略、短视贪心策略和 RL 策略之间在收益、安全、稳定、公平上的差异。
  • 移除物理惩罚后,agent 是否更容易制造 artificial_liquidity_MWh 等不可信行为。

整个项目围绕一个 Gymnasium 环境 SolarChainBenchmarkEnv 展开。环境每一步代表一个小时,agent 输出三个经济治理动作:

  • reward_ratio:有多少背书电量进入奖励分配。
  • liquidity_ratio:有多少背书电量用于增加市场流动性。
  • burn_rate:代币燃烧率,影响有效需求和价格动态。

环境会把这些动作放进能源供给、P2P 交易需求、物理约束、城市奖励、流动性池和代币价格模型中,最终计算奖励和一组可信度指标。

2. 项目主流程

项目从数据到论文结果的主流程如下:

  1. scripts/generate_monthly_datasets.py 生成或刷新五城市月度数据。
  2. configs/*.yaml 定义实验参数、动作边界、奖励惩罚和训练设置。
  3. src/solarchain_eval/data.py 读取 CSV 数据,生成按城市和绝对小时聚合的物理特征。
  4. src/solarchain_eval/env.py 构建 Gymnasium 强化学习环境。
  5. src/solarchain_eval/actions.py 负责连续动作、离散动作和真实动作之间的转换与约束。
  6. src/solarchain_eval/policies.py 提供内置 baseline 策略。
  7. src/solarchain_eval/train.py 使用 Stable-Baselines3 训练 PPO、SAC、DQN。
  8. src/solarchain_eval/evaluate.py 统一评估内置策略和训练好的 RL 模型。
  9. src/solarchain_eval/metrics.py 汇总每个 episode 的可信度指标。
  10. src/solarchain_eval/figures.py 生成论文图表。
  11. paper_pipeline/*.sh 串起 Linux 上的 setup、smoke check、完整论文实验、图表和 manifest。

3. 根目录文件

.gitignore

这是 Git 忽略规则文件,主要排除 Python 缓存、虚拟环境、构建产物、测试缓存、日志、数据库、本地环境文件等。它避免把 __pycache__.venvbuild/dist/.pytest_cache/ 等临时文件提交到版本库。

README.md

项目入口说明文档。它介绍了项目名称、项目定位、安装方式、快速 smoke run、完整 baseline 运行方式、Linux 论文流水线和主要输出文件。

其中最重要的信息包括:

  • 安装方式:pip install -e .
  • 快速评估:python scripts/evaluate.py --policies "static,random,myopic" --episodes 1
  • 完整 baseline:python scripts/run_all_baselines.py --timesteps 2048 --episodes 2
  • 论文流水线:paper_pipeline/00_setup_linux.sh01_smoke_check.sh02_run_paper_experiments.sh
  • 输出文件:metrics.csvsummary.jsonactions.csvcity_hour_policy.csvconfig_snapshot.json
  • 关键指标:physics_violation_ratemax_drawdownaction_jitterslippage_reduction_vs_staticspatial_fairness_indexartificial_liquidity_MWh

LICENSE

项目许可证文件,采用 MIT License。版权归 GreenComp-ERC,年份为 2026。MIT 许可证允许用户自由使用、复制、修改、合并、发布、分发、再授权和销售软件,但需要保留版权和许可声明。

pyproject.toml

Python 包配置文件。它说明该项目是一个可安装的 Python 包:

  • 包名:solarchain-eval
  • 版本:0.1.0
  • Python 要求:>=3.10
  • 包源码位置:src
  • 构建系统:setuptools

主要依赖包括:

  • gymnasium:强化学习环境接口。
  • stable-baselines3:PPO、SAC、DQN 算法实现。
  • torch:深度学习后端。
  • numpypandas:数值计算和表格数据处理。
  • matplotlib:图表生成。
  • pvlib:太阳能物理模型。
  • requests:请求 Open-Meteo 历史天气 API。

requirements.txt

传统 pip 依赖列表。它与 pyproject.toml 中的依赖基本一致,但额外包含 pytest>=8.0,用于运行测试。

4. 配置目录 configs/

configs/default.yaml

默认实验配置,使用 data/datasets 这个 24 小时小数据集。适合快速调试、单日 smoke run 和本地快速验证。

关键配置:

  • seed: 20260511:全局随机种子。
  • episode_steps: 24:每个 episode 运行 24 个小时。
  • data_dir: data/datasets:默认数据目录。
  • output_dir: outputs/runs:默认实验输出目录。
  • figures_dir: figures:默认图表输出目录。
  • action_mode: continuous:默认连续动作空间。
  • discrete_levels: 5:DQN 离散动作网格每个维度 5 档,总动作数为 5 x 5 x 5 = 125
  • no_physics_penalty: false:默认保留物理违规惩罚。

market 段定义市场和动作边界:

  • 初始流动性和代币价格均为 1.0
  • reward_ratio 范围为 0.050.65
  • liquidity_ratio 范围为 0.200.95
  • burn_rate 最大为 0.20
  • reward_ratio + liquidity_ratio 最大为 0.98
  • 静态策略为 reward_ratio=0.25liquidity_ratio=0.75burn_rate=0.02

reward 段定义奖励函数惩罚项:

  • drawdown_penalty: 1.50
  • action_jitter_penalty: 0.25
  • unmet_demand_penalty: 0.40
  • physics_penalty: 2.00
  • fairness_penalty: 0.20

training 段定义训练超参数:

  • timesteps: 10000
  • learning_rate: 0.0003
  • batch_size: 64
  • gamma: 0.98

evaluation 段默认评估 staticrandommyopic 三个内置策略。

configs/month_2026_04.yaml

月度论文主配置。它与 default.yaml 大体相同,但把 data_dir 改为 data/datasets_2026_04_month

这个配置用于 2026 年 4 月整月五城市 benchmark:

  • 数据窗口:2026-04-01T00:00:00+08:002026-04-30T23:00:00+08:00
  • 共 720 个小时。
  • 每个 episode 仍然是 24 小时。
  • 环境 reset 时从完整日开头采样,即 0, 24, 48, ..., 696

论文实验、完整 baseline、消融实验都应优先使用这个配置。

5. 核心源码目录 src/solarchain_eval/

src/solarchain_eval/__init__.py

包入口文件。它导出三个最常用对象:

  • BenchmarkConfig
  • SolarChainBenchmarkEnv
  • load_config

这样外部代码可以直接从 solarchain_eval 导入配置和环境。

src/solarchain_eval/config.py

配置加载与配置数据结构定义文件。

它定义了以下 dataclass:

  • MarketConfig:市场初始状态、动作边界、静态策略参数。
  • RewardConfig:奖励函数中的各类惩罚权重。
  • TrainingConfig:训练步数、学习率、batch size、折扣因子等。
  • EvaluationConfig:评估 episode 数和默认策略列表。
  • BenchmarkConfig:总配置对象,包含 seed、数据目录、输出目录、动作模式和上述子配置。

主要函数:

  • load_config(path, overrides=None):读取 YAML 配置文件并合并 override。
  • _deep_update(base, updates):递归合并配置覆盖项。
  • _parse_simple_yaml(text):当没有安装 PyYAML 时使用的简易 YAML 解析器。
  • _coerce_value(value):把字符串转换为 bool、int、float 或普通字符串。

这个文件的作用是把 YAML 配置转换成强类型 Python 对象,供环境、训练、评估和脚本使用。

src/solarchain_eval/actions.py

动作编码、解码与安全约束文件。

项目中的真实治理动作是三维:

  • reward_ratio
  • liquidity_ratio
  • burn_rate

强化学习模型输出通常是 [0, 1] 范围内的 raw action,因此需要转换成真实市场动作。

主要函数:

  • decode_continuous_action(raw_action, config):把连续 raw action 转换成真实动作,并处理 NaN、inf、越界值。
  • encode_actual_action(actual_action, config):把真实动作反向编码到 [0, 1] 范围,供内置策略统一接口使用。
  • sanitize_actual_action(actual_action, config):裁剪动作边界,并确保 reward_ratio + liquidity_ratio <= max_total_allocation
  • discrete_action_grid(config):生成 DQN 使用的离散动作网格。
  • decode_discrete_action(action_index, config):把 DQN 输出的离散动作编号映射为真实动作。

这个文件保证策略不能直接输出违反市场预算约束的动作。

src/solarchain_eval/data.py

数据读取和物理特征构造文件。

主要对象:

  • DEFAULT_CITIES:固定五城市列表:Beijing、Shanghai、Chengdu、Shenzhen、Hangzhou。
  • BenchmarkData:数据容器,包含 nodesgenerationmarkettradescity_hourcitieshour_count

主要函数:

  • load_benchmark_data(data_dir):读取四个 CSV 文件,并构造环境需要的聚合特征。
  • _add_absolute_hour_columns(...):根据 timestamp 生成连续的 absolute_hour 和小时-of-day hour

它读取的四个 CSV 文件是:

  • urban_energy_nodes.csv
  • spatiotemporal_generation.csv
  • market_liquidity.csv
  • p2p_trades.csv

加载后会构造以下关键字段:

  • verified_W:只有 verification_status == "verified" 的上报发电量才计入可信供给。
  • physics_excess_Wmax(P_reported_W - P_max_W, 0)
  • physics_violation:如果超过 P_maxfdia_detected=True,则认为存在物理/攻击违规。
  • rejected_reported_W:违规记录中被拒绝的上报发电量。

最后会按 city + absolute_hour + hour 聚合出 city_hour 表。这个设计非常重要,因为月度数据有 30 天,如果只按 city + hour 聚合,会把不同日期同一小时混在一起。当前代码用 absolute_hour 保证每个真实小时独立。

src/solarchain_eval/env.py

项目最核心文件,定义 Gymnasium 环境 SolarChainBenchmarkEnv

环境职责:

  • 定义 action space。
  • 定义 observation space。
  • 在 reset 时初始化流动性、价格、峰值、历史动作和城市奖励。
  • 在 step 中执行市场状态转移。
  • 计算每小时奖励和可信度指标。

动作空间:

  • 连续模式:Box(low=0.0, high=1.0, shape=(3,))
  • 离散模式:Discrete(125),用于 DQN。

观测空间为 12 维:

  1. sin(hour)
  2. cos(hour)
  3. verified_mwh
  4. reported_mwh
  5. pmax_mwh
  6. supply-demand gap
  7. 当前流动性
  8. 当前代币价格
  9. 原始物理违规率
  10. 静态市场滑点
  11. 上一步 reward_ratio
  12. 上一步 liquidity_ratio

step() 的主要逻辑:

  1. 解码策略动作。
  2. 找到当前 absolute_hour 对应的城市发电聚合数据。
  3. 汇总 verified、reported、P_max、excess、rejected 等供给信息。
  4. 从 P2P trades 中读取需求,若没有交易则用市场 verified supply 作为 fallback demand。
  5. 计算 unsafe supply 与 unsafe backed supply。
  6. 根据 liquidity_ratio 增加市场流动性。
  7. 根据 burn_rate 调整有效需求。
  8. 计算 matched energy、unmet demand、流动性 drawdown、slippage。
  9. 根据供需、成交、燃烧、滑点、奖励 token 和噪声更新 token price。
  10. 按城市 verified supply 占比分配奖励,并用 violation rate 做 trust discount。
  11. 计算最终 reward。
  12. 写出 info,供评估和指标汇总使用。

重要输出指标包括:

  • verified_supply_MWh
  • reported_supply_MWh
  • physics_excess_MWh
  • unsafe_backed_MWh
  • artificial_liquidity_MWh
  • physics_violation_rate
  • raw_physics_record_rate
  • demand_MWh
  • matched_energy_MWh
  • unmet_demand_MWh
  • liquidity
  • liquidity_depth
  • token_price
  • max_drawdown
  • token_drawdown
  • action_jitter
  • slippage
  • city_rewards

src/solarchain_eval/metrics.py

指标计算文件。它把每个 episode 的小时级日志压缩成 episode 级指标。

主要函数:

  • max_drawdown(values):计算序列从历史峰值回撤的最大比例。
  • action_jitter(actions):计算连续动作之间的平均 L1 变化,衡量策略是否抖动。
  • spatial_fairness_index(city_rewards):用城市奖励方差相对平均绝对奖励衡量空间公平性。
  • summarize_episode(rows):汇总一个 episode 的全部指标。

summarize_episode 输出:

  • cumulative_reward
  • episode_volume
  • physics_violation_rate
  • max_drawdown
  • max_token_drawdown
  • action_jitter
  • mean_slippage
  • spatial_fairness_index
  • artificial_liquidity_MWh
  • final_liquidity
  • final_token_price

这些指标最终会进入 metrics.csvsummary.json

src/solarchain_eval/policies.py

内置 baseline 策略文件。

它定义了一个 Policy 协议,要求策略至少有:

  • name
  • predict(obs, deterministic=True)

内置策略:

  • StaticPolicy:固定使用配置中的 static_reward_ratiostatic_liquidity_ratiostatic_burn_rate,对应 Static 1:3 baseline。
  • RandomPolicy:在三维动作空间中均匀随机采样。
  • MyopicGreedyPolicy:根据当前供需 gap、流动性和违规情况做短视规则决策。

辅助函数:

  • make_builtin_policy(name, config, seed=None):根据名称构造内置策略。

这个文件让项目即使不训练 RL 模型,也能进行基础 benchmark。

src/solarchain_eval/train.py

Stable-Baselines3 训练逻辑文件。

主要函数:

  • make_env(config):加载数据并返回一个被 Monitor 包装的环境 factory。
  • train_model(algo, config, timesteps, output_dir):训练指定算法并保存模型。

支持算法:

  • ppo:连续动作,使用 PPO。
  • sac:连续动作,使用 SAC。
  • dqn:离散动作,使用 DQN,并自动把 action_mode 切到 discrete

模型输出路径形如:

  • outputs/runs/<run_id>/models/ppo/ppo_model.zip
  • outputs/runs/<run_id>/models/sac/sac_model.zip
  • outputs/runs/<run_id>/models/dqn/dqn_model.zip

src/solarchain_eval/evaluate.py

策略评估逻辑文件。它统一评估内置策略和训练好的 Stable-Baselines3 模型。

主要函数:

  • run_episode(policy, config, seed, episode, policy_name=None):运行一个策略的单个 episode,返回 episode 指标和小时级日志。
  • evaluate_policies(policies, config, episodes, output_dir):评估多个策略多个 episode,并写出 CSV/JSON。
  • _json_dumps_dataclass(config):把配置对象写成 JSON。

主要类:

  • SB3Policy:包装 Stable-Baselines3 模型,使 PPO/SAC/DQN 和内置策略拥有统一的 predict() 接口。

输出文件:

  • metrics.csv:policy x episode 级指标。
  • actions.csv:每小时动作和环境 info。
  • city_hour_policy.csv:每小时每城市奖励和动作信息。
  • summary.json:按 policy 聚合的平均指标,并计算相对 static 的滑点改善。
  • config_snapshot.json:保存本次运行使用的配置快照。

src/solarchain_eval/figures.py

图表生成文件。

主要函数:

  • setup_style():设置 matplotlib 风格。
  • make_figures(run_dir, figures_dir):读取运行结果并生成三张图。
  • _policy_heat(heat_source, policy):生成城市 x 小时的 liquidity heatmap 数据。

输出图表:

  • learning_curves.png:不同策略的累计奖励随 episode 变化。
  • safety_utility_frontier.png:物理违规率与累计奖励的 tradeoff。
  • city_hour_liquidity_heatmap.png:城市-小时流动性分配热力图,对比 Static 1:3 和优先选择的 agent 策略。

src/solarchain_eval/run_metadata.py

实验元数据记录文件。

主要函数:

  • write_run_metadata(output_dir, run_type, args, config, extra=None):写出 run_metadata.json

元数据包括:

  • 运行类型。
  • UTC 创建时间。
  • 命令行参数。
  • Python 解释器路径。
  • 操作系统平台。
  • Git commit。
  • Git status。
  • 解析后的配置。
  • 额外信息,例如模型路径和策略列表。

这个文件保证实验可追踪、可复现、可审计。

6. 命令行脚本目录 scripts/

scripts/evaluate.py

命令行评估入口。

常见用法:

python scripts/evaluate.py --policies "static,random,myopic" --episodes 1

支持参数:

  • --config:配置文件路径。
  • --policies:逗号分隔的策略名。
  • --episodes:评估 episode 数。
  • --output-dir:输出根目录。
  • --ppo-model--sac-model--dqn-model:加载训练好的 RL 模型。
  • --run-name:运行名称。
  • --no-timestamp:不加时间戳,使用稳定输出路径。
  • --no-physics-penalty:开启物理惩罚消融。

它会加载策略,调用 evaluate_policies,并写出 run_metadata.json

scripts/train.py

命令行训练入口。

常见用法:

python scripts/train.py --algo ppo --timesteps 10000

支持算法:

  • ppo
  • sac
  • dqn

它会读取配置、解析训练步数、创建输出目录、调用 train_model 保存模型,并写出运行元数据。

scripts/run_all_baselines.py

完整 baseline 运行脚本。它是项目最常用的 benchmark 入口。

主要流程:

  1. 加载配置。
  2. 可选训练 PPO、SAC、DQN。
  3. 构造 Static、Random、Myopic 三个内置策略。
  4. 加载训练好的 PPO、SAC、DQN 模型。
  5. 统一评估全部策略。
  6. 写出运行元数据。

常见用法:

python scripts/run_all_baselines.py --timesteps 2048 --episodes 2

如果只想跑内置策略,可以使用:

python scripts/run_all_baselines.py --skip-rl

scripts/generate_monthly_datasets.py

月度数据生成脚本。它把天气、太阳物理模型、节点属性、攻击注入、市场流动性和 P2P 交易合成为四个 CSV 数据集。

默认设置:

  • 时间窗口:2026-04-012026-05-01,右开区间。
  • 时区:Asia/Shanghai
  • 输出目录:data/datasets_2026_04_month
  • 缓存目录:data/cache
  • 随机种子:20260511
  • 每个城市节点数:10
  • 城市:Beijing、Shanghai、Chengdu、Shenzhen、Hangzhou

关键函数:

  • fetch_weather_cache():从 Open-Meteo Historical Weather API 拉取历史天气,或读取本地缓存。
  • make_nodes():生成城市能源节点,包括经纬度、面板面积、效率、温度系数、安装日期。
  • city_weather_frame():结合天气、pvlib clear-sky 和太阳位置计算辐照度。
  • make_generation():生成每个节点每小时的 P_max_WP_reported_W,并注入约 5% FDIA 攻击。
  • make_market_liquidity():根据 verified generation 生成 SolarChain 和 baseline 流动性、滑点。
  • make_trades():生成工厂 P2P 购电记录。
  • write_datasets():写出四个 CSV,并打印数据规模。

生成的核心数据量:

  • urban_energy_nodes.csv:50 行。
  • spatiotemporal_generation.csv:36000 行。
  • market_liquidity.csv:720 行。
  • p2p_trades.csv:约 1185 行。
  • FDIA 行数:1800 行。

scripts/make_figures.py

命令行图表生成入口。

常见用法:

python scripts/make_figures.py --run-dir outputs/runs/<run_id>

它读取配置,调用 solarchain_eval.figures.make_figures(),并打印生成的图片路径。

7. 论文流水线目录 paper_pipeline/

paper_pipeline/README.md

论文实验流水线说明文件。它描述 Linux 环境下如何 setup、生成数据、运行 smoke check、运行完整论文实验、理解输出结构、做超参数测试、重生成图表和整理论文表格。

它明确指出论文主实验应使用:

  • configs/month_2026_04.yaml
  • data/datasets_2026_04_month
  • [2026-04-01, 2026-05-01) 五城市月度数据
  • 720 个小时
  • 每个 episode 24 步

paper_pipeline/IMPLEMENTATION_PLAN.md

中文实现方案和实验范围说明。它解释项目为什么要做这个 benchmark、当前实现到什么程度、baseline 和指标有哪些、主运行方式是什么、输出结构是什么、验收标准是什么。

它也是项目最清晰的研究设计文档之一。

paper_pipeline/00_setup_linux.sh

Linux 环境准备脚本。

主要步骤:

  1. 定位仓库根目录。
  2. 检查 conda 是否存在。
  3. 激活 SolarChain-rl 环境。
  4. 安装 requirements.txt
  5. 以 editable 模式安装当前包。
  6. 打印 Python、Gymnasium、pvlib、Stable-Baselines3 版本。

paper_pipeline/01_smoke_check.sh

完整实验前的快速健康检查脚本。

主要步骤:

  1. 确保 2026-04 五城市月度数据存在,不存在则生成。
  2. 校验数据规模:50 个节点、36000 条 generation、720 个小时、720 条 market。
  3. 编译 srcscriptstests
  4. 评估 static,random,myopic 一个 episode。
  5. 训练一个 5 timestep 的 DQN 小模型。
  6. 生成 smoke figures。

这个脚本用于在长实验前确认代码、数据、依赖和图表路径都能跑通。

paper_pipeline/02_run_paper_experiments.sh

完整论文实验主脚本。

默认参数:

  • CONFIG=configs/month_2026_04.yaml
  • DATA_DIR=data/datasets_2026_04_month
  • DATA_START_DATE=2026-04-01
  • DATA_END_DATE=2026-05-01
  • TIMESTEPS=100000
  • EPISODES=10
  • PAPER_RUN_ID=<utc_timestamp>_paper

主要流程:

  1. 确保并校验月度数据。
  2. 写出 dataset_summary.json
  3. 写出 paper_run_metadata.json
  4. 运行主六 baseline 实验。
  5. 运行 --no-physics-penalty 消融实验。
  6. 为主实验和消融实验分别生成图表。
  7. 调用 04_write_results_manifest.sh 写论文结果 manifest。

推荐最终论文运行:

PAPER_RUN_ID=paper_final TIMESTEPS=300000 EPISODES=30 bash paper_pipeline/02_run_paper_experiments.sh

paper_pipeline/03_make_figures_for_run.sh

对已有 run 重新生成图表的脚本。

用法:

bash paper_pipeline/03_make_figures_for_run.sh outputs/runs/<run_id> outputs/paper_runs/<paper_run_id>/figures/custom

默认使用 configs/month_2026_04.yaml

paper_pipeline/04_write_results_manifest.sh

生成 PAPER_RESULTS.md 的脚本。

它把主实验、消融实验、模型文件、指标文件、图表文件和论文表格字段之间的关系写清楚。

输出文件:

  • outputs/paper_runs/<paper_run_id>/PAPER_RESULTS.md

这个 manifest 是论文结果归档和审稿材料整理的索引。

8. 数据目录 data/

数据目录包含两个数据集和一个天气缓存。

data/datasets/

默认小数据集,适合快速调试。它覆盖 2026-05-01 一天,共 24 小时。

data/datasets/urban_energy_nodes.csv

城市能源节点表。

规模:

  • 50 行数据。
  • 5 个城市,每个城市 10 个节点。

字段:

  • node_id:节点编号,例如 BEI-001
  • city:城市名称。
  • latitude:节点纬度。
  • longitude:节点经度。
  • panel_area_m2:太阳能板面积。
  • efficiency:光伏转换效率。
  • temp_coefficient:温度系数。
  • install_date:安装日期。

data/datasets/spatiotemporal_generation.csv

节点级时空发电表。

规模:

  • 1200 行。
  • 24 个小时 x 50 个节点。
  • 时间范围:2026-05-01T00:00:00+08:002026-05-01T23:00:00+08:00
  • FDIA 行数:60。

字段:

  • timestamp:带时区时间戳。
  • hour:小时-of-day。
  • node_id:能源节点编号。
  • city:城市。
  • latitudelongitude:节点位置。
  • irradiance_Wm2:辐照度。
  • air_temp_C:气温。
  • P_max_W:基于物理模型估算的最大发电功率。
  • P_reported_W:节点上报发电功率。
  • fdia_detected:是否检测到虚假数据注入攻击。
  • verification_statusverifiedrejected

data/datasets/market_liquidity.csv

小时级市场流动性表。

规模:

  • 24 行。
  • 时间范围与小数据集一致。

字段:

  • timestamp
  • hour
  • total_verified_MW:总 verified 发电量。
  • solarchain_liquidity_MW:SolarChain 市场流动性。
  • baseline_liquidity_MW:baseline 市场流动性。
  • slippage_solarchain_pct:SolarChain 滑点。
  • slippage_baseline_pct:baseline 滑点。

data/datasets/p2p_trades.csv

P2P 交易表。

规模:

  • 42 行。
  • 涉及 14 个有交易的小时。
  • 时间范围:2026-05-01T06:00:00+08:002026-05-01T19:00:00+08:00

字段:

  • trade_id:交易编号。
  • timestamp
  • hour
  • factory_id:购电工厂编号。
  • city
  • energy_purchased_MW:购买电量。
  • tokens_burned:燃烧 token 数量。
  • exergy_dissipated_MJ:耗散 exergy。

data/datasets_2026_04_month/

论文主月度数据集,覆盖 2026 年 4 月整月。

data/datasets_2026_04_month/urban_energy_nodes.csv

与小数据集字段相同。

规模:

  • 50 行。
  • 5 城市 x 每城 10 节点。

data/datasets_2026_04_month/spatiotemporal_generation.csv

月度节点级时空发电表。

规模:

  • 36000 行。
  • 720 个小时 x 50 个节点。
  • 时间范围:2026-04-01T00:00:00+08:002026-04-30T23:00:00+08:00
  • FDIA 行数:1800。

字段与小数据集的 spatiotemporal_generation.csv 相同。

data/datasets_2026_04_month/market_liquidity.csv

月度市场流动性表。

规模:

  • 720 行。
  • 每个小时一行。

字段与小数据集的 market_liquidity.csv 相同。

data/datasets_2026_04_month/p2p_trades.csv

月度 P2P 交易表。

规模:

  • 1185 行。
  • 涉及 395 个有交易的小时。
  • 时间范围:2026-04-01T07:00:00+08:002026-04-30T19:00:00+08:00

字段与小数据集的 p2p_trades.csv 相同。

data/cache/open_meteo_weather_2026-04-01_2026-05-01.json

Open-Meteo 历史天气缓存文件。它避免每次重新生成月度数据时都请求网络 API。

内容结构:

  • 顶层 key 是城市名。
  • 每个城市包含:
    • source
    • latitude
    • longitude
    • timezone
    • time
    • temperature_2m_C
    • shortwave_radiation_Wm2

该缓存覆盖五个城市,每个城市 720 个小时,时间范围为 2026-04-01 00:00 到 2026-04-30 23:00。

9. 图表目录 figures/

figures/.gitkeep

占位文件。Git 默认不提交空目录,所以用 .gitkeep 保留 figures/ 目录结构。

figures/solarchain_rl_method_framework.xml

diagrams.net/draw.io 图源文件。它描述 SolarChain-Eval 的 RL 方法框架,包括:

  • RL interaction loop。
  • energy data、market data、physics labels。
  • hourly encoder 和状态构造。
  • policy 或 Q network。
  • action selector 和 action sanitizer。
  • physics gate、market clearing、ledger update、reward allocation。
  • PPO、SAC、DQN 的学习更新。
  • trustworthiness evaluation。
  • paper-ready evidence。

这是方法图的源文件,不是程序运行依赖。

figures/solarchain_rl_trustworthiness_pipeline.xml

diagrams.net/draw.io 图源文件。它描述可信度评估流水线,包括:

  • 数据和物理特征构建。
  • 配置与实验控制。
  • Gymnasium 环境。
  • 策略、训练和 baseline。
  • 指标、输出文件和图表。
  • 论文流水线与 KDD trustworthiness framing。

这个文件适合导出为论文或汇报中的系统 pipeline 图。

10. 输出目录 outputs/

outputs/runs/.gitkeep

保留 outputs/runs/ 目录。实际运行时,训练和评估结果会写入这里。

典型输出结构:

outputs/runs/<run_id>/
  metrics.csv
  summary.json
  actions.csv
  city_hour_policy.csv
  config_snapshot.json
  run_metadata.json
  models/
    ppo/ppo_model.zip
    sac/sac_model.zip
    dqn/dqn_model.zip

outputs/paper_runs/.gitkeep

保留 outputs/paper_runs/ 目录。论文批量实验的 manifest、图表和 run 指针会写入这里。

典型输出结构:

outputs/paper_runs/<paper_run_id>/
  paper_run_metadata.json
  dataset_summary.json
  main_run.txt
  ablation_run.txt
  PAPER_RESULTS.md
  figures/
    main/
    ablation_no_physics_penalty/

11. 测试目录 tests/

tests/test_actions_metrics_env.py

单元测试和 smoke test 文件。

覆盖内容:

  • 连续动作解码后维度正确。
  • reward_ratio + liquidity_ratio 不超过 max_total_allocation
  • DQN 离散动作网格大小等于 discrete_levels ** 3
  • max_drawdownaction_jitterspatial_fairness_index 的基本正确性。
  • staticrandommyopic 三种内置策略都能在环境中 step。
  • 默认数据集能得到 24 个 absolute_hour
  • 多日数据环境 reset 只采样完整日开头。
  • 指定 start_hour=24 时,环境会依次走过 24 到 47 小时。
  • 高 backing 动作会带来不低于低 backing 动作的物理违规率。
  • artificial_liquidity_MWh 会出现在 info 中。

这个测试文件对动作约束、指标函数、环境基础运行和月度数据索引逻辑提供了基本保障。

12. 项目运行建议

快速检查

python -m pytest
python scripts/evaluate.py --policies "static,random,myopic" --episodes 1

训练单个 RL 模型

python scripts/train.py --algo ppo --timesteps 10000
python scripts/train.py --algo sac --timesteps 10000
python scripts/train.py --algo dqn --timesteps 10000

跑完整 baseline

python scripts/run_all_baselines.py --timesteps 2048 --episodes 2

使用月度论文配置

python scripts/run_all_baselines.py \
  --config configs/month_2026_04.yaml \
  --timesteps 100000 \
  --episodes 10

跑物理惩罚消融

python scripts/run_all_baselines.py \
  --config configs/month_2026_04.yaml \
  --timesteps 100000 \
  --episodes 10 \
  --no-physics-penalty

Linux 论文流水线

bash paper_pipeline/00_setup_linux.sh
bash paper_pipeline/01_smoke_check.sh
PAPER_RUN_ID=paper_final TIMESTEPS=300000 EPISODES=30 bash paper_pipeline/02_run_paper_experiments.sh

13. 关键设计点总结

这个项目的关键价值在于它把普通 RL benchmark 变成了一个可信度评估 benchmark。

普通 RL 项目通常只看 reward,而这里还同时记录:

  • 物理违规率。
  • 人造流动性。
  • 市场流动性回撤。
  • 代币价格回撤。
  • 动作抖动。
  • 城市奖励公平性。
  • 相对静态策略的滑点改善。
  • 完整动作轨迹和运行元数据。

因此,一个策略即使累计 reward 较高,也可能因为 physics_violation_rateartificial_liquidity_MWh 过高而被判定为不可信。这个设计正是项目服务 KDD Agentic AI trustworthiness 方向的核心。