README.md

---
license: bsd-3-clause
task_categories:
- other
language:
- en
tags:
- mixed-integer-programming
- power-systems
- optimization
- unit-commitment
- mps
- benchmark
size_categories:
- 10K<n<100K
---

# UnitCommitment Trajectory MPS Dataset

本仓库基于修改版 `UnitCommitment.jl`，从 MATPOWER 机组组合实例生成标准 `.mps` 文件，用于混合整数规划、机组组合、SCUC 模型和求解器基准测试。

代码仓库地址：[EridanusQ/UnitCommitment_Trajectory](https://huggingface.co/datasets/EridanusQ/UnitCommitment_Trajectory)

数据集仓库地址：[EridanusQ/UnitCommitment_Trajectory_Dataset](https://huggingface.co/datasets/EridanusQ/UnitCommitment_Trajectory_Dataset)

本文档面向 Linux 服务器运行。所有命令默认在仓库根目录执行，也就是包含 `Project.toml`、`generate_dataset.jl` 和 `benchmark/` 的目录。

## 1. 项目结构

```text
UnitCommitment_Trajectory/
├── README.md
├── Project.toml
├── Manifest.toml
├── generate_dataset.jl
├── create_scuc_mps_files.jl
├── benchmark/
│   └── scripts/
│       └── download_matpower_instances.py
├── docs/
│   └── src/guides/instances.md
├── instances/
│   └── matpower/
├── src/
└── testdata/
```

默认路径如下：

| 类型 | 默认路径 | 说明 |
| :--- | :--- | :--- |
| 输入实例 | `instances/matpower` | `.json.gz` 输入文件 |
| 输出数据集 | `../UnitCommitment_Trajectory_Dataset` | `.mps` 输出文件，默认在仓库上一级目录 |
| case 列表来源 | `docs/src/guides/instances.md` | 下载脚本会从这里解析 MATPOWER case |

## 2. Linux 环境准备

建议使用 Ubuntu 22.04/24.04、Debian 12、Rocky Linux 9 或其他常见 x86_64 Linux 服务器。

必需软件：

- Julia 1.12.x。当前 `Manifest.toml` 由 Julia 1.12.6 生成。
- Python 3.9+。下载脚本只使用 Python 标准库。
- `git`、`curl` 或 `wget`。
- 足够的磁盘空间。全量生成会产生数万个 `.mps` 文件，建议把输入和输出放在大容量数据盘。

安装 Julia 的一种方式：

```bash
curl -fsSL https://install.julialang.org | sh
exec "$SHELL"
julia --version
```

如果服务器不能访问外网，也可以手动安装 Julia 1.12.x，并确保 `julia` 在 `PATH` 中。

在共享服务器上，建议显式设置 Julia depot，避免把依赖写到不合适的位置：

```bash
mkdir -p /data/julia_depot
export JULIA_DEPOT_PATH=/data/julia_depot
```

不要直接复用 Windows 机器上的 `.julia_depot`。请在 Linux 上重新实例化依赖，Julia 会下载适合 Linux 的二进制 artifacts。

## 3. 初始化 Julia 依赖

```bash
cd /path/to/UnitCommitment_Trajectory
julia --project=. -e 'using Pkg; Pkg.instantiate(); Pkg.precompile()'
```

如果服务器网络较慢，第一次执行可能需要较长时间。完成后可以验证包能否加载：

```bash
julia --project=. -e 'using UnitCommitment; println("UnitCommitment loaded")'
```

## 4. 下载 MATPOWER 输入实例

先查看支持的 case：

```bash
python3 benchmark/scripts/download_matpower_instances.py --list-cases
```

支持的 case 包括：

```text
case14 case30 case57 case118 case300
case2383wp case2736sp case2737sop case2746wop case2746wp
case3012wp case3120sp case3375wp
case89pegase case1354pegase case2869pegase case9241pegase case13659pegase
case1888rte case1951rte case2848rte case2868rte
case6468rte case6470rte case6495rte case6515rte
```

推荐先下载一个小范围做连通性测试：

```bash
python3 benchmark/scripts/download_matpower_instances.py \
  --start-date 2017-01-01 \
  --end-date 2017-01-01 \
  --workers 8
```

下载全量 2017 年数据：

```bash
python3 benchmark/scripts/download_matpower_instances.py --workers 16
```

下载脚本默认写入 `instances/matpower/<case>/<YYYY-MM-DD>.json.gz`。如果希望把输入数据放在数据盘：

```bash
python3 benchmark/scripts/download_matpower_instances.py \
  --out-dir /data/uc_inputs/matpower \
  --workers 16
```

检查下载数量：

```bash
find instances/matpower -name '*.json.gz' | wc -l
```

全量数据目标约为 9487 个输入实例。远端若有少数 URL 暂时失败或缺失，下载脚本会打印失败地址并返回非零状态；已经下载成功的文件会保留，重新运行同一命令会自动跳过非空文件。

## 5. 单实例冒烟测试

冒烟测试会读取 `instances/matpower/case30/2017-01-01.json.gz`，并在当前目录生成 4 个 `.mps` 文件：

```bash
julia --project=. create_scuc_mps_files.jl
ls -lh uc_*mps
```

如果你把输入数据放到了自定义目录，请先把对应文件放回默认路径，或临时创建软链接：

```bash
mkdir -p instances
ln -s /data/uc_inputs/matpower instances/matpower
```

## 6. 批量生成 MPS

`generate_dataset.jl` 会扫描输入目录下已经存在的 `.json.gz` 文件。每个输入实例生成 4 个 `.mps` 变体：

```text
hourly_noline       小时级 UC，不含线路约束
hourly_withline     小时级 SCUC，含线路约束
subhourly_noline    子小时级 UC，不含线路约束
subhourly_withline  子小时级 SCUC，含线路约束
```

文件命名规则：

```text
<case>_<date>_<resolution>_<network>.mps
```

示例：

```text
case30_2017-01-01_h_noline.mps
case30_2017-01-01_s_withline.mps
```

先做 dry run，确认输入、输出和 case 选择正确：

```bash
UC_DRY_RUN=1 julia --project=. generate_dataset.jl
```

只生成小 case：

```bash
UC_CASES=case14,case30 \
UC_OUTPUT_ROOT=/data/uc_mps \
julia --project=. generate_dataset.jl
```

使用 128 个 Julia worker 进程并行生成：

```bash
UC_WORKERS=128 \
UC_CASES=case14,case30,case57,case118 \
UC_OUTPUT_ROOT=/pub/data/daizhengyu \
julia --project=. generate_dataset.jl
```

使用自定义输入目录和输出目录：

```bash
UC_INPUT_ROOT=/data/uc_inputs/matpower \
UC_OUTPUT_ROOT=/data/uc_mps \
julia --project=. generate_dataset.jl
```

全量生成：

```bash
UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl
```

检查输出数量：

```bash
find /data/uc_mps -name '*.mps' | wc -l
du -sh /data/uc_mps
```

## 7. 长任务在服务器后台运行

全量生成耗时较长，建议使用 `tmux` 或 `screen`，避免 SSH 断开导致任务中止。

使用 `tmux`：

```bash
tmux new -s uc-mps
cd /path/to/UnitCommitment_Trajectory
export JULIA_DEPOT_PATH=/data/julia_depot
export UC_WORKERS=128
export UC_OUTPUT_ROOT=/data/uc_mps
julia --project=. generate_dataset.jl 2>&1 | tee generate_dataset.log
```

断开会话：

```bash
Ctrl-b d
```

重新进入：

```bash
tmux attach -t uc-mps
```

不用 `tmux` 时，也可以用 `nohup`：

```bash
nohup bash -lc 'UC_WORKERS=128 UC_OUTPUT_ROOT=/data/uc_mps julia --project=. generate_dataset.jl' > generate_dataset.log 2>&1 &
tail -f generate_dataset.log
```

生成 `case14`、`case30`、`case57`、`case118` 并输出到 `/pub/data/daizhengyu` 的后台命令：

```bash
mkdir -p /pub/data/daizhengyu
nohup bash -lc 'JULIA_NUM_THREADS=1 UC_WORKERS=128 UC_CASES=case14,case30,case57,case118 UC_OUTPUT_ROOT=/pub/data/daizhengyu julia --project=. generate_dataset.jl' > /pub/data/daizhengyu/generate_case14_30_57_118.log 2>&1 &
tail -f /pub/data/daizhengyu/generate_case14_30_57_118.log
```

## 8. 可用环境变量

| 变量 | 默认值 | 作用 |
| :--- | :--- | :--- |
| `UC_INPUT_ROOT` | `instances/matpower` | 输入 `.json.gz` 根目录 |
| `UC_OUTPUT_ROOT` | `../UnitCommitment_Trajectory_Dataset` | 输出 `.mps` 根目录 |
| `UC_CASES` | 空 | 逗号分隔的 case 白名单，例如 `case14,case30` |
| `UC_WORKERS` | `1` | Julia worker 进程数，例如 `128` |
| `UC_DRY_RUN` | 空 | 设为 `1`、`true`、`yes` 或 `y` 时只打印计划，不生成文件 |

清理变量：

```bash
unset UC_INPUT_ROOT UC_OUTPUT_ROOT UC_CASES UC_WORKERS UC_DRY_RUN
```

## 9. 常见问题

### `julia: command not found`

Julia 没有安装，或安装后没有加入 `PATH`。重新登录 shell，或把 Julia 的 `bin` 目录加入 `PATH`。

### `Input directory does not exist: instances/matpower`

还没有下载输入数据，或当前工作目录不是仓库根目录。先运行下载脚本，或通过 `UC_INPUT_ROOT` 指向真实输入目录。

### `No cases selected under ...`

输入目录下没有 `.json.gz` 文件，或者 `UC_CASES` 写了不存在的 case。用下面命令检查：

```bash
find "${UC_INPUT_ROOT:-instances/matpower}" -name '*.json.gz' | head
```

### 下载速度慢或失败

降低并发或增加重试：

```bash
python3 benchmark/scripts/download_matpower_instances.py \
  --workers 4 \
  --timeout 120 \
  --retries 5
```

已经下载成功的非空文件会自动跳过，可以重复执行同一命令。

### 磁盘空间不足

不要把全量输出写到系统盘。使用 `UC_OUTPUT_ROOT=/data/uc_mps` 指向大容量数据盘，并先用 `UC_CASES=case14,case30` 做小规模测试。

### 服务器断线后任务停止

使用 `tmux`、`screen` 或 `nohup`。长任务不要直接跑在普通 SSH 前台会话里。

## 10. 引用

原始 UnitCommitment.jl DOI：
[10.5281/zenodo.4269874](https://doi.org/10.5281/zenodo.4269874)