Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringlengths
0
119
[line 1308] of AutoBenchResults:
运行corrector一直无法修复问题
原错误scenario index:only scenario 10
运行内容:
···
Passed; vector: {'check_en': True, 'scenario': '8', 'clk': 1, 'reset': 0, 'w': 1, 'z': 0}
Passed; vector: {'check_en': True, 'scenario': '9', 'clk': 1, 'reset': 0, 'w': 0, 'z': 0}
Passed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 0}
Scenario: 10, expected: z=0, observed z=1
Failed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 1}
Passed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 1}
Passed; vector: {'check_en': True, 'scenario': '11', 'clk': 1, 'reset': 0, 'w': 0, 'z': 0}
···
错误原因:verilog的时序问题
问题点:
// Scenario 10
scenario = 10;
w = 1; // Loop in state E
$fdisplay(file, "scenario: %d, clk = %d, reset = %d, w = %d, z = %d", scenario, clk, reset, w, z);
repeat(3) begin
#10;
$fdisplay(file, "[check]scenario: %d, clk = %d, reset = %d, w = %d, z = %d", scenario, clk, reset, w, z); #10;
end
这个repeat里,会出现连续两个delay的问题
这个问题目前有两种思路,第一,在生成阶段,code standardization上修复这个时序问题;第二,在corrector阶段,加入对于verilog driver可能出现时序问题的处理方案
解决方案:目前倾向前期解决,再观察观察此问题是否多次出现;
在corrector处解决的思路:优先判定是否为python问题,如果不是,则判定为verilog时序问题,调用standardization。
此类问题的scenario pattern为
1 1 1 ... 1 0 1 1 ...
1 1 1 ... 1 0 1 1 ...
1 1 1 ... 1 0 1 1 ...
1 1 1 ... 1 0 1 1 ...
1 1 1 ... 1 0 1 1 ...
非常整齐,置信度很高,之后corrector可以考虑对此类高置信度情况分别处理
[line 1365][saves_inEDA/0805~0811/corrector/correct_test_80wrong_discrim_20240809_225259/1365]
第一个问题是correct python时,把class直接删掉变成func了。需要在corrector处加上一些生成python时用到的格式要求,见stage 5
还是时序问题,同一个repeat里,一个check的前后都有一个#10,其实是个老问题
标准时序:
// Scenario 6
scenario = 6;
a = 0; $fdisplay(file, "scenario: %d, clk = %d, a = %d, q = %d", scenario, clk, a, q);
#10;
repeat(2) begin
$fdisplay(file, "[check]scenario: %d, clk = %d, a = %d, q = %d", scenario, clk, a, q);#10;
end
另一个问题:本该写在loader里面的内容(更新内部状态),写在了checker里面,导致并不是每次load都会更新内部状态,时序出现错误。
并非逻辑错误,而是时序错误
参考改错调试:ipynb_demo/error_analysis/correct_test_80wrong_discrim_20240809_225259
进一步增强corrector:
如果大量rtl的pattern都呈现相同,则增强对rtl的信心,挑选一个rtl的error info作为额外的信息给corrector
例如,80%的rtl pattern都是 0000100,则挑选符合条件的第一个rtl的information。

UT-RSI 红蓝对抗与自我进化框架 (Red + Blue AutoBench + Multi-Round)

本目录为 UT-RSI 完整红蓝对抗框架交付包(ut-rsi-20261110),支持以下三种运行模式:

  1. 生成 Bug(Red Team):基于 responsibility-v2 8×4×6 三维正交 Bug Space(Where Component × What Feature × How Failure Mode),支持不放回策略采样、cannot_generate 自报告与 Synopsys Formality 形式化非等价验证(每个槽位最多尝试 3 次)。
  2. 生成 UT(Blue Team / AutoBench 方法):集成完整的 autobench/WF_pychecker.py 分阶段流水线(Stage 0–5 + Checklist),根据 Spec 和 Golden RTL 自动生成 Verilog Testbench 与 Python Golden Checker,并通过 Golden RTL 自检。
  3. 多轮红蓝对抗与自我进化(Multi-Round Adversarial Loop):
    • 第 0 阶段(初始化):由 Blue Team 通过 AutoBench 从零生成初始 ut_0000(或通过 initial_ut 导入已有基线 UT),同时由 Red Team 完成 Golden RTL Review 与 8×4×6 相关性投影。
    • 第 $1 \dots N$ 轮对抗:
      1. 串行不放回策略采样:在主进程中为当轮每个并行槽位(如 bug_workers: 4)预采样 red_generate_attempts(默认 3)个互不重复的 (Where, What, How) 策略三元组;
      2. 并行生成 Bug + Formality 验证 + Judge 仿真检测 + 3D 分类:4 个槽位并行运行,若槽位输出 cannot_generate 或被 Formality 判定为 equivalent,自动回退到该槽位的第 2、第 3 个预采样策略;若 3 次均未产出非等价 Bug,则跳过该槽位;
      3. 串行修复 UT(Blue Repair):汇集当轮所有存活并逃逸当前 UT 的非等价 Bug(ESCAPE),由 Blue Team 顺序增量修补 Testbench,生成 ut_0001, ut_0002...,并通过历史 Bug 回归门禁(单调不退化)与 Golden RTL 门禁;
      4. 轮末经验沉淀(Upgrade):Red Team 与 Blue Team 根据当轮战果各自更新持久化的 skill.md。

1. 目录结构

ut-rsi-20261110/
├── README.md                    # 本使用说明文档
├── USAGE.zh-CN.md               # 中文详细使用说明(与 README 同步)
├── main.py                      # 【入口 1】多轮红蓝对抗主入口(AutoBench 初始 UT + 多轮对抗)
├── generate_ut.py               # 【入口 2】独立生成 UT 入口(Blue Team AutoBench WF_pychecker 方法)
├── generate_bugs.py             # 【入口 3】独立生成 Bug 入口(Red Team 8×4×6 Bug Space + Formality)
├── configs/
│   └── history-shift-bugspace-8x4x6.yaml  # 多轮对抗标准配置示例
├── engine/
│   ├── xbench.py                # 跨轮次生命周期管理、断点恢复与原子提交
│   ├── parallel_round.py        # 串行策略采样 -> 并行生成+检测 -> 串行修 UT 调度器
│   ├── config.py                # YAML 与 CLI 配置解析及校验
│   ├── history.py               # 历史轮次、矩阵与贝叶斯权重统计
│   ├── red/                     # Red Team(8×4×6 tree、采样器、生成器、分类器、RTL review)
│   ├── blue/                    # Blue Team(AutoBench 封装、串行 UT 修复器、单调回归门禁)
│   ├── judge/                   # iverilog/vvp 仿真裁判与 events-v1 时序检查
│   └── common/                  # OpenCode/LLM 调用、Formality Docker 运行器、原子存储
├── autobench/                   # AutoBench 分阶段 UT 生成器(Blue Team 默认初始器,WF_pychecker.py + Prompts)
├── baselines/                   # 开源学术对比基线(CorrectBench / ConfiBench / PRO-V)
│   ├── correctbench/            # CorrectBench (DATE 2025, AutoBench 2.0:功能自校验与自修正)
│   ├── confibench/              # ConfiBench (ACM TODAES 2025, AutoBench 3.0:置信度场景掩码与多 TB 集成)
│   └── pro-v/                   # PRO-V (arXiv 2025:多 Agent 激励与 PyChecker 一致性验证框架)
├── data/                        # HDLBits 基准数据集(156 题 spec + golden RTL)
├── inputs/                      # 独立脚本运行示例输入(spec.json / golden.v)
├── formality.example.yaml       # Formality 环境配置模板
├── requirements.txt             # Python 依赖列表
├── SOURCE_MANIFEST.json         # 交付包文件清单与 SHA256
└── SHA256SUMS                   # sha256sum 校验文件

2. 环境准备

2.1 安装 Python 依赖

cd /mnt/gfs/qyh/aiworkspace/delivery/ut-rsi-20261110
python3 -m pip install -r requirements.txt

2.2 环境变量配置

  • LLM / OpenCode:
    • autobench/ 使用 DEEPSEEK_API_KEY 调用 DeepSeek 模型(或在 autobench/config.yaml 中配置)。
    • engine/ 默认使用本机已配置的 OpenCode CLI(可通过环境变量 UT_RSI_OPENCODE_CLI=/path/to/opencode 指定自定义路径;若未设置则自动使用本机默认路径或 PATH 中的 opencode)。
  • 仿真与形式化工具:
    • iverilog / vvp:已在配置中默认指向 /data/home/qinyuhan/verification/tools/iverilog-jammy/bin/iverilog(可通过 --iverilog / --vvp 覆盖)。
    • Docker + Synopsys Formality 镜像:phyzli/ubuntu18.04_xfce4_vnc4server_synopsys2016:latest(可通过 YAML 或命令行参数覆盖)。

3. 使用方法(三种核心模式)

模式一:运行完整的多轮红蓝对抗(AutoBench 生成 UT + 多轮生成 Bug 与修 UT)

使用 main.py 启动。默认配置文件 configs/history-shift-bugspace-8x4x6.yaml 已配置为:

  • blue_backend: autobench 且 initial_ut: ''(第 0 阶段使用 AutoBench 从头生成初始 ut_0000)
  • taxonomy_version: responsibility-v2(使用 8×4×6 三维 Bug Space)
  • bugs_per_round: 4, bug_workers: 4, red_generate_attempts: 3
  • rounds: 3(共执行 3 轮红蓝对抗)

启动命令:

python3 main.py \
  --config configs/history-shift-bugspace-8x4x6.yaml \
  --workdir ./runs/history_shift_3rounds

常用命令行覆盖参数:

  • 指定题目(data/ 下的任意 task_id)和轮数:
    python3 main.py \
      --config configs/history-shift-bugspace-8x4x6.yaml \
      --task-id count10 \
      --rounds 3 \
      --bugs-per-round 4 \
      --bug-workers 4 \
      --workdir ./runs/count10_3rounds
    
  • 如果已有初始 UT,希望跳过第 0 阶段 AutoBench 生成、直接从已有 ut_0000 开始多轮对抗,只需传入 --initial-ut:
    python3 main.py \
      --config configs/history-shift-bugspace-8x4x6.yaml \
      --initial-ut /path/to/existing/ut_0000 \
      --workdir ./runs/history_shift_from_existing_ut
    
  • 断点续跑(Resume):若实验中途中断,可从最近一次已提交的轮次检查点恢复:
    python3 main.py --resume --workdir ./runs/history_shift_3rounds
    

模式二:单独生成初始 UT(Blue Team — AutoBench WF_pychecker 方法)

如果只需要针对某个 RTL 模块使用 AutoBench 分阶段方法生成高质量 UT(Verilog Testbench + Python Golden Checker),直接运行 generate_ut.py:

方式 A:直接指定 data/ 中的 task_id

python3 generate_ut.py \
  --task-id history_shift \
  --data-dir ./data \
  --out ./runs/ut_only_history_shift

方式 B:指定任意自定义 Spec 文件与 Golden RTL 文件

python3 generate_ut.py \
  --spec ./data/history_shift_spec.txt \
  --golden ./data/history_shift_golden.sv \
  --task-id history_shift \
  --out ./runs/ut_custom_history_shift

运行完成后:

  • 最终生成的 Testbench 位于:<out>/blue/ut/ut_0000/testbench.v
  • AutoBench Stage 0–5 完整生成产物(含 testbench_final.v、golden_Duty.py、仿真日志)位于:<out>/blue/ut/ut_0000/autobench/
  • 汇总信息位于:<out>/ut_summary.json

模式三:单独生成非等价 Bug(Red Team — 8×4×6 Bug Space + Formality)

如果只需要运行 Red Team 生成通过 Formality 形式化验证的非等价 Bug(不运行 Blue Team UT),运行 generate_bugs.py:

cp formality.example.yaml formality.local.yaml
python3 generate_bugs.py \
  --spec inputs/spec.json \
  --golden inputs/golden.v \
  --task-id history_shift \
  --formality-config formality.local.yaml \
  --count 4 \
  --max-attempts-per-bug 3 \
  --out ./runs/bugs_only_history_shift

运行完成后:

  • 所有通过 Formality 非等价验证的 Bug 汇总在 <out>/summary.json 与 <out>/accepted/bug_XXXX/buggy.sv。
  • 每次采样尝试的完整记录(包括 equivalent 或 cannot_generate)保存在 <out>/red/candidates/cand_XXXX/。

4. 产物保存结构说明(<workdir>/)

每次运行都会在指定的 <workdir> 下保存每一轮生成的 Bug 和每一个版本的 UT,不会覆盖历史版本:

<workdir>/
├── config.resolved.yaml             # 本次运行的完整解析配置快照
├── result.json                      # 实验最终汇总结果
├── events.jsonl                     # 全流程事件时间线日志
├── blue/
│   ├── skill.md                     # Blue Team 跨轮演化的测试经验
│   └── ut/
│       ├── ut_0000/                 # 初始 UT(含 testbench.v、meta.json、autobench/)
│       ├── ut_0001/                 # 修补第 1 个 ESCAPE bug 后的新版本 UT
│       └── ut_0002/                 # 修补第 2 个 ESCAPE bug 后的新版本 UT
├── red/
│   ├── skill.md                     # Red Team 跨轮演化的攻击经验
│   └── review/                      # 第 0 阶段 Golden RTL Review 与 8×4×6 相关性权重
├── parallel/
│   └── round_0001/                  # 第 1 轮并行执行目录(每轮一个独立目录)
│       ├── round_summary.json       # 当轮预采样策略列表、各槽位状态、修补前后结果汇总
│       └── workers/
│           └── slot_01..04/         # 每个并行槽位尝试过的全部候选 Bug (cand_XXXX)
│               ├── red/candidates/cand_XXXX/
│               │   ├── buggy.sv             # 生成的 Bug RTL
│               │   ├── attempt.json         # 采样策略与状态(accepted / equivalent / cannot_generate)
│               │   └── formal/result.json   # Formality 形式化验证报告与 fm.log
│               └── judge/                   # 该槽位 Bug 对当前 UT 的仿真评测日志
└── history/
    ├── state.json                   # 当前最新提交状态
    └── checkpoints/
        └── round_0001.json          # 每轮完整快照(包含当轮 bugs、evaluations、active_ut 等)

5. 完整性校验

在交付包根目录下可执行以下命令校验所有 259 个文件未被篡改或损坏:

sha256sum -c SHA256SUMS
Downloads last month
249