text stringlengths 0 119 |
|---|
[line 1308] of AutoBenchResults: |
运行corrector一直无法修复问题 |
原错误scenario index:only scenario 10 |
运行内容: |
··· |
Passed; vector: {'check_en': True, 'scenario': '8', 'clk': 1, 'reset': 0, 'w': 1, 'z': 0} |
Passed; vector: {'check_en': True, 'scenario': '9', 'clk': 1, 'reset': 0, 'w': 0, 'z': 0} |
Passed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 0} |
Scenario: 10, expected: z=0, observed z=1 |
Failed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 1} |
Passed; vector: {'check_en': True, 'scenario': '10', 'clk': 1, 'reset': 0, 'w': 1, 'z': 1} |
Passed; vector: {'check_en': True, 'scenario': '11', 'clk': 1, 'reset': 0, 'w': 0, 'z': 0} |
··· |
错误原因:verilog的时序问题 |
问题点: |
// Scenario 10 |
scenario = 10; |
w = 1; // Loop in state E |
$fdisplay(file, "scenario: %d, clk = %d, reset = %d, w = %d, z = %d", scenario, clk, reset, w, z); |
repeat(3) begin |
#10; |
$fdisplay(file, "[check]scenario: %d, clk = %d, reset = %d, w = %d, z = %d", scenario, clk, reset, w, z); #10; |
end |
这个repeat里,会出现连续两个delay的问题 |
这个问题目前有两种思路,第一,在生成阶段,code standardization上修复这个时序问题;第二,在corrector阶段,加入对于verilog driver可能出现时序问题的处理方案 |
解决方案:目前倾向前期解决,再观察观察此问题是否多次出现; |
在corrector处解决的思路:优先判定是否为python问题,如果不是,则判定为verilog时序问题,调用standardization。 |
此类问题的scenario pattern为 |
1 1 1 ... 1 0 1 1 ... |
1 1 1 ... 1 0 1 1 ... |
1 1 1 ... 1 0 1 1 ... |
1 1 1 ... 1 0 1 1 ... |
1 1 1 ... 1 0 1 1 ... |
非常整齐,置信度很高,之后corrector可以考虑对此类高置信度情况分别处理 |
[line 1365][saves_inEDA/0805~0811/corrector/correct_test_80wrong_discrim_20240809_225259/1365] |
第一个问题是correct python时,把class直接删掉变成func了。需要在corrector处加上一些生成python时用到的格式要求,见stage 5 |
还是时序问题,同一个repeat里,一个check的前后都有一个#10,其实是个老问题 |
标准时序: |
// Scenario 6 |
scenario = 6; |
a = 0; $fdisplay(file, "scenario: %d, clk = %d, a = %d, q = %d", scenario, clk, a, q); |
#10; |
repeat(2) begin |
$fdisplay(file, "[check]scenario: %d, clk = %d, a = %d, q = %d", scenario, clk, a, q);#10; |
end |
另一个问题:本该写在loader里面的内容(更新内部状态),写在了checker里面,导致并不是每次load都会更新内部状态,时序出现错误。 |
并非逻辑错误,而是时序错误 |
参考改错调试:ipynb_demo/error_analysis/correct_test_80wrong_discrim_20240809_225259 |
进一步增强corrector: |
如果大量rtl的pattern都呈现相同,则增强对rtl的信心,挑选一个rtl的error info作为额外的信息给corrector |
例如,80%的rtl pattern都是 0000100,则挑选符合条件的第一个rtl的information。 |
UT-RSI 红蓝对抗与自我进化框架 (Red + Blue AutoBench + Multi-Round)
本目录为 UT-RSI 完整红蓝对抗框架交付包(ut-rsi-20261110),支持以下三种运行模式:
- 生成 Bug(Red Team):基于
responsibility-v28×4×6 三维正交 Bug Space(Where Component×What Feature×How Failure Mode),支持不放回策略采样、cannot_generate自报告与 Synopsys Formality 形式化非等价验证(每个槽位最多尝试 3 次)。 - 生成 UT(Blue Team / AutoBench 方法):集成完整的
autobench/WF_pychecker.py分阶段流水线(Stage 0–5 + Checklist),根据 Spec 和 Golden RTL 自动生成 Verilog Testbench 与 Python Golden Checker,并通过 Golden RTL 自检。 - 多轮红蓝对抗与自我进化(Multi-Round Adversarial Loop):
- 第 0 阶段(初始化):由 Blue Team 通过 AutoBench 从零生成初始
ut_0000(或通过initial_ut导入已有基线 UT),同时由 Red Team 完成 Golden RTL Review 与8×4×6相关性投影。 - 第 $1 \dots N$ 轮对抗:
- 串行不放回策略采样:在主进程中为当轮每个并行槽位(如
bug_workers: 4)预采样red_generate_attempts(默认 3)个互不重复的(Where, What, How)策略三元组; - 并行生成 Bug + Formality 验证 + Judge 仿真检测 + 3D 分类:4 个槽位并行运行,若槽位输出
cannot_generate或被 Formality 判定为equivalent,自动回退到该槽位的第 2、第 3 个预采样策略;若 3 次均未产出非等价 Bug,则跳过该槽位; - 串行修复 UT(Blue Repair):汇集当轮所有存活并逃逸当前 UT 的非等价 Bug(
ESCAPE),由 Blue Team 顺序增量修补 Testbench,生成ut_0001,ut_0002...,并通过历史 Bug 回归门禁(单调不退化)与 Golden RTL 门禁; - 轮末经验沉淀(Upgrade):Red Team 与 Blue Team 根据当轮战果各自更新持久化的
skill.md。
- 串行不放回策略采样:在主进程中为当轮每个并行槽位(如
- 第 0 阶段(初始化):由 Blue Team 通过 AutoBench 从零生成初始
1. 目录结构
ut-rsi-20261110/
├── README.md # 本使用说明文档
├── USAGE.zh-CN.md # 中文详细使用说明(与 README 同步)
├── main.py # 【入口 1】多轮红蓝对抗主入口(AutoBench 初始 UT + 多轮对抗)
├── generate_ut.py # 【入口 2】独立生成 UT 入口(Blue Team AutoBench WF_pychecker 方法)
├── generate_bugs.py # 【入口 3】独立生成 Bug 入口(Red Team 8×4×6 Bug Space + Formality)
├── configs/
│ └── history-shift-bugspace-8x4x6.yaml # 多轮对抗标准配置示例
├── engine/
│ ├── xbench.py # 跨轮次生命周期管理、断点恢复与原子提交
│ ├── parallel_round.py # 串行策略采样 -> 并行生成+检测 -> 串行修 UT 调度器
│ ├── config.py # YAML 与 CLI 配置解析及校验
│ ├── history.py # 历史轮次、矩阵与贝叶斯权重统计
│ ├── red/ # Red Team(8×4×6 tree、采样器、生成器、分类器、RTL review)
│ ├── blue/ # Blue Team(AutoBench 封装、串行 UT 修复器、单调回归门禁)
│ ├── judge/ # iverilog/vvp 仿真裁判与 events-v1 时序检查
│ └── common/ # OpenCode/LLM 调用、Formality Docker 运行器、原子存储
├── autobench/ # AutoBench 分阶段 UT 生成器(Blue Team 默认初始器,WF_pychecker.py + Prompts)
├── baselines/ # 开源学术对比基线(CorrectBench / ConfiBench / PRO-V)
│ ├── correctbench/ # CorrectBench (DATE 2025, AutoBench 2.0:功能自校验与自修正)
│ ├── confibench/ # ConfiBench (ACM TODAES 2025, AutoBench 3.0:置信度场景掩码与多 TB 集成)
│ └── pro-v/ # PRO-V (arXiv 2025:多 Agent 激励与 PyChecker 一致性验证框架)
├── data/ # HDLBits 基准数据集(156 题 spec + golden RTL)
├── inputs/ # 独立脚本运行示例输入(spec.json / golden.v)
├── formality.example.yaml # Formality 环境配置模板
├── requirements.txt # Python 依赖列表
├── SOURCE_MANIFEST.json # 交付包文件清单与 SHA256
└── SHA256SUMS # sha256sum 校验文件
2. 环境准备
2.1 安装 Python 依赖
cd /mnt/gfs/qyh/aiworkspace/delivery/ut-rsi-20261110
python3 -m pip install -r requirements.txt
2.2 环境变量配置
- LLM / OpenCode:
autobench/使用DEEPSEEK_API_KEY调用 DeepSeek 模型(或在autobench/config.yaml中配置)。engine/默认使用本机已配置的 OpenCode CLI(可通过环境变量UT_RSI_OPENCODE_CLI=/path/to/opencode指定自定义路径;若未设置则自动使用本机默认路径或PATH中的opencode)。
- 仿真与形式化工具:
iverilog/vvp:已在配置中默认指向/data/home/qinyuhan/verification/tools/iverilog-jammy/bin/iverilog(可通过--iverilog/--vvp覆盖)。- Docker + Synopsys Formality 镜像:
phyzli/ubuntu18.04_xfce4_vnc4server_synopsys2016:latest(可通过 YAML 或命令行参数覆盖)。
3. 使用方法(三种核心模式)
模式一:运行完整的多轮红蓝对抗(AutoBench 生成 UT + 多轮生成 Bug 与修 UT)
使用 main.py 启动。默认配置文件 configs/history-shift-bugspace-8x4x6.yaml 已配置为:
blue_backend: autobench且initial_ut: ''(第 0 阶段使用 AutoBench 从头生成初始ut_0000)taxonomy_version: responsibility-v2(使用8×4×6三维 Bug Space)bugs_per_round: 4,bug_workers: 4,red_generate_attempts: 3rounds: 3(共执行 3 轮红蓝对抗)
启动命令:
python3 main.py \
--config configs/history-shift-bugspace-8x4x6.yaml \
--workdir ./runs/history_shift_3rounds
常用命令行覆盖参数:
- 指定题目(
data/下的任意task_id)和轮数:python3 main.py \ --config configs/history-shift-bugspace-8x4x6.yaml \ --task-id count10 \ --rounds 3 \ --bugs-per-round 4 \ --bug-workers 4 \ --workdir ./runs/count10_3rounds - 如果已有初始 UT,希望跳过第 0 阶段 AutoBench 生成、直接从已有
ut_0000开始多轮对抗,只需传入--initial-ut:python3 main.py \ --config configs/history-shift-bugspace-8x4x6.yaml \ --initial-ut /path/to/existing/ut_0000 \ --workdir ./runs/history_shift_from_existing_ut - 断点续跑(Resume):若实验中途中断,可从最近一次已提交的轮次检查点恢复:
python3 main.py --resume --workdir ./runs/history_shift_3rounds
模式二:单独生成初始 UT(Blue Team — AutoBench WF_pychecker 方法)
如果只需要针对某个 RTL 模块使用 AutoBench 分阶段方法生成高质量 UT(Verilog Testbench + Python Golden Checker),直接运行 generate_ut.py:
方式 A:直接指定 data/ 中的 task_id
python3 generate_ut.py \
--task-id history_shift \
--data-dir ./data \
--out ./runs/ut_only_history_shift
方式 B:指定任意自定义 Spec 文件与 Golden RTL 文件
python3 generate_ut.py \
--spec ./data/history_shift_spec.txt \
--golden ./data/history_shift_golden.sv \
--task-id history_shift \
--out ./runs/ut_custom_history_shift
运行完成后:
- 最终生成的 Testbench 位于:
<out>/blue/ut/ut_0000/testbench.v - AutoBench Stage 0–5 完整生成产物(含
testbench_final.v、golden_Duty.py、仿真日志)位于:<out>/blue/ut/ut_0000/autobench/ - 汇总信息位于:
<out>/ut_summary.json
模式三:单独生成非等价 Bug(Red Team — 8×4×6 Bug Space + Formality)
如果只需要运行 Red Team 生成通过 Formality 形式化验证的非等价 Bug(不运行 Blue Team UT),运行 generate_bugs.py:
cp formality.example.yaml formality.local.yaml
python3 generate_bugs.py \
--spec inputs/spec.json \
--golden inputs/golden.v \
--task-id history_shift \
--formality-config formality.local.yaml \
--count 4 \
--max-attempts-per-bug 3 \
--out ./runs/bugs_only_history_shift
运行完成后:
- 所有通过 Formality 非等价验证的 Bug 汇总在
<out>/summary.json与<out>/accepted/bug_XXXX/buggy.sv。 - 每次采样尝试的完整记录(包括
equivalent或cannot_generate)保存在<out>/red/candidates/cand_XXXX/。
4. 产物保存结构说明(<workdir>/)
每次运行都会在指定的 <workdir> 下保存每一轮生成的 Bug 和每一个版本的 UT,不会覆盖历史版本:
<workdir>/
├── config.resolved.yaml # 本次运行的完整解析配置快照
├── result.json # 实验最终汇总结果
├── events.jsonl # 全流程事件时间线日志
├── blue/
│ ├── skill.md # Blue Team 跨轮演化的测试经验
│ └── ut/
│ ├── ut_0000/ # 初始 UT(含 testbench.v、meta.json、autobench/)
│ ├── ut_0001/ # 修补第 1 个 ESCAPE bug 后的新版本 UT
│ └── ut_0002/ # 修补第 2 个 ESCAPE bug 后的新版本 UT
├── red/
│ ├── skill.md # Red Team 跨轮演化的攻击经验
│ └── review/ # 第 0 阶段 Golden RTL Review 与 8×4×6 相关性权重
├── parallel/
│ └── round_0001/ # 第 1 轮并行执行目录(每轮一个独立目录)
│ ├── round_summary.json # 当轮预采样策略列表、各槽位状态、修补前后结果汇总
│ └── workers/
│ └── slot_01..04/ # 每个并行槽位尝试过的全部候选 Bug (cand_XXXX)
│ ├── red/candidates/cand_XXXX/
│ │ ├── buggy.sv # 生成的 Bug RTL
│ │ ├── attempt.json # 采样策略与状态(accepted / equivalent / cannot_generate)
│ │ └── formal/result.json # Formality 形式化验证报告与 fm.log
│ └── judge/ # 该槽位 Bug 对当前 UT 的仿真评测日志
└── history/
├── state.json # 当前最新提交状态
└── checkpoints/
└── round_0001.json # 每轮完整快照(包含当轮 bugs、evaluations、active_ut 等)
5. 完整性校验
在交付包根目录下可执行以下命令校验所有 259 个文件未被篡改或损坏:
sha256sum -c SHA256SUMS
- Downloads last month
- 249