simon508/RadJEPA-Sol-SFT-JEPA-RL

这份数据是做什么的？

让你加载原始 Qwen3-8B，训练它“针对一个CT病例，应该问哪些问题”：先用 SFT 学习查询，再自行运行 judge（本仓库 code/，与 GitHub 仓库 Heimerd1nger/RadJEPA-Query-RL 相同）、计算 reward、训练 RL。 这里不放策略模型、已算好的 reward 或实验成绩；产生全部 JEPA 内容的 encoder 及其推理代码在 encoder/。

所有 JEPA 相关内容都来自同一个 Rad-VL-JEPA encoder（重建版，step 9736）：相似报告检索、Base报告、 JEPA工具答案和 finding 阈值。不包含任何更早 encoder 的结果。

每个病例的输入包含3篇相似报告：base_report（最相似的1篇）和 retrieved_reports（另外2篇，来自其他患者， 按相似度从高到低），外加患者信息（年龄、性别、临床信息、最近一次既往报告及间隔天数）。 示范查询由 GPT-6.1 Sol（medium reasoning）在完全相同的输入和 prompt 下生成。

文件	说明
sft/train.jsonl	3,360道训练题。initial_context 是模型能看到的输入，target 是示范查询列表。
sft/validation.jsonl	183道留出题，格式相同；患者与训练集不重叠。
jepa/answers.jsonl	JEPA工具答案：3,543个病例 × 107种查询。是模型预测，不是真实标签。
judge/inputs.jsonl	评分资料：Base报告、Base的18类finding标签、18类finding真实标签、属性参考问答。不要作为policy输入。
prompts/student_prompt.txt	生成示范时使用的完整指令（学生模型用同一份）。
prompts/query_catalog.json	允许问的107种问题。
settings/base_model.json	Qwen版本、JEPA与教师设置、病例选择规则、划分方式和参考数据来源。

文件通过 study_id 对齐；JEPA答案通过 query_id 对齐，与 target 中的查询ID一致。 问到某个问题时才给policy看对应JEPA答案，不能把整本答案或参考真值提前给它。

怎么用

1. 使用原始 Qwen/Qwen3-8B；固定版本见settings。
2. 把 student prompt 中的 {{CASE_INPUT_JSON}} 替换成 json.dumps(initial_context, ensure_ascii=False)，作为一条 user 消息； enable_thinking=False, add_generation_prompt=True。SFT 监督输出为 target+EOS。
3. RL：policy 生成查询后，按 study ID 和 query ID 查 JEPA答案；用 judge 代码在你的机器上得到属性语义分数和 Base错误项（目标集合），再计算 coverage reward。

from datasets import load_dataset
sft = load_dataset("simon508/RadJEPA-Sol-SFT-JEPA-RL", "sft", token=True)

Reward 相关字段如何对齐

• Base 报告就是 initial_context.base_report；judge/inputs.jsonl 中的 base_report 与它逐字相同。
• base_findings = 该 Base 报告（base_study_id）的 CT-RATE 18类标签；finding_truth = 当前病例的 CT-RATE 标签。
• 属性参考答案只来自 CT-FineBench 标注；未标注的属性视为没有，不计分。
• 目标集合 = Base 判断错误的 finding（漏报+误报）+ Base 属性得分 < 1 的已标注属性；只根据 base_report 计算。

必须区分的几点

• JEPA答案不是ground truth。真实标签和参考答案在judge输入里。
• 病例不是自然分布：要求有CT-FineBench属性标注、去掉输入完全相同的病例，优先有既往报告、Base有finding错误的病例； 规则在生成前固定，没有用教师输出筛选，详见settings。教师输出有结构问题的病例整条剔除。
• 示范是开环查询计划：教师在看到任何JEPA答案之前决定全部查询。
• 不包含原始CT。encoder/ 只能对已提供 visual tokens 的 CT-RATE volume 推理；新CT需要先用同一视觉模型提取 tokens（不在本仓库）。

本批共有46,695条可评分属性问答；0个病例没有受支持的属性标注，仍保留finding标签。

完整官方评估：另外3039个CT volume

文件	用途
official_validation/cases.jsonl	3039个CT的模型输入，同样是同一JEPA检索的3篇相似报告；没有监督target。
official_validation/jepa/answers.jsonl	同一JEPA的工具回答（每个volume独立推理）。
official_validation/judge/inputs.jsonl	Base报告与其finding标签、18类finding真实标签（CT-RATE官方valid标签）和属性参考问答，仅交给评分程序。

共3039个volume、1564次检查、1304位患者，和SFT训练/留出患者均不重叠。study_id 是完整volume ID， exam_id 表示同一次检查，patient_id 表示患者；置信区间按患者分组计算。 官方集只用于评估，不用于SFT/RL或超参数/检查点选择；它在项目此前实验中使用过，不能称为完全未见的外部测试集。

只用 Hugging Face：代码在 code/

code/ 是 judge、reward 目标和官方评估的完整代码，安装、命令和 judge 设置见 code/README.md。 只做 SFT/RL/评分时不需要 encoder/（约47 GB），下载时可以排除：

hf download simon508/RadJEPA-Sol-SFT-JEPA-RL --repo-type dataset --local-dir /your/disk/data --exclude 'encoder/*'

Judge 与作者设置一致：本地 Qwen/Qwen3-32B（revision 9216db5781bf21249d130ec9da846c4624c16137）、 greedy、thinking off、bf16、SDPA、抽取128 / 比较64 token、上下文8192、batch size 64； prompt、空答案规则与分数解析和作者评估代码逐字相同。

Encoder：产生全部 JEPA 内容的模型

文件	说明
encoder/checkpoint/step_9736.pt	重建版 Rad-VL-JEPA encoder（2026-10-28，step 9736）完整训练 checkpoint（含优化器状态，可继续训练）。
encoder/visual_tokens/emb_{train,valid}_stage1_stacked_lung.npy	encoder 的输入：CT-RATE 每个 volume 的预提取视觉 tokens（float16，1024×384）；train 47,149 / valid 3,039 个 volume。
encoder/visual_tokens/hier_manifest_{train,valid}_lung.npz	vols 给出每行 tokens 对应的 volume ID。
encoder/assets/	finding 阈值（CT-RATE 训练集 policy 划分上拟合）、Yes/No 锚点和每个属性问题的训练答案池及其 Qwen3-Embedding-8B 向量。
encoder/llama/	Llama-3.2-1B 的 config、tokenizer 与许可证文件（模型权重已全部在 checkpoint 中）。
encoder/radjepa_encoder/	模型定义（与训练代码相同）和推理脚本。

用一张 GPU 重算工具答案（规则与已发布的 jepa/answers.jsonl 相同）：

cd /your/disk/data/encoder
pip install torch transformers numpy   # 作者环境：torch 2.13.0、transformers 5.16.1
python -m radjepa_encoder.infer --split valid --aggregate volume --out official_answers.jsonl
python -m radjepa_encoder.infer --split train --aggregate study --ids study_ids.txt --out train_answers.jsonl

official_validation 每个 volume 单独推理；SFT 病例是 study，取该 study 各重建 volume 预测的平均。 finding = cos(预测, Yes) − cos(预测, No) ≥ 阈值；属性 = 训练答案池中余弦最近的答案。

作者在 B200 上用这里的代码与文件重算并核对：模型输出与训练代码逐位相同；重算答案与已发布文件的一致率为 official_validation 325,172/325,173、SFT 379,097/379,101。剩余差异来自批次组成不同导致的 bf16 数值微差 （发布文件按原流程分批计算），出现在阈值或最近邻的边界上。RL 请直接使用已发布的 jepa/answers.jsonl。

许可：encoder/ 中的 Llama 部分遵循 Llama 3.2 Community License（见 encoder/llama/LICENSE.txt，Built with Llama）； visual tokens 由 CT-RATE 影像导出，使用须遵守 CT-RATE 的许可条款。