deepcad / README.md
Kriscamp's picture
Upload README.md with huggingface_hub
912dfc6 verified
|
Raw
History Blame Contribute Delete
7.8 kB
metadata
dataset_info:
  features:
    - name: query
      dtype: string
    - name: cad_json
      dtype: string
    - name: image
      dtype: string
    - name: annot
      dtype: string
    - name: reasoning
      dtype: string
    - name: cate
      dtype: string
    - name: task
      dtype: string
    - name: metadata
      dtype: string
  splits:
    - name: train
      num_bytes: 1402063406
      num_examples: 161240
    - name: validation
      num_bytes: 77296129
      num_examples: 8946
    - name: test
      num_bytes: 73450258
      num_examples: 8052
  download_size: 207822478
  dataset_size: 1552809793
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
      - split: test
        path: data/test-*
pretty_name: DeepCAD
license: unknown
extra_gated_fields:
  Name: text
  Affiliation: text
  Intended use: text
tags:
  - smart-manufacturing
  - cad
  - construction-sequence
  - brep
  - generative-cad
extra_gated_prompt: >-
  Released for research use; access granted manually. State your name,
  affiliation, and intended use.

DeepCAD (CAD 构造序列 · 原始 JSON)

DeepCAD(Wu, Xiao, Zheng, DeepCAD: A Deep Generative Network for Computer-Aided Design Models, ICCV 2021, Columbia CG):178,238 个参数化 CAD 模型的构造序列。 已转为团队统一 7 字段 SFT schema。

按庞威裁决上传原始 dataset 本身("direct VLM 如果需要 render 的那种可以先传 dataset 本身, 我来看看有没有办法弄一下 rendering")。本库是原始构造序列 JSON,无图像;渲染由团队后续统一处理。

⚠ 七点必须先看

1. 许可:数据没有 license。 repo 的 MIT 只覆盖代码 —— LICENSE 全文只提 "the Software"。 DeepCAD 的 README 自己写着 *"The data we used are parsed from Onshape public documents with links from ABC dataset"*,即几何继承 Onshape ToU。 上游 ABC 的 "MIT" 同样不构成数据授权deep-geometry/abc-dataset 那个仓总共只有 3 个文件, 是个代码壳子,它的 MIT 什么数据都没覆盖。repo license ≠ data license。 本库按团队要求"先传上来并在 README 标注"处理,再分发授权状态未解决。 我们是研究用途(非商用),照常署名引用上游即可。

2. 无图像 → image 全为 null 原始物是构造序列,必须先执行成 solid 再渲染。不是 raw-direct。

3. 官方 split 逐一对过账(下表全部是本次运行实数出来的,不是抄论文):

split split 文件列出 实际产出行数 丢弃
train 161,240 161,240 0
validation 8,946 8,946 0
test 8,052 8,052 0
合计 178,238 178,238 0

实际产出合计 178,238 与论文宣称的 178,238 完全一致(运行时断言核过 split 文件与逐行产出,不是手写)。

4. train 完全没去重,validation 也没有。 论文附录 A 自己承认数据源自 ABC 而 ABC 含重复形状; 作者只对 test 做了近重清洗(对每个 test 形状在 train 里找 chamfer 最近邻,低于阈值就丢), train 原封不动、validation 什么都没做 —— 拿 validation 做模型选择存在与 train 的近重复泄漏风险。 社区通行做法是先去重再用:SkexGen 提供 deduplicate.py,HNC-CAD 去重后只剩 102,114 个 solid / 124,451 条 sketch-and-extrude 序列(口径与原始 train 不同,别拿这些数去除原始 train 算去重率)。 本库传的是未去重的原始版(数据策略见卡,待负责人拍板)。

5. 形状严重不平衡。 CADmium 报未过滤的 train 里约 25% 是长方体、8% 是圆柱体; Text2CAD(NeurIPS'24)也点名 DeepCAD 以长方体和圆柱体为主,限制模型对复杂形状的鲁棒性。 序列长度也是长尾:论文自己承认短序列远多于长序列,模型可能偏向短序列。

6. 约 9,564 个模型根本建不出实体。 GenCAD 报 178,238 个里只有 168,674 能用 OpenCascade 建出 3D solid。团队后续统一渲染时这批会直接失败 —— 是数据固有问题,别当成渲染脚本的 bug。

7. 官方评测口径与自回归 LLM 不适配。 官方 ACC_cmd / ACC_param 是按 GT 长度截断预测、 把 EOS 排除在评分外、按下标位置硬比算出来的;论文的 99.50% 只在非自回归定长并行解码下成立。 拿本库微调自回归 LLM 后用官方 test.py 评分会得到灾难性低分 —— 是指标不适配,不是模型差。 跨论文比 Chamfer Distance 前也要先对口径(后来者常改指标定义)。

已知丢弃(运行时统计)

以下均为运行时统计(非手写),差额与上表逐 split 对过账(assert 兜底):

  • JSON 解析失败被弃:0
  • sequence 为空被弃(annot 会是空串,无训练价值):0
  • split 文件列出但 tar 里没有对应 json:0 条 —— 这类 id 正是各家论文样本数对不上的机械原因。
  • tar 里存在但 split 文件未列(未入库):36,855 条(前 10:0000/00000062, 0000/00000069, 0000/00000076, 0000/00000137, 0000/00000175, 0000/00000176, 0000/00000177, 0000/00000347, 0000/00000349, 0000/00000352

数据说明

  • 每个模型的 cad_jsonentities(草图/拉伸的完整参数定义)、properties(包围盒)、 sequence(有序构造步骤)。annotsequence(这是转换器的取舍,待负责人确认,见卡)。 转换器在第一条记录上硬校验 sequence/properties 键存在(schema 漂移直接崩,不会静默产出空 annot)。
  • 源包的 data.tar 名字骗人:它实际是 gzip(不是纯 tar),内部再套 cad_json.tar.gz(展开 3.48 GB)+ cad_vec.tar.gz(展开 712 MB)+ train_val_test_split.json。 本库的转换器直接从套娃 tar.gz 流式读,不解压落地
  • cad_vec.tar.gz(向量化表示)未收录 —— 与 VLM 无关。若以后要补收录,先记住这三条: 存盘 args 取值 -1..255(-1 是 PAD_VAL),参数词表是 257 不是 256,官方在输入 embedding / loss / 输出 argmax 三处各有 +1/−1 移位 —— 漏任何一处,16 个参数整体偏一个量化级, 指标几乎不掉(容差吃得下)但导出几何系统性歪。

Schema

query(任务提示) · cad_json(构造序列原文 JSON) · imagenull —— 见上) · annotsequence,有序构造步骤) · reasoning(null) · cate=B / task=T-B4(与已发布的 mfcad_D01_TB4 / fcad_D03_TB4 同属 CAD 几何理解族; 该归类是转换器作者的判断,Forge 文档无直接对应条目,尚未经负责人签字确认) · metadatamodel_idsplitn_sequence_stepsop_typesbounding_box

Load

from datasets import load_dataset
ds = load_dataset("AI4Manufacturing/deepcad")

Gated — request access; granted manually.

Provenance