nonastreda / README.md
Kriscamp's picture
Upload README.md with huggingface_hub
9035ca6 verified
|
Raw
History Blame Contribute Delete
8.55 kB
metadata
dataset_info:
  features:
    - name: query
      dtype: string
    - name: image
      dtype: image
    - name: images
      list: image
    - name: annot
      dtype: string
    - name: reasoning
      dtype: string
    - name: cate
      dtype: string
    - name: task
      dtype: string
    - name: metadata
      dtype: string
  splits:
    - name: train
      num_bytes: 1278111611
      num_examples: 512
  download_size: 1277668803
  dataset_size: 1278111611
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
pretty_name: Nonastreda
extra_gated_prompt: >-
  Released for research use; access granted manually. State your name,
  affiliation, and intended use.
extra_gated_fields:
  Name: text
  Affiliation: text
  Intended use: text
license: cc-by-4.0
tags:
  - smart-manufacturing
  - cnc
  - tool-wear
  - multimodal
  - industrial

Nonastreda (CNC 铣削刀具磨损 · 9 图像模态)

Nonastreda(Mudestreda 的作者扩展多模态版)reformatted into the unified smart-manufacturing SFT schema。 一个 sample = 一把刀在一次走刀上的一个刀刃,配 9 张图(刀具切削刃显微图 / 切屑图 / 工件表面图

  • X/Y/Z 力谱图 spectrogram + X/Y/Z 尺度图 scalogram),判 3 类后刀面磨损状态 sharp / used / dulled。 本库只收 9 模态齐全的行(转换时校验,缺任何一个模态直接报错退出);主图 image 固定是刀具显微图。

task 码待定:目前 cate/task = C/T-C2(RUL & Health Estimation)是脚本暂定值。 本集输出是 3 类静态磨损档位判别,不是 run-to-failure 轨迹回归;磨损档位算不算文档定义里的 health state,需要学长拍板。拍板前别拿这个 task 码当定论。

🔴 行与行不独立,禁止逐行随机切分

  • 512 行 = 10 把刀(T1–T10)× 128 次走刀 × 每走刀 4 个刀刃。ID 结构 T{刀}R{走刀}B{刀刃},B∈{1,2,3,4}。
  • 同一(刀, 走刀)的 4 行是兄弟:共享同一次走刀的切屑图/工件图/力信号,只有刀具显微图随刀刃变。
  • 官方 notebook 的 512 行随机 70/15/15 切分实测泄漏严重:97.2% 的 test 样本在 train 里有同走刀兄弟, 98.4% 的 test 走刀在 train 里出现过。
  • 正确做法:按 (metadata.tool_id, metadata.run_id) 分组切,或直接按 tool_id 切。 本库把 tool_id / run_id 真列(取自上游 HF metadata.csv,不是从 ID 正则猜的)和 blade 都写进 metadata,就是为了让下游能做防泄漏切分。
  • 每刀样本数(实测):T1=40, T2=56, T3=52, T4=40, T5=48, T6=60, T7=56, T8=52, T9=52, T10=56。 T1–T8 合计 404,与 Zenodo(Mudestreda)的 404/52/56 tool-based split 对得上。

🔴 两套标签:本库 annot 用 image_label,不能对标论文的 ~75%

  • 本库 annot 取人类可读的 image_label 列,分布 sharp 197 / used 160 / dulled 155(转换时已与核验实测 197/160/155 对账,对不上会报错退出)。
  • 论文(Data in Brief)报的 ~75%(10-fold leave-one-tool-out)训的是 force_phase(原名 tool_label) 那一列,不是 image_label。两套标签在 71/512 = 13.9% 的行上冲突,作者自己在上游 HF 版加了 labels_in_sync 布尔列标记。所以在本库上跑出来的数不能直接和 75% 摆一起比。
  • 顺带两个坑:force_phase_label 取值 1/2/3 是 1-based,官方代码先 labels - 1 再 one-hot; 它的语义是 Taylor 磨损曲线三阶段,不是刀具 ID —— 论文里 "Tool label (1 for tool ID)" 的说法是误导 (值域只有 {1,2,3},与 sample_id 的 T 前缀只在 60/512 行偶然相等)。

⚠ 这几个 metadata 字段禁止进 prompt

force_phase_label / force_phase_name / flank_wear 都是标签侧信息:force_phase 与磨损类高度耦合, flank_wear 就是定磨损档位的那个连续量(µm)。它们只能用来分组、当回归 target、或做审计, 不许出现在给模型的输入里,否则等于把答案喂进去。metadata 里每行都带同样的警告字段 (label_side_fields_no_prompt)。

模态与规格(抽样实测)

  • tool/ .jpg 1550×500 RGB 为主,掺 3100×1000(20 张抽样里 4 张,恰好 2×,疑似两种放大倍率;全量 512 未核); chip/ .jpg 1024×1024 RGB;work/ .png 512×512 单通道灰度(mode='L')。
  • spec_{x,y,z} .jpg 495×369 RGB;scal_{x,y,z} .png 496×369 RGBA —— 扩展名和尺寸都不统一, 按 metadata.modality_files 走,别猜。
  • 原始力信号在上游 forces_xyz_raw.mat(1 kHz,Fx/Fy/Fz,单位 N),本库未收。
  • 回归量:metadata 里的 gaps / flank_wear / overhang(官方列序,单位 µm;实测量程 flank_wear 22.55–346.66 / gaps 0.00–154.56 / overhang 0.00–76.75)。论文和官方仓库没报过任何回归指标; gaps 与 overhang 的物理定义论文只给了名字和单位。

⚠ 上游已知的其他坑(详见核验记录)

  • spec/ 频谱图逐图归一化(librosa power_to_db, ref=每图自己的 max),绝对力幅值被抹掉、不可逆; 而且用的是给人耳设计的 mel 尺度处理切削力。
  • spec 与 scal 的采样率参数差 10 倍(scalogram 脚本 1 kHz 与论文一致,spectrogram 脚本却写 sr=10000), 两者频率轴对不上。
  • 论文承认 Fz 强漂移、靠周期性归零缓解,原话是 Fz "primarily reflects sequential progression rather than absolute tool wear" —— spec_z / scal_z 有伪相关捷径风险。
  • 9 张图里 6 张(spec+scal)是 matplotlib jet 伪彩渲染图,VLM 读伪彩热力图普遍很差; 最有判别力的大概率是 tool/ 显微图(所以主图固定取它)。

Schema(7 字段)

query(固定提示) · image(刀具显微图,主图) · images(9 张,固定顺序 tool / chip / work / spec_x / spec_y / spec_z / scal_x / scal_y / scal_z) · annot(sharp / used / dulled,取 image_label 列) · reasoning(null) · cate=C / task=T-C2(⚠ 待学长核,见上) · metadatasample_id · tool_id / run_id(真列)/ blade · split_note · image_label_id · force_phase_label/force_phase_name(1-based,禁入 prompt) · labels_in_sync · gaps/flank_wear/overhang(µm;flank_wear 禁入 prompt) · label_side_fields_no_prompt · n_modalities(恒为 9) · modality_files

Load

from datasets import load_dataset
ds = load_dataset("AI4Manufacturing/nonastreda")

Gated — request access; granted manually.

复现(原始数据不入库)

  • 一条命令从零重建:FORGE_DATASETS_SUB=<dir> python nonastreda/convert_nonastreda.py --fetch
  • 流程:先拉 metadata.csv,再按其中 9 个 *_file_name 列从 resolve 直链逐文件拉齐 512×9=4,608 张图 (上游约 2.55 GB)。
  • 上游没有逐文件字节清单,所以这里是运行时校验而非预登记字节数:每个文件非空 + 512 行 + 9 模态齐全 + 类别计数对账(197/160/155)+ 分组结构(128 走刀 × 4 刀刃,每刀样本数逐一对账), 任何一条对不上转换器就报错退出,不会静默产出缺行的库。

Provenance & license

  • 源:HuggingFace hubtru/nonastreda —— 页面标 CC-BY-4.0(原始约 2.55 GB,含 parquet/raw; 本库取图像模态 + metadata)。我们是研究用途、非商用,按 CC-BY-4.0 标注并引用上游。
  • 许可有歧义:同一血统的数据三处口径不一 —— Mendeley 写 CC BY 4.0,同源的 Mudestreda 在 Zenodo 挂 GPL-3.0,Minape 的 README 又写 MIT。研究使用没有障碍,但商用前必须向作者书面确认 到底哪个证覆盖数据本体。
  • 相关:Mudestreda(Zenodo 8238653,4 模态)已单独上传为 AI4Manufacturing/mudestreda。 两者 ID 结构 / 样本数 / 刀具数完全一致,强烈疑似同源(未做文件级比对);若确认同源, 两库并存会造成重复语料。原始登记表把两者合并成一行,实为两个集 —— 建议拆行(都待团队确认)。
  • 论文/仓库:Data in Brief 数据论文;github.com/hubtru(Minape / Impala / Girape 系列)。 Reformatted for research use;请引用上游。