nonastreda / README.md
Kriscamp's picture
Upload README.md with huggingface_hub
9035ca6 verified
|
Raw
History Blame Contribute Delete
8.55 kB
---
dataset_info:
features:
- name: query
dtype: string
- name: image
dtype: image
- name: images
list: image
- name: annot
dtype: string
- name: reasoning
dtype: string
- name: cate
dtype: string
- name: task
dtype: string
- name: metadata
dtype: string
splits:
- name: train
num_bytes: 1278111611
num_examples: 512
download_size: 1277668803
dataset_size: 1278111611
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
pretty_name: Nonastreda
extra_gated_prompt: Released for research use; access granted manually. State your
name, affiliation, and intended use.
extra_gated_fields:
Name: text
Affiliation: text
Intended use: text
license: cc-by-4.0
tags:
- smart-manufacturing
- cnc
- tool-wear
- multimodal
- industrial
---
# Nonastreda (CNC 铣削刀具磨损 · 9 图像模态)
Nonastreda(Mudestreda 的作者扩展多模态版)reformatted into the unified smart-manufacturing SFT schema。
一个 sample = 一把刀在一次走刀上的**一个刀刃**,配 **9 张图**(刀具切削刃显微图 / 切屑图 / 工件表面图
+ X/Y/Z 力谱图 spectrogram + X/Y/Z 尺度图 scalogram),判 3 类后刀面磨损状态 **sharp / used / dulled**
本库只收 9 模态齐全的行(转换时校验,缺任何一个模态直接报错退出);主图 `image` 固定是刀具显微图。
> ⚠ **task 码待定**:目前 `cate`/`task` = `C`/`T-C2`(RUL & Health Estimation)是脚本暂定值。
> 本集输出是 3 类**静态磨损档位判别**,不是 run-to-failure 轨迹回归;磨损档位算不算文档定义里的
> health state,需要学长拍板。拍板前别拿这个 task 码当定论。
## 🔴 行与行不独立,禁止逐行随机切分
- **512** 行 = 10 把刀(T1–T10)× 128 次走刀 × 每走刀 4 个刀刃。ID 结构 `T{刀}R{走刀}B{刀刃}`,B∈{1,2,3,4}。
- 同一(刀, 走刀)的 4 行是兄弟:共享同一次走刀的切屑图/工件图/力信号,只有刀具显微图随刀刃变。
- 官方 notebook 的 512 行随机 70/15/15 切分实测泄漏严重:**97.2%** 的 test 样本在 train 里有同走刀兄弟,
**98.4%** 的 test 走刀在 train 里出现过。
- 正确做法:按 `(metadata.tool_id, metadata.run_id)` 分组切,或直接按 `tool_id` 切。
本库把 **tool_id / run_id 真列**(取自上游 HF metadata.csv,不是从 ID 正则猜的)和 `blade` 都写进
metadata,就是为了让下游能做防泄漏切分。
- 每刀样本数(实测):T1=40, T2=56, T3=52, T4=40, T5=48, T6=60, T7=56, T8=52, T9=52, T10=56。
T1–T8 合计 404,与 Zenodo(Mudestreda)的 404/52/56 tool-based split 对得上。
## 🔴 两套标签:本库 annot 用 image_label,**不能对标论文的 ~75%**
- 本库 `annot` 取人类可读的 **image_label** 列,分布 sharp **197** / used **160**
/ dulled **155**(转换时已与核验实测 197/160/155 对账,对不上会报错退出)。
- 论文(Data in Brief)报的 **~75%**(10-fold leave-one-tool-out)训的是 **force_phase**(原名 tool_label)
那一列,**不是 image_label**。两套标签在 **71/512 = 13.9%** 的行上冲突,作者自己在上游 HF 版加了
`labels_in_sync` 布尔列标记。所以在本库上跑出来的数**不能**直接和 75% 摆一起比。
- 顺带两个坑:`force_phase_label` 取值 1/2/3 是 **1-based**,官方代码先 `labels - 1` 再 one-hot;
它的语义是 Taylor 磨损曲线三阶段,**不是刀具 ID** —— 论文里 "Tool label (1 for tool ID)" 的说法是误导
(值域只有 {1,2,3},与 sample_id 的 T 前缀只在 60/512 行偶然相等)。
## ⚠ 这几个 metadata 字段禁止进 prompt
`force_phase_label` / `force_phase_name` / `flank_wear` 都是**标签侧信息**:force_phase 与磨损类高度耦合,
flank_wear 就是定磨损档位的那个连续量(µm)。它们只能用来分组、当回归 target、或做审计,
**不许出现在给模型的输入里**,否则等于把答案喂进去。metadata 里每行都带同样的警告字段
(`label_side_fields_no_prompt`)。
## 模态与规格(抽样实测)
- `tool/` .jpg 1550×500 RGB 为主,掺 3100×1000(20 张抽样里 4 张,恰好 2×,疑似两种放大倍率;全量 512 未核);
`chip/` .jpg 1024×1024 RGB;`work/` .png 512×512 单通道灰度(mode='L')。
- `spec_{x,y,z}` .jpg 495×369 RGB;`scal_{x,y,z}` .png 496×369 RGBA —— 扩展名和尺寸都不统一,
按 `metadata.modality_files` 走,别猜。
- 原始力信号在上游 `forces_xyz_raw.mat`(1 kHz,Fx/Fy/Fz,单位 N),本库未收。
- 回归量:`metadata` 里的 `gaps` / `flank_wear` / `overhang`(官方列序,单位 µm;实测量程
flank_wear 22.55–346.66 / gaps 0.00–154.56 / overhang 0.00–76.75)。论文和官方仓库没报过任何回归指标;
gaps 与 overhang 的物理定义论文只给了名字和单位。
## ⚠ 上游已知的其他坑(详见核验记录)
- `spec/` 频谱图**逐图归一化**(librosa power_to_db, ref=每图自己的 max),绝对力幅值被抹掉、不可逆;
而且用的是给人耳设计的 mel 尺度处理切削力。
- spec 与 scal 的采样率参数差 10 倍(scalogram 脚本 1 kHz 与论文一致,spectrogram 脚本却写 sr=10000),
两者频率轴对不上。
- 论文承认 Fz 强漂移、靠周期性归零缓解,原话是 Fz "primarily reflects sequential progression rather
than absolute tool wear" —— `spec_z` / `scal_z` 有伪相关捷径风险。
- 9 张图里 6 张(spec+scal)是 matplotlib jet 伪彩渲染图,VLM 读伪彩热力图普遍很差;
最有判别力的大概率是 `tool/` 显微图(所以主图固定取它)。
## Schema(7 字段)
`query`(固定提示) · `image`(刀具显微图,主图) ·
`images`(9 张,固定顺序 tool / chip / work / spec_x / spec_y / spec_z / scal_x / scal_y / scal_z) ·
`annot`(sharp / used / dulled,取 image_label 列) · `reasoning`(null) ·
`cate`=`C` / `task`=`T-C2`(⚠ 待学长核,见上) ·
`metadata`(`sample_id` · **`tool_id` / `run_id`(真列)/ `blade`** · `split_note` · `image_label_id` ·
`force_phase_label`/`force_phase_name`(1-based,禁入 prompt) · `labels_in_sync` ·
`gaps`/`flank_wear`/`overhang`(µm;flank_wear 禁入 prompt) · `label_side_fields_no_prompt` ·
`n_modalities`(恒为 9) · `modality_files`)
## Load
```python
from datasets import load_dataset
ds = load_dataset("AI4Manufacturing/nonastreda")
```
_Gated — request access; granted manually._
## 复现(原始数据不入库)
- 一条命令从零重建:`FORGE_DATASETS_SUB=<dir> python nonastreda/convert_nonastreda.py --fetch`
- 流程:先拉 `metadata.csv`,再按其中 9 个 `*_file_name` 列从 resolve 直链逐文件拉齐 512×9=4,608 张图
(上游约 2.55 GB)。
- 上游没有逐文件字节清单,所以这里是**运行时校验**而非预登记字节数:每个文件非空 + 512 行 +
9 模态齐全 + 类别计数对账(197/160/155)+ 分组结构(128 走刀 × 4 刀刃,每刀样本数逐一对账),
任何一条对不上转换器就报错退出,不会静默产出缺行的库。
## Provenance & license
- 源:HuggingFace `hubtru/nonastreda` —— 页面标 **CC-BY-4.0**(原始约 2.55 GB,含 parquet/raw;
本库取图像模态 + metadata)。我们是研究用途、非商用,按 CC-BY-4.0 标注并引用上游。
-**许可有歧义**:同一血统的数据三处口径不一 —— Mendeley 写 CC BY 4.0,同源的 Mudestreda 在
Zenodo 挂 GPL-3.0,Minape 的 README 又写 MIT。研究使用没有障碍,但**商用前必须向作者书面确认**
到底哪个证覆盖数据本体。
- 相关:`Mudestreda`(Zenodo 8238653,4 模态)已单独上传为 `AI4Manufacturing/mudestreda`
两者 ID 结构 / 样本数 / 刀具数完全一致,**强烈疑似同源**(未做文件级比对);若确认同源,
两库并存会造成重复语料。原始登记表把两者合并成一行,实为两个集 —— 建议拆行(都待团队确认)。
- 论文/仓库:Data in Brief 数据论文;github.com/hubtru(Minape / Impala / Girape 系列)。
Reformatted for research use;请引用上游。