--- dataset_info: features: - name: images sequence: image - name: problem dtype: string - name: answer dtype: string splits: - name: train num_bytes: 19727332 num_examples: 80 - name: test num_bytes: 4916000 num_examples: 20 download_size: 24609074 dataset_size: 24643332 configs: - config_name: default data_files: - split: train path: data/train-* - split: test path: data/test-* license: mit task_categories: - visual-question-answering language: - zh - en size_categories: - n<1K tags: - agent - vision - fib-sem - needle-positioning pretty_name: fibsem_mini --- # Dataset Card for fibsem_mini **fibsem_mini** 是一个多模态视觉-语言小规模数据集，用于 FIB-SEM（聚焦离子束-扫描电镜）场景下的 needle（针）定位任务。每条样本包含一张 SEM 图像、一道自然语言任务描述，以及以 function call JSON 形式给出的标准答案（动作、参数与理由），格式对齐 [hiyouga/geometry3k](https://huggingface.co/datasets/hiyouga/geometry3k)，便于用于视觉语言模型训练或强化学习（如 GRPO）等场景。 ## Dataset Details ### Dataset Description - **用途：** 训练智能化电镜。 - **规模：** 共 100 条样本，其中 train 80 条、test 20 条；每条对应一张 SEM 图像（如 512×512 像素），不同样本中 needle 的起始位置不同。 - **Curated by:** [liupeng @ dp] - **Language(s):** en/中文 - **License:** MIT ### Dataset Sources - **Repository:** [Hugging Face - fingerliu/fibsem_mini](https://huggingface.co/datasets/fingerliu/fibsem_mini) - **Source data:** 原始数据为 `sem_000.png`～`sem_099.png` 及对应的 needle 坐标文件 `sem_needle_xy.txt`；经脚本构建为 HF 数据集并可选缩放图像以适配 VL 模型。 ## Uses ### Direct Use - **视觉语言模型 (VLM) 指令微调 / SFT：** 输入图像 + problem，学习输出 answer 中的 JSON。 - **强化学习 (RL) / GRPO 等：** 作为 reward 的 ground truth（规则匹配 answer 中的 action/params）。 - **Agent 与 function calling：** 作为「看图 → 输出结构化动作」的 agent 数据，训练或评估模型的 tool-use / 动作生成能力。 ### Out-of-Scope Use - 本数据集仅模拟「将 needle 移动到保护垫左侧」的单一任务，且坐标与图像尺寸绑定；不适用于真实电镜闭环控制，也不保证在其它分辨率或设备上直接可用。不建议在未做领域适配的情况下用于安全关键系统。 ## Dataset Structure - **images:** `list[image]`，每条仅 1 张图（SEM 图像，如 512×512 RGB）。 - **problem:** `string`，固定任务描述：根据当前 FIB-SEM 的 SEM 图像，将 needle 移动到位于图像正中央的长方形保护垫的左侧（屏幕中央向左 10 像素），并给出 move_needle 的 JSON（含 action、params、reason）。 - **answer:** `string`，JSON 格式，固定三键： - `action`: 如 `"move_needle"` - `params`: `{"x": float, "y": float, "z": 0}`，与当前图像坐标系一致 - `reason`: 简短中文说明（当前 needle 位置与目标位置等） 示例： ```json {"action": "move_needle", "params": {"x": 246.0, "y": 256.0, "z": 0}, "reason": "当前 needle 位于 (0.0, 0.0)，需移动到保护垫左侧，目标坐标为 (246.0, 256.0)。"} ``` - **Splits:** `train`（80 条）、`test`（20 条），按比例从 100 条中划分。 ## Dataset Creation ### Curation Rationale 为在 FIB-SEM 操作场景下训练或评估「看图 → 输出结构化动作」的 agent/VLM，需要与 geometry3k 类似的多模态数据集格式（images + problem + answer），且 answer 为可解析的 function call JSON，便于与 GRPO、规则 reward 或下游工具调用流程对接。fibsem_mini 基于少量 SEM 图像与已知 needle 坐标构造，用于方法验证与小规模实验。 ### Source Data - **内容：** SEM 图像序列（sem_000.png～sem_099.png）及每张图中 needle 的像素坐标（sem_needle_xy.txt）。 - **处理：** 脚本将图像转为 RGB、可选缩放（如最长边 512px），按「目标 = 图像中心向左 10 像素」生成每条 problem/answer；坐标与导出图像尺寸一致。 ### 用法示例 ```python #!/usr/bin/env python3 """从 HuggingFace fingerliu/fibsem_mini 读取一条记录并展示（图像 + problem + answer）。""" import argparse import json from datasets import load_dataset def main(): parser = argparse.ArgumentParser(description="读取并展示 fibsem_mini 的一条记录") parser.add_argument( "--repo", type=str, default="fingerliu/fibsem_mini", help="HuggingFace 数据集 repo_id", ) parser.add_argument( "--split", type=str, default="train", choices=("train", "test"), help="使用的 split", ) parser.add_argument( "--index", type=int, default=0, help="记录索引", ) parser.add_argument( "--save_image", type=str, default=None, metavar="PATH", help="可选：将图像保存到指定路径，不弹窗显示", ) args = parser.parse_args() print(f"正在加载 {args.repo} ...") ds = load_dataset(args.repo, split=args.split) if args.index >= len(ds): print(f"索引 {args.index} 超出范围（split 共 {len(ds)} 条），使用 0") args.index = 0 record = ds[args.index] problem = record["problem"] answer = record["answer"] images = record["images"] print("-" * 60) print(f"split={args.split}, index={args.index}") print("-" * 60) print("problem:") print(problem) print() print("answer (raw string):") print(answer) try: obj = json.loads(answer) print("answer (parsed JSON):") print(json.dumps(obj, ensure_ascii=False, indent=2)) except json.JSONDecodeError: pass print("-" * 60) if not images: print("(无图像)") return img = images[0] from PIL import Image if not isinstance(img, Image.Image): if isinstance(img, dict): if "path" in img: img = Image.open(img["path"]).convert("RGB") elif "bytes" in img: from io import BytesIO img = Image.open(BytesIO(img["bytes"])).convert("RGB") else: raise ValueError("无法解析 image 字典") else: img = Image.open(img).convert("RGB") if args.save_image: img.save(args.save_image) print(f"图像已保存: {args.save_image}") return try: import matplotlib.pyplot as plt fig, ax = plt.subplots(1, 1, figsize=(6, 6)) ax.imshow(img) ax.set_title(f"{args.repo} | {args.split}[{args.index}]") ax.axis("off") plt.tight_layout() plt.show() except Exception as e: print(f"无法弹窗显示图像: {e}") out = "fibsem_mini_demo.png" img.save(out) print(f"已保存到 {out}") if __name__ == "__main__": main() ``` ### Annotations 答案（answer）由脚本根据固定规则生成：目标位置为图像中心向左 10 像素；reason 由当前 needle 坐标与目标坐标自动填充。无人工标注。 ## Bias, Risks, and Limitations - **任务单一：** 仅包含「移动到保护垫左侧」一类任务，泛化到其它 FIB-SEM 操作需额外数据或迁移。 - **坐标绑定：** 答案中的 x/y 与构建时图像尺寸绑定（如 512×512）；换分辨率需按比例换算或重新构建。 - **非真实控制：** 数据为离线构造，不涉及真实电镜闭环控制，不可直接用于安全关键执行。 ### Recommendations 使用者应明确该数据集仅适用于研究与方法验证；若用于实际设备控制，需在领域数据与安全策略上做额外工作。 ## Citation 若在论文或报告中使用了 fibsem_mini，可引用本数据集卡片或对应 Hugging Face 仓库。 **BibTeX:** ```bibtex @misc{fibsem_mini, title = {fibsem\_mini: A Multimodal Dataset for FIB-SEM Needle Positioning}, author = {[Dataset maintainer]}, year = {2025}, publisher = {Hugging Face}, url = {https://huggingface.co/datasets/fingerliu/fibsem_mini} } ``` **APA:** [Dataset maintainer]. (2025). *fibsem_mini: A multimodal dataset for FIB-SEM needle positioning*. Hugging Face. https://huggingface.co/datasets/fingerliu/fibsem_mini ## Glossary - **FIB-SEM:** 聚焦离子束-扫描电子显微镜。 - **Needle:** 本数据集中指 SEM 图像中需被移动到目标位置的针状结构。 - **保护垫：** 位于图像正中央的长方形区域；任务目标为将 needle 移动到该区域左侧（中心向左 10 像素）。 ## Dataset Card Contact [liupeng](liupeng.dalian@gmail.com)