Dataset Card for fibsem_mini

fibsem_mini 是一个多模态视觉-语言小规模数据集，用于 FIB-SEM（聚焦离子束-扫描电镜）场景下的 needle（针）定位任务。每条样本包含一张 SEM 图像、一道自然语言任务描述，以及以 function call JSON 形式给出的标准答案（动作、参数与理由），格式对齐 hiyouga/geometry3k，便于用于视觉语言模型训练或强化学习（如 GRPO）等场景。

Dataset Details

Dataset Sources

• Repository: Hugging Face - fingerliu/fibsem_mini
• Source data: 原始数据为 sem_000.png～sem_099.png 及对应的 needle 坐标文件 sem_needle_xy.txt；经脚本构建为 HF 数据集并可选缩放图像以适配 VL 模型。

Uses

Direct Use

• 视觉语言模型 (VLM) 指令微调 / SFT： 输入图像 + problem，学习输出 answer 中的 JSON。
• 强化学习 (RL) / GRPO 等： 作为 reward 的 ground truth（规则匹配 answer 中的 action/params）。
• Agent 与 function calling： 作为「看图 → 输出结构化动作」的 agent 数据，训练或评估模型的 tool-use / 动作生成能力。

Out-of-Scope Use

• 本数据集仅模拟「将 needle 移动到保护垫左侧」的单一任务，且坐标与图像尺寸绑定；不适用于真实电镜闭环控制，也不保证在其它分辨率或设备上直接可用。不建议在未做领域适配的情况下用于安全关键系统。

Dataset Structure

• images: list[image]，每条仅 1 张图（SEM 图像，如 512×512 RGB）。
• problem: string，固定任务描述：根据当前 FIB-SEM 的 SEM 图像，将 needle 移动到位于图像正中央的长方形保护垫的左侧（屏幕中央向左 10 像素），并给出 move_needle 的 JSON（含 action、params、reason）。
• answer: string，JSON 格式，固定三键：
  • action: 如 "move_needle"
  • params: {"x": float, "y": float, "z": 0}，与当前图像坐标系一致
  • reason: 简短中文说明（当前 needle 位置与目标位置等）

示例：

{"action": "move_needle", "params": {"x": 246.0, "y": 256.0, "z": 0}, "reason": "当前 needle 位于 (0.0, 0.0)，需移动到保护垫左侧，目标坐标为 (246.0, 256.0)。"}

• Splits: train（80 条）、test（20 条），按比例从 100 条中划分。

Dataset Creation

Curation Rationale

为在 FIB-SEM 操作场景下训练或评估「看图 → 输出结构化动作」的 agent/VLM，需要与 geometry3k 类似的多模态数据集格式（images + problem + answer），且 answer 为可解析的 function call JSON，便于与 GRPO、规则 reward 或下游工具调用流程对接。fibsem_mini 基于少量 SEM 图像与已知 needle 坐标构造，用于方法验证与小规模实验。

Source Data

• 内容： SEM 图像序列（sem_000.png～sem_099.png）及每张图中 needle 的像素坐标（sem_needle_xy.txt）。
• 处理： 脚本将图像转为 RGB、可选缩放（如最长边 512px），按「目标 = 图像中心向左 10 像素」生成每条 problem/answer；坐标与导出图像尺寸一致。

用法示例

#!/usr/bin/env python3
"""从 HuggingFace fingerliu/fibsem_mini 读取一条记录并展示（图像 + problem + answer）。"""

import argparse
import json

from datasets import load_dataset


def main():
    parser = argparse.ArgumentParser(description="读取并展示 fibsem_mini 的一条记录")
    parser.add_argument(
        "--repo",
        type=str,
        default="fingerliu/fibsem_mini",
        help="HuggingFace 数据集 repo_id",
    )
    parser.add_argument(
        "--split",
        type=str,
        default="train",
        choices=("train", "test"),
        help="使用的 split",
    )
    parser.add_argument(
        "--index",
        type=int,
        default=0,
        help="记录索引",
    )
    parser.add_argument(
        "--save_image",
        type=str,
        default=None,
        metavar="PATH",
        help="可选：将图像保存到指定路径，不弹窗显示",
    )
    args = parser.parse_args()

    print(f"正在加载 {args.repo} ...")
    ds = load_dataset(args.repo, split=args.split)
    if args.index >= len(ds):
        print(f"索引 {args.index} 超出范围（split 共 {len(ds)} 条），使用 0")
        args.index = 0

    record = ds[args.index]
    problem = record["problem"]
    answer = record["answer"]
    images = record["images"]

    print("-" * 60)
    print(f"split={args.split}, index={args.index}")
    print("-" * 60)
    print("problem:")
    print(problem)
    print()
    print("answer (raw string):")
    print(answer)
    try:
        obj = json.loads(answer)
        print("answer (parsed JSON):")
        print(json.dumps(obj, ensure_ascii=False, indent=2))
    except json.JSONDecodeError:
        pass
    print("-" * 60)

    if not images:
        print("(无图像)")
        return

    img = images[0]
    from PIL import Image
    if not isinstance(img, Image.Image):
        if isinstance(img, dict):
            if "path" in img:
                img = Image.open(img["path"]).convert("RGB")
            elif "bytes" in img:
                from io import BytesIO
                img = Image.open(BytesIO(img["bytes"])).convert("RGB")
            else:
                raise ValueError("无法解析 image 字典")
        else:
            img = Image.open(img).convert("RGB")
    if args.save_image:
        img.save(args.save_image)
        print(f"图像已保存: {args.save_image}")
        return

    try:
        import matplotlib.pyplot as plt
        fig, ax = plt.subplots(1, 1, figsize=(6, 6))
        ax.imshow(img)
        ax.set_title(f"{args.repo} | {args.split}[{args.index}]")
        ax.axis("off")
        plt.tight_layout()
        plt.show()
    except Exception as e:
        print(f"无法弹窗显示图像: {e}")
        out = "fibsem_mini_demo.png"
        img.save(out)
        print(f"已保存到 {out}")


if __name__ == "__main__":
    main()

Annotations

答案（answer）由脚本根据固定规则生成：目标位置为图像中心向左 10 像素；reason 由当前 needle 坐标与目标坐标自动填充。无人工标注。

Bias, Risks, and Limitations

• 任务单一： 仅包含「移动到保护垫左侧」一类任务，泛化到其它 FIB-SEM 操作需额外数据或迁移。
• 坐标绑定： 答案中的 x/y 与构建时图像尺寸绑定（如 512×512）；换分辨率需按比例换算或重新构建。
• 非真实控制： 数据为离线构造，不涉及真实电镜闭环控制，不可直接用于安全关键执行。

Recommendations

使用者应明确该数据集仅适用于研究与方法验证；若用于实际设备控制，需在领域数据与安全策略上做额外工作。

Citation

若在论文或报告中使用了 fibsem_mini，可引用本数据集卡片或对应 Hugging Face 仓库。

BibTeX:

@misc{fibsem_mini,
  title = {fibsem\_mini: A Multimodal Dataset for FIB-SEM Needle Positioning},
  author = {[Dataset maintainer]},
  year = {2025},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/fingerliu/fibsem_mini}
}

APA: [Dataset maintainer]. (2025). fibsem_mini: A multimodal dataset for FIB-SEM needle positioning. Hugging Face. https://huggingface.co/datasets/fingerliu/fibsem_mini

Glossary

• FIB-SEM: 聚焦离子束-扫描电子显微镜。
• Needle: 本数据集中指 SEM 图像中需被移动到目标位置的针状结构。
• 保护垫： 位于图像正中央的长方形区域；任务目标为将 needle 移动到该区域左侧（中心向左 10 像素）。

Dataset Card Contact

liupeng