svjack/Prince_Ciel_Phantomhive_1024x1024_Captioned

from datasets import load_dataset
from PIL import Image
import os

# 设置输出目录
output_dir = "Prince_Ciel_Phantomhive_Images_Captioned"  # 替换为你想要的输出路径
os.makedirs(output_dir, exist_ok=True)

# 加载数据集（流式模式可选，适用于大型数据集）
dataset = load_dataset("svjack/Prince_Ciel_Phantomhive_1024x1024_Captioned", streaming=False)  # 如果数据集很大，考虑使用 streaming=True

# 假设数据集有训练集、测试集等拆分，这里以第一个拆分为例（通常为 'train'）
# 如果需要处理所有拆分，可以遍历 dataset.keys()
split_name = list(dataset.keys())[0]  # 例如 'train'
data_split = dataset[split_name]

# 遍历数据集中的每个样本
for idx, example in enumerate(data_split):
    # 获取图像和文本描述
    image = example["image"]  # PIL Image 对象
    text_caption = example["joy-caption"]  # 文本描述
    
    # 生成文件名（保持原始格式，如 0000xxx）
    # 如果数据集没有内置索引，使用枚举索引并格式化为 7 位数字
    file_base = f"{idx:07d}"  # 格式化为 7 位数字，如 0000000, 0000001, ...
    
    # 定义图像和文本文件的完整路径
    image_filename = f"{file_base}.png"
    text_filename = f"{file_base}.txt"
    image_path = os.path.join(output_dir, image_filename)
    text_path = os.path.join(output_dir, text_filename)
    
    # 保存图像为 PNG 格式
    image.save(image_path, format="PNG")
    
    # 保存文本描述到 TXT 文件
    with open(text_path, "w", encoding="utf-8") as f:
        f.write(text_caption)
    
    # 打印进度（每处理 100 个样本输出一次）
    if idx % 100 == 0:
        print(f"已处理 {idx} 个样本")

print(f"所有文件已保存到目录: {output_dir}")