import datasets import os import numpy as np # --- Các hàm phụ trợ để đọc file chú thích --- def parse_bbox_file(filepath): """Đọc file bbox và chuyển đổi thành list các số thực.""" if not os.path.exists(filepath): return [] with open(filepath, 'r', encoding='utf-8') as f: line = f.read().strip() if not line: return [] return [float(coord) for coord in line.split(',')] def parse_points_file(filepath): """Đọc file points và chuyển đổi thành list của các list số nguyên.""" if not os.path.exists(filepath): return [] points = [] with open(filepath, 'r', encoding='utf-8') as f: for line in f: line = line.strip() if not line: continue coords = [int(p.strip()) for p in line.split(',')] points.append(coords) return points # --- Lớp Builder chính --- class ORiDaFactualCounterfactual(datasets.GeneratorBasedBuilder): """Dataset loader cho bộ dữ liệu ORiDa Factual/Counterfactual.""" def _info(self): # Cập nhật lại cấu trúc (schema) để khớp với kiểu dữ liệu chính xác return datasets.DatasetInfo( description="Bộ dữ liệu ORiDa chứa các mẫu factual và counterfactual.", features=datasets.Features({ 'group_id': datasets.Value("string"), 'sample_id': datasets.Value("string"), 'type': datasets.ClassLabel(names=['factual_only', 'factual_counterfactual']), 'image': datasets.Image(), 'ground_truth': datasets.Image(), 'annotations': { 'bbox': datasets.Sequence(datasets.Value("float32")), # Danh sách số thực 'points': datasets.Sequence(datasets.Sequence(datasets.Value("int32"))), # Danh sách của các danh sách số nguyên 'masks': datasets.Image(), 'results_vis': datasets.Image(), # Thêm results_vis là ảnh } }), ) def _split_generators(self, dl_manager): # dl_manager sẽ tự động tìm và giải nén các file zip trong repo train_path = dl_manager.extract("train.zip") validation_path = dl_manager.extract("validation.zip") # Đường dẫn bây giờ sẽ trỏ vào bên trong các thư mục đã được giải nén return [ datasets.SplitGenerator( name=datasets.Split.TRAIN, gen_kwargs={"filepath": os.path.join(train_path, "train")} ), datasets.SplitGenerator( name=datasets.Split.VALIDATION, gen_kwargs={"filepath": os.path.join(validation_path, "validation")} ), ] def _generate_examples(self, filepath): """Hàm này sẽ duyệt qua thư mục và 'yield' từng mẫu dữ liệu.""" key = 0 for group_id in os.listdir(filepath): group_path = os.path.join(filepath, group_id) if not os.path.isdir(group_path): continue ground_truth_path = os.path.join(group_path, f"{group_id}.png") if not os.path.exists(ground_truth_path): continue for type_name in ["factual_only", "factual_counterfactual"]: type_path = os.path.join(group_path, type_name) if not os.path.isdir(type_path): continue for sample_id in os.listdir(type_path): sample_path = os.path.join(type_path, sample_id) if not os.path.isdir(sample_path): continue images_path = os.path.join(sample_path, "images") annotations_path = os.path.join(sample_path, "annotations") if not os.path.isdir(images_path): continue for image_filename in os.listdir(images_path): if not image_filename.lower().endswith(('.png', '.jpg', '.jpeg')): continue image_path = os.path.join(images_path, image_filename) base_image_name = os.path.splitext(image_filename)[0] # Xây dựng đường dẫn đầy đủ tới các file chú thích bbox_file = os.path.join(annotations_path, "bbox", f"{base_image_name}.txt") points_file = os.path.join(annotations_path, "points", f"{base_image_name}.txt") # Thay đổi đuôi file mask và results_vis thành .jpg mask_file = os.path.join(annotations_path, "masks", f"{base_image_name}.jpg") results_vis_file = os.path.join(annotations_path, "results_vis", f"{base_image_name}.jpg") # Gọi các hàm phụ trợ để đọc và xử lý dữ liệu bbox_data = parse_bbox_file(bbox_file) points_data = parse_points_file(points_file) # Chỉ yield mẫu nếu các file ảnh cần thiết tồn tại if not os.path.exists(mask_file) or not os.path.exists(results_vis_file): continue yield key, { "group_id": group_id, "sample_id": sample_id, "type": type_name, "image": image_path, "ground_truth": ground_truth_path, "annotations": { "bbox": bbox_data, "points": points_data, "masks": mask_file, "results_vis": results_vis_file, } } key += 1