train_valid_test_creation.py

import os
import shutil
import random

from google.colab import drive
drive.mount('/content/drive')

# 0. Программа для разбиения датасета на три выборки: тренировочную, валидационную и тестовую. seed = 42 для воспроизводимости.
# 1. Выполнено в google collab!
# 2. В папке labels есть файл classes (создаётся при разметке в labellmg). Его удали!!




# --- Настройка путей ---
# Папка, где находятся все ваши изображения после разметки
source_images_dir = '/content/drive/My Drive/dataset/grechka'
# Папка, где находятся все ваши .txt файлы аннотаций после разметки
source_labels_dir = '/content/drive/My Drive/dataset/labels'

# Папка, куда будет создан новый датасет в структуре YOLO
destination_base_dir = '/content/drive/My Drive/yolo_grechka_dataset'

# --- Настройка соотношений разбивки ---
train_ratio = 0.8  # 80% для тренировки
val_ratio = 0.15 # 15% для валидации
test_ratio = 0.05  # 5% для теста (убедитесь, что сумма равна 1.0)

# --- Создание структуры папок YOLO ---
os.makedirs(os.path.join(destination_base_dir, 'images', 'train'), exist_ok=True)
os.makedirs(os.path.join(destination_base_dir, 'images', 'val'), exist_ok=True)
os.makedirs(os.path.join(destination_base_dir, 'images', 'test'), exist_ok=True)
os.makedirs(os.path.join(destination_base_dir, 'labels', 'train'), exist_ok=True)
os.makedirs(os.path.join(destination_base_dir, 'labels', 'val'), exist_ok=True)
os.makedirs(os.path.join(destination_base_dir, 'labels', 'test'), exist_ok=True)

# --- Получение списка всех изображений ---
# Фильтруем только файлы изображений (можно добавить другие расширения, если нужно)
image_files = [f for f in os.listdir(source_images_dir) if f.lower().endswith(('.png', '.jpg', '.jpeg', '.bmp', '.webp'))]

# Перемешиваем список изображений для случайного разбиения
random.seed(42) # Для воспроизводимости результатов
random.shuffle(image_files)

# --- Вычисление количества файлов для каждого набора ---
total_files = len(image_files)
train_count = int(total_files * train_ratio)
val_count = int(total_files * val_ratio)
test_count = total_files - train_count - val_count # Оставшиеся идут в тест

print(f"Всего изображений: {total_files}")
print(f"Для тренировки: {train_count}")
print(f"Для валидации: {val_count}")
print(f"Для теста: {test_count}")

# --- Разбиение и копирование файлов ---
current_index = 0

# Копирование для тренировочного набора
for i in range(train_count):
    img_file = image_files[current_index]
    base_name, ext = os.path.splitext(img_file)
    label_file = base_name + '.txt' # Имя соответствующего файла аннотации

    # Копируем изображение
    shutil.copy(os.path.join(source_images_dir, img_file), os.path.join(destination_base_dir, 'images', 'train', img_file))
    # Копируем файл аннотации (проверяем его наличие)
    if os.path.exists(os.path.join(source_labels_dir, label_file)):
         shutil.copy(os.path.join(source_labels_dir, label_file), os.path.join(destination_base_dir, 'labels', 'train', label_file))
    else:
         print(f"Внимание: Файл аннотации для {img_file} не найден в {source_labels_dir}. Изображение скопировано, но без метки.")


    current_index += 1

# Копирование для валидационного набора
for i in range(val_count):
    img_file = image_files[current_index]
    base_name, ext = os.path.splitext(img_file)
    label_file = base_name + '.txt'

    shutil.copy(os.path.join(source_images_dir, img_file), os.path.join(destination_base_dir, 'images', 'val', img_file))
    if os.path.exists(os.path.join(source_labels_dir, label_file)):
        shutil.copy(os.path.join(source_labels_dir, label_file), os.path.join(destination_base_dir, 'labels', 'val', label_file))
    else:
        print(f"Внимание: Файл аннотации для {img_file} не найден в {source_labels_dir}. Изображение скопировано, но без метки.")

    current_index += 1

# Копирование для тестового набора
for i in range(test_count):
    img_file = image_files[current_index]
    base_name, ext = os.path.splitext(img_file)
    label_file = base_name + '.txt'

    shutil.copy(os.path.join(source_images_dir, img_file), os.path.join(destination_base_dir, 'images', 'test', img_file))
    if os.path.exists(os.path.join(source_labels_dir, label_file)):
        shutil.copy(os.path.join(source_labels_dir, label_file), os.path.join(destination_base_dir, 'labels', 'test', label_file))
    else:
        print(f"Внимание: Файл аннотации для {img_file} не найден в {source_labels_dir}. Изображение скопировано, но без метки.")

    current_index += 1

print("\nРазбиение датасета завершено.")
print(f"Датасет в формате YOLO создан по пути: {destination_base_dir}")

# --- Создание placeholder data.yaml файла (нужно будет заполнить классами) ---
data_yaml_content = f"""
train: ../images/train
val: ../images/val
test: ../images/test # Опционально, если вы разбили на тест

nc: 1 # Укажите количество ваших классов
names: ['impurity'] # Укажите названия ваших классов в списке
"""

data_yaml_path = os.path.join(destination_base_dir, 'data.yaml')
with open(data_yaml_path, 'w') as f:
    f.write(data_yaml_content)

print(f"Создан placeholder data.yaml файл: {data_yaml_path}")
print("!!! ВАЖНО: Отредактируйте data.yaml файл, указав правильное количество и названия ваших классов. !!!")