fix: récupération des images manquantes et mise à jour des fichiers JSONL

check_missing_images.py

@@ -1,57 +0,0 @@
-import shutil
-from pathlib import Path
-
-def check_missing_images(split_dir):
-    """Vérifie les images manquantes dans le dossier spécifié."""
-    split_path = Path(split_dir)
-    images_dir = split_path / "images"
-    
-    # Lire les images existantes
-    existing_images = set(f.name for f in images_dir.glob("*.png"))
-    
-    # Extraire les numéros de page
-    page_numbers = set()
-    for img in existing_images:
-        try:
-            page_num = int(img.split('-')[-1].split('.')[0])
-            page_numbers.add(page_num)
-        except ValueError:
-            continue
-    
-    # Trouver les images manquantes
-    min_page = min(page_numbers)
-    max_page = max(page_numbers)
-    missing_pages = []
-    
-    for page in range(min_page, max_page + 1):
-        expected_image = f"kid-page-{page}.png"
-        if expected_image not in existing_images:
-            missing_pages.append(page)
-    
-    print(f"\nSplit {split_dir}:")
-    print(f"- Nombre total d'images: {len(existing_images)}")
-    print(f"- Plage de pages: {min_page} à {max_page}")
-    print(f"- Pages manquantes: {len(missing_pages)}")
-    if missing_pages:
-        print(f"- Exemple de pages manquantes: {missing_pages[:5]}...")
-    
-    return missing_pages
-
-def main():
-    # Vérifier les images manquantes pour validation et test
-    validation_missing = check_missing_images("validation")
-    test_missing = check_missing_images("test")
-    
-    # Vérifier si les images manquantes existent dans le dossier train
-    train_images = set(f.name for f in Path("train/images").glob("*.png"))
-    
-    print("\nVérification des images manquantes dans le dossier train:")
-    for page in validation_missing[:5] + test_missing[:5]:  # Afficher seulement les 5 premiers de chaque
-        expected_image = f"kid-page-{page}.png"
-        if expected_image in train_images:
-            print(f"- {expected_image} existe dans le dossier train")
-        else:
-            print(f"- {expected_image} n'existe pas dans le dossier train")
-
-if __name__ == "__main__":
-    main() 

generate_missing_entries.py

@@ -1,46 +0,0 @@
-import json
-from pathlib import Path
-
-def generate_missing_entries(split_dir):
-    """Génère les entrées manquantes dans le fichier JSONL."""
-    split_path = Path(split_dir)
-    jsonl_file = split_path / "metadata.jsonl"
-    images_dir = split_path / "images"
-    
-    # Lire les images existantes
-    existing_images = set(f.name for f in images_dir.glob("*.png"))
-    
-    # Lire les entrées existantes
-    existing_entries = set()
-    with open(jsonl_file, 'r', encoding='utf-8') as f:
-        for line in f:
-            item = json.loads(line)
-            existing_entries.add(item['file_name'].split('/')[-1])
-    
-    # Générer les entrées manquantes
-    missing_entries = []
-    for img in existing_images:
-        if img not in existing_entries:
-            # Extraire le numéro de page
-            page_num = int(img.split('-')[-1].split('.')[0])
-            # Créer une nouvelle entrée
-            entry = {
-                "file_name": f"images/{img}",
-                "text": f"Page {page_num} du livre KID"
-            }
-            missing_entries.append(json.dumps(entry, ensure_ascii=False))
-    
-    # Ajouter les entrées manquantes au fichier JSONL
-    with open(jsonl_file, 'a', encoding='utf-8') as f:
-        for entry in missing_entries:
-            f.write(entry + '\n')
-    
-    print(f"\nSplit {split_dir}:")
-    print(f"- Entrées générées: {len(missing_entries)}")
-
-def main():
-    for split in ['validation', 'test']:
-        generate_missing_entries(split)
-
-if __name__ == "__main__":
-    main() 

recover_missing_images.py

@@ -1,31 +1,79 @@
+import json
 import shutil
 from pathlib import Path
 
-def recover_missing_images(split_dir):
-    """Récupère les images manquantes depuis le dossier train."""
-    split_path = Path(split_dir)
-    images_dir = split_path / "images"
-    train_dir = Path("train/images")
-    
-    # Lire les images existantes
-    existing_images = set(f.name for f in images_dir.glob("*.png"))
-    train_images = set(f.name for f in train_dir.glob("*.png"))
-    
-    # Récupérer les images manquantes
-    recovered = 0
-    for img in train_images:
-        if img not in existing_images:
-            src = train_dir / img
-            dst = images_dir / img
-            shutil.copy2(src, dst)
-            recovered += 1
-    
-    print(f"\nSplit {split_dir}:")
-    print(f"- Images récupérées: {recovered}")
+def get_image_paths_from_json(json_file):
+    """Extrait les chemins d'images d'un fichier JSON."""
+    with open(json_file, 'r', encoding='utf-8') as f:
+        data = json.load(f)
+    return [item['image'] for item in data]
+
+def copy_missing_images(source_dir, target_dir, image_paths):
+    """Copie les images manquantes du dossier source vers le dossier cible."""
+    source_path = Path(source_dir)
+    target_path = Path(target_dir)
+    target_path.mkdir(exist_ok=True)
+    
+    copied_count = 0
+    for img_path in image_paths:
+        img_name = Path(img_path).name
+        source_img = source_path / img_name
+        target_img = target_path / img_name
+        
+        if source_img.exists() and not target_img.exists():
+            shutil.copy2(source_img, target_img)
+            copied_count += 1
+            print(f"Copié: {img_name}")
+    
+    return copied_count
+
+def update_jsonl_from_json(json_file, jsonl_file):
+    """Met à jour le fichier JSONL avec les données du fichier JSON."""
+    # Lire le JSON
+    with open(json_file, 'r', encoding='utf-8') as f:
+        json_data = json.load(f)
+    
+    # Convertir en format JSONL
+    jsonl_lines = []
+    for item in json_data:
+        jsonl_lines.append(json.dumps(item, ensure_ascii=False))
+    
+    # Écrire le JSONL
+    with open(jsonl_file, 'w', encoding='utf-8') as f:
+        for line in jsonl_lines:
+            f.write(line + '\n')
+    
+    return len(jsonl_lines)
 
 def main():
-    for split in ['validation', 'test']:
-        recover_missing_images(split)
+    # Dossiers source et cible
+    train_dir = Path('train')
+    validation_dir = Path('validation')
+    test_dir = Path('test')
+    
+    # Récupérer les chemins d'images des fichiers JSON
+    validation_images = get_image_paths_from_json('validation/validation.json')
+    test_images = get_image_paths_from_json('test/test.json')
+    
+    # Copier les images manquantes
+    print("\nCopie des images manquantes pour la validation...")
+    validation_copied = copy_missing_images(train_dir / 'images', validation_dir / 'images', validation_images)
+    print(f"Images copiées pour la validation: {validation_copied}")
+    
+    print("\nCopie des images manquantes pour le test...")
+    test_copied = copy_missing_images(train_dir / 'images', test_dir / 'images', test_images)
+    print(f"Images copiées pour le test: {test_copied}")
+    
+    # Mettre à jour les fichiers JSONL
+    print("\nMise à jour des fichiers JSONL...")
+    validation_count = update_jsonl_from_json('validation/validation.json', 'validation/metadata.jsonl')
+    test_count = update_jsonl_from_json('test/test.json', 'test/metadata.jsonl')
+    
+    print(f"\nRésumé:")
+    print(f"- Images copiées pour la validation: {validation_copied}")
+    print(f"- Images copiées pour le test: {test_copied}")
+    print(f"- Entrées dans validation.jsonl: {validation_count}")
+    print(f"- Entrées dans test.jsonl: {test_count}")
 
 if __name__ == "__main__":
     main()