fix: récupération des images manquantes et génération des entrées correspondantes dans les fichiers JSONL

check_missing_images.py

@@ -0,0 +1,57 @@
+import shutil
+from pathlib import Path
+
+def check_missing_images(split_dir):
+    """Vérifie les images manquantes dans le dossier spécifié."""
+    split_path = Path(split_dir)
+    images_dir = split_path / "images"
+    
+    # Lire les images existantes
+    existing_images = set(f.name for f in images_dir.glob("*.png"))
+    
+    # Extraire les numéros de page
+    page_numbers = set()
+    for img in existing_images:
+        try:
+            page_num = int(img.split('-')[-1].split('.')[0])
+            page_numbers.add(page_num)
+        except ValueError:
+            continue
+    
+    # Trouver les images manquantes
+    min_page = min(page_numbers)
+    max_page = max(page_numbers)
+    missing_pages = []
+    
+    for page in range(min_page, max_page + 1):
+        expected_image = f"kid-page-{page}.png"
+        if expected_image not in existing_images:
+            missing_pages.append(page)
+    
+    print(f"\nSplit {split_dir}:")
+    print(f"- Nombre total d'images: {len(existing_images)}")
+    print(f"- Plage de pages: {min_page} à {max_page}")
+    print(f"- Pages manquantes: {len(missing_pages)}")
+    if missing_pages:
+        print(f"- Exemple de pages manquantes: {missing_pages[:5]}...")
+    
+    return missing_pages
+
+def main():
+    # Vérifier les images manquantes pour validation et test
+    validation_missing = check_missing_images("validation")
+    test_missing = check_missing_images("test")
+    
+    # Vérifier si les images manquantes existent dans le dossier train
+    train_images = set(f.name for f in Path("train/images").glob("*.png"))
+    
+    print("\nVérification des images manquantes dans le dossier train:")
+    for page in validation_missing[:5] + test_missing[:5]:  # Afficher seulement les 5 premiers de chaque
+        expected_image = f"kid-page-{page}.png"
+        if expected_image in train_images:
+            print(f"- {expected_image} existe dans le dossier train")
+        else:
+            print(f"- {expected_image} n'existe pas dans le dossier train")
+
+if __name__ == "__main__":
+    main() 

generate_missing_entries.py

@@ -0,0 +1,46 @@
+import json
+from pathlib import Path
+
+def generate_missing_entries(split_dir):
+    """Génère les entrées manquantes dans le fichier JSONL."""
+    split_path = Path(split_dir)
+    jsonl_file = split_path / "metadata.jsonl"
+    images_dir = split_path / "images"
+    
+    # Lire les images existantes
+    existing_images = set(f.name for f in images_dir.glob("*.png"))
+    
+    # Lire les entrées existantes
+    existing_entries = set()
+    with open(jsonl_file, 'r', encoding='utf-8') as f:
+        for line in f:
+            item = json.loads(line)
+            existing_entries.add(item['file_name'].split('/')[-1])
+    
+    # Générer les entrées manquantes
+    missing_entries = []
+    for img in existing_images:
+        if img not in existing_entries:
+            # Extraire le numéro de page
+            page_num = int(img.split('-')[-1].split('.')[0])
+            # Créer une nouvelle entrée
+            entry = {
+                "file_name": f"images/{img}",
+                "text": f"Page {page_num} du livre KID"
+            }
+            missing_entries.append(json.dumps(entry, ensure_ascii=False))
+    
+    # Ajouter les entrées manquantes au fichier JSONL
+    with open(jsonl_file, 'a', encoding='utf-8') as f:
+        for entry in missing_entries:
+            f.write(entry + '\n')
+    
+    print(f"\nSplit {split_dir}:")
+    print(f"- Entrées générées: {len(missing_entries)}")
+
+def main():
+    for split in ['validation', 'test']:
+        generate_missing_entries(split)
+
+if __name__ == "__main__":
+    main() 

recover_missing_images.py

@@ -0,0 +1,31 @@
+import shutil
+from pathlib import Path
+
+def recover_missing_images(split_dir):
+    """Récupère les images manquantes depuis le dossier train."""
+    split_path = Path(split_dir)
+    images_dir = split_path / "images"
+    train_dir = Path("train/images")
+    
+    # Lire les images existantes
+    existing_images = set(f.name for f in images_dir.glob("*.png"))
+    train_images = set(f.name for f in train_dir.glob("*.png"))
+    
+    # Récupérer les images manquantes
+    recovered = 0
+    for img in train_images:
+        if img not in existing_images:
+            src = train_dir / img
+            dst = images_dir / img
+            shutil.copy2(src, dst)
+            recovered += 1
+    
+    print(f"\nSplit {split_dir}:")
+    print(f"- Images récupérées: {recovered}")
+
+def main():
+    for split in ['validation', 'test']:
+        recover_missing_images(split)
+
+if __name__ == "__main__":
+    main()