Update app.py

app.py

@@ -12,6 +12,7 @@ from docx import Document
 import time
 import random
 from google.genai.types import GenerateContentConfig
+import json
 
 
 def extract_zip_and_collect_files(zip_file_path):
@@ -41,7 +42,7 @@ def process_pdfs(pdf_files):
         if not os.path.isfile(pdf_file):
             raise ValueError(f"File {pdf_file} does not exist.")
 
-        images = convert_from_path(pdf_file, dpi=300)  # Convert PDF pages to images
+        images = convert_from_path(pdf_file, dpi=300)
         all_images.extend(images)
 
     return all_images
@@ -49,21 +50,14 @@ def process_pdfs(pdf_files):
 
 # Function to analyze the extracted image using Google GenAI
 def gemini_analysis(images, tanggal_berangkat, tanggal_pulang, api_key):
-    """
-    Analyze the extracted image using Google GenAI.
-    """
-    # Initialize the GenAI client (make sure the API key is set properly)
-    today = date.today()
     client = genai.Client(api_key=api_key)
     # Define your prompt
-    prompt = f'''Anda bertugas memvalidasi kelengkapan, kesesuaian dan konsistensi data dari dokumen individual berdasarkan syarat Visa di bawah. Cukup fokus pada syarat yang diberikan tanpa mengambil referensi lain.
-    Gunakan {tanggal_berangkat} sebagai tanggal berangkat, dan {tanggal_pulang} sebagai tanggal kepulangan.
-    Pastikan data seperti nama, tanggal, tujuan dan lainnya konsisten antar dokumen. Semua jawaban dalam format text. Jangan tambahkan formating seperti * atau #
-    Jawaban cukup berupa rangkuman saja, tidak perlu per dokumen 1-per-1
-    Terakhir, buat pesan pemberitahuan berdasarkan hasil analisa dokumen-dokumen dengan format dari contoh di bawah.
+    prompt = '''Anda bertugas memvalidasi kelengkapan, kesesuaian dan konsistensi data dari dokumen individual berdasarkan syarat Visa di bawah. Cukup fokus pada syarat yang diberikan tanpa mengambil referensi lain.
+    Pastikan data seperti nama, tanggal, tujuan dan lainnya konsisten antar dokumen.
     ---
     DAFTAR SYARAT DOKUMEN YANG WAJIB DIPERIKSA:
     1. Paspor
+    WAJIB ADA
     Asli, aktif min. 6 bulan setelah tanggal kepulangan
     Ada tanda tangan pemilik
     Lampirkan paspor lama jika ada visa perjalanan sebelumnya
@@ -71,95 +65,136 @@ def gemini_analysis(images, tanggal_berangkat, tanggal_pulang, api_key):
     2. Fotokopi Paspor
     Halaman depan & tanda tangan
     Semua visa perjalanan sebelumnya jika ada (terutama 5 tahun terakhir)
-    Jika tidak ada, cukup beritahu bahwa Fotokopi Paspor belum ada.
+    Tidak wajib ada. Jika tidak ada, cukup beritahu bahwa Fotokopi Paspor belum ada.
     3. Pas Foto
+    Wajib ada
     Ukuran kurang lebih 3.5 x 4.5 cm, background putih
     Wajah terlihat 80%, alis tidak tertutup, tidak pakai softlens, tidak berbayang
     4. Kartu Keluarga (KK)
+    Wajib ada
     Minimal versi 2019 atau berbarcode
     Harus sesuai status (nikah/cerai/anak-anak → lampirkan dokumen pendukung)
     Harus ditranslate untuk VFS Germany
-    5. Akte Nikah/SUrat Nikah/Bukti nikah
+    5. Akte Nikah/Surat Nikah/Bukti nikah/Surat Cerai/ Bukti Cerai
+    Wajib ada jika sudah menikah atau bercerai. Tidak perlu jika belum menikah
     Halaman biodata suami dan istri saja
     Jika istri ikut, wajib melampirkan surat izin suami
     6. KTP
+    Wajib ada
     Nama harus sama dengan paspor dan tercantum pada Kartu Keluarga (KK)
     Jika nama berbeda maka wajib lampirkan surat beda nama
     7. Akta Kelahiran / Surat Kelahiran / Bukti Kelahiran / Ijazah
-    Wajib jika anak-anak atau peserta disponsori oranglain
+    Wajib jika ada anak-anak atau peserta disponsori oranglain
     8. Surat Sponsor (Guarantee Letter)
+    Wajib ada
     Dalam Bahasa Inggris
     Tujuan negara, tanggal trip
     Siapa yang menanggung biaya
     Wajib ada tertulis menjamin akan kembali ke Indonesia
     9. Status Pekerjaan
+    (Surat Kerja/Slip Gaji/NIB/SIUP/Surat Jaminan Staf/Surat Sekolah/Surat Universitas/Kartu Pelajar/Kontrak Kerja/Bukti Transaksi/Surat Pensiun/Guarantee Keluarga)
+    Wajib ada salah satu
     Pegawai: Surat kerja + Slip gaji 3 bulan
     Pemilik usaha: NIB/SIUP + Surat jaminan staf
     Pelajar: Surat sekolah/universitas + kartu pelajar
     Freelancer/onlineshop: Kontrak kerja & 5 bukti transaksi
     Pensiun: Surat pensiun + guarantee dari keluarga
-    10. Rekening Koran (3 bulan)
+    10. Rekening Koran 3 bulan
+    WAJIB ADA
     Atas nama pribadi & sponsor
     Cap & logo bank, nama, nomor rekening
     Saldo stabil min. Rp 35 juta/orang
     11. Slip Gaji
+    Wajib ada jika pekerja
     3 bulan terakhir
     Jika suami lengkap → istri cukup lampirkan rekening koran suami
     ---
-    FORMAT RANGKUMAN :
-    - List dokumen yang sudah valid: ...
-    - List dokumen yang tidak valid perlu pemeriksaan ulang: ...
+    TEMPLATE PESAN PEMBERITAHUAN (notice_msg):
+    Berikut kami informasikan kekurangan dokumen yang *WAJIB* dibawa saat biometric visa schengen nanti ya :
+
+    1. ...
+    2. ...
+    3. ...
     ---
-    CONTOH PESAN PEMBERITAHUAN:
-    🌻 *(WISH TRAVELERS) UPDATE DOKUMEN PENGAJUAN VISA* 🌻
-Penting, mohon di baca sampai habis ya kak 🙏🏻
-Ini adalah nomor sistem, tidak dapat membalas pesan. Apabila ada pertanyaan, silahkan hubungi mimin WT wa.me/6282123038484
-Halo Kak selamat malam 😊
-Berikut kami informasikan kekurangan dokumen yang *WAJIB* dibawa saat biometric visa schengen tanggal Tanggal Biometrik nanti ya :
-▪️ Kak Gina
-1. PASPOR ASLI (pastikan sudah ada halaman kolom tanda tangan pemegang paspor dan sudah ditandatangani)
-2. REVISI STATEMENT LETTER PENSIUN ASLI (ubah kalimat “holiday to west europe” menjadi “holiday to france and other schengen countries”)
-3. REVISI GUARANTEE LETTER ASLI (ubah kalimat “vacation to west european countries” menjadi “vacation to france and other schengen countries”)
-4. UPDATE REKENING KORAN PRIBADI 20 JUNI S/D 16 AGUSTUS 2023
-5. INFO EMAIL PRIBADI (mohon segera diinfokan ke nomor di atas untuk di isi di form pengajuan visa)
+    TEMPLATE OUTPUT JAWABAN DALAM FORMAT JSON:
+    {
+    "analysis":
+        {
+        "nama_dokumen_1": {"status": "VALID / INVALID / Tidak Perlu", 
+                           "description": "penjelasan detail"},  
+        "nama_dokumen_2": {"status": "VALID / INVALID / Tidak Perlu", 
+                           "description": "penjelasan detail"},
+        "nama_dokumen_3": {"status": "VALID / INVALID / Tidak Perlu",
+                           "description": "penjelasan detail"}
+        },
+    "summary": "...", # Analisa keseluruhan dokumen yang diperiksa
+    "invalid_item": ["nama_dokumen_1", "nama_dokumen_2"],
+    "notice_msg": "...",
+    "form_filling": {"Surname":"...", 
+                     "First Name":"...", 
+                     "Date of Birth":"...", 
+                     "Place of Birth":"...", 
+                     "Nationality":"...", 
+                     "Sex":"...", 
+                     "Mariage Status":"...",
+                     "Passport Number":"...", 
+                     "Passport Expiry Date":"...",
+                     "National Identity Number":"...",
+                     "Travel Document Type":"...",
+                     "Travel Document Number":"...",
+                     "Date Of Issue":"...",
+                     "Valid Until":"...",
+                     "Issued Country":"...",
+                     "Applicant's Home Address":"...",
+                     "Applicant's Telephone Number":"...",
+                     "Applicant's Email Address":"...",
+                     "Current Occupation":"...",
+                     "Employer/Educational Address":"...",
+                     "Journey Purpose":"...",
+                     "Destination":"...",
+                     "Duration":"...",
+                     "Number of Entries":"...", # single or multiple
+                     "already has fingerprint":"...",
+                     "inviting person from each destination":"...",
+                     "inviting person email address":"...",
+                     "Traveling and living cost covered by":"..."
+                     } # Hanya isi yang ada di dokumen saja. Jika tidak ada, tidak usah diisi atau dimunculkan
+                    }
     '''
 
     # Perform document analysis
-    response_1 = client.models.generate_content(
+    prompt_with_date = f'Tanggal Berangkat={tanggal_berangkat}. Tanggal pulang={tanggal_pulang}\n\n{prompt}'
+    response = client.models.generate_content(
         model="gemini-2.0-flash-lite",
-        contents=[prompt] + images,
+        contents=[prompt_with_date] + images,
         config=GenerateContentConfig(
-              temperature=0.1,
-              top_p=0.1,
-              maxOutputTokens=500
+              temperature=0.2,
+              top_p=0.2, 
+              response_mime_type="application/json"
             )
       )
-    analysis = response_1.text
-    # Perform valid list generation
-    prompt_2 = "Dari analisa diatas, Rangkum menjadi list/daftar dokumen YANG TIDAK VALID SAJA. Misal: 'paspor', 'pasfoto', 'kartukeluarga', 'buktinikah', 'KTP', 'suratkelahiran', 'suratsponsor', 'suratkerja', 'NIB', 'SIUP', 'suratjaminanstaff', 'suratsekolah', 'kontrakkerja', 'suratpensiun', 'rekeningkoran', 'slipgaji'. Jangan tambahkan kata-kata atau kalimat lain. Tidak boleh ada file di luar contoh."
-    response_2 = client.models.generate_content(
-        model="gemini-2.0-flash-lite",
-        contents=[analysis, prompt_2],  # Pass prompt and image files
-        config=GenerateContentConfig(
-              temperature=0.1,
-              top_p=0.1,
-              maxOutputTokens=200
-            )
-    )
-    valid_docs_list_raw = response_2.text.strip().lower()
-    if '\n' in valid_docs_list_raw:
-      docs_list = [line.strip("-• ").strip() for line in valid_docs_list_raw.splitlines() if line.strip()]
-    elif ',' in valid_docs_list_raw:
-      docs_list = [item.strip() for item in valid_docs_list_raw.split(",") if item.strip()]
-    elif '* ' in valid_docs_list_raw:
-      docs_list = [item.strip() for item in valid_docs_list_raw.split("*") if item.strip()]
-    else:
-      # fallback: jadikan 1 elemen list
-      docs_list = [valid_docs_list_raw]
-    return analysis, docs_list
-
-
-def process_and_zip_all_images(images, api_key, zip_name="Valid_Docs.zip"):
+    raw_output = response.text
+    # ✅ Inisialisasi variabel default
+    analysis = {}
+    summary = ""
+    invalid_list = []
+    notice_msg = ""
+    form_filling = {}
+    try:
+        parsed_output = json.loads(response.text)
+        analysis = parsed_output.get("analysis", {})
+        analysis_str = json.dumps(analysis, indent=2, ensure_ascii=False)
+        summary = parsed_output.get("summary", "")
+        invalid_list = parsed_output.get("invalid_item", [])
+        invalid_list_str = json.dumps(invalid_list, indent=2, ensure_ascii=False)
+        notice_msg = parsed_output.get("notice_msg", "")
+        form_filling = parsed_output.get("form_filling", "")
+        form_filling_str = json.dumps(form_filling, indent=2, ensure_ascii=False)
+    except Exception as e:
+        print(f"Error parsing JSON: {e}")
+    return raw_output, analysis_str, summary, invalid_list_str, notice_msg, form_filling_str
+
+def process_and_zip_all_images(images, api_key, zip_name="All_PDF_Docs.zip"):
     # Inisialisasi Gemini client
     client = genai.Client(api_key=api_key)
 
@@ -205,14 +240,11 @@ Output:
         for doc_name, images in grouped.items():
             images_rgb = [img.convert("RGB") for img in images]
             pdf_path = os.path.join(temp_dir, f"{doc_name}.pdf")
-
             if len(images_rgb) == 1:
                 images_rgb[0].save(pdf_path, save_all=True)
             else:
                 images_rgb[0].save(pdf_path, save_all=True, append_images=images_rgb[1:])
-
             zipf.write(pdf_path, arcname=f"{doc_name}.pdf")
-
     return zip_path
 
 
@@ -242,7 +274,7 @@ def main_process(files, tanggal_berangkat, tanggal_pulang, api_key):
             raise ValueError(f"File {file_path} is not a valid image, PDF, or ZIP.")
 
     # Generate summary from images
-    summary, valid_list = gemini_analysis(all_images, tanggal_berangkat, tanggal_pulang, api_key)
+    raw_output, analysis_str, summary, invalid_list_str, notice_msg, form_filling_str = gemini_analysis(all_images, tanggal_berangkat, tanggal_pulang, api_key)
     rdf = random.randint(5, 10)
     time.sleep(rdf)
 
@@ -259,8 +291,8 @@ def main_process(files, tanggal_berangkat, tanggal_pulang, api_key):
     doc.save(temp_docx_path)
 
     # Filtering the file
-    zip_file_path = process_and_zip_all_images(all_images, api_key, zip_name=f'PDF_ZIP_{base_name}.zip')
-    return temp_docx_path, valid_list, zip_file_path
+    zip_file_path = process_and_zip_all_images(all_images, api_key, zip_name=f'All_PDF_Docs_{base_name}.zip')
+    return temp_docx_path, form_filling_str, zip_file_path, invalid_list_str
 
 
 # Gradio UI update: add ".zip" to accepted file types
@@ -291,16 +323,18 @@ with gr.Blocks() as demo:
         )
 
     run_btn = gr.Button("🏃 Run Analysis")
-    output = gr.Textbox(label="📝 INVALID DOCUMENT LIST", lines=5)
 
     with gr.Row():
         download_output_docx = gr.File(label="📥 Download Summary as DOCX", visible=True)
         download_valid_zip = gr.File(label="📥 Download all PDF document in zip", visible=True)
+    
+    form_filling_output = gr.Textbox(label="📝 FORM FILLING RESULT", lines=5)
+    invalid_list_output = gr.Textbox(label="📝 INVALID DOCUMENT LIST", lines=5)
 
     run_btn.click(
         fn=main_process,
         inputs=[file_input, tanggal_berangkat, tanggal_pulang, api_key],
-        outputs=[download_output_docx, output, download_valid_zip]
+        outputs=[download_output_docx, form_filling_output, download_valid_zip, invalid_list_output]
     )
 
 demo.launch(debug=True)