Dùng api từ gg AIstudio để check trước khi đổi openrouter

app/config.py

@@ -25,6 +25,9 @@ class Settings:
     # Google API Key (Dùng cho Google AI / Gemini)
     GOOGLE_API_KEY: str | None = os.getenv("GOOGLE_API_KEY", None)
 
+    # OpenRouter API Key (Dùng để gọi các model AI qua chuẩn OpenAI)
+    OPENROUTER_API_KEY: str | None = os.getenv("OPENROUTER_API_KEY", None)
+
     # Device để chạy inference: "cpu" hoặc "cuda"
     DEVICE: str = os.getenv("DEVICE", "cpu")
 

app/llm_service.py

@@ -1,16 +1,26 @@
 import io
 import json
+import base64
 import traceback
-# pyrefly: ignore [missing-import]
-import google.generativeai as genai
-# pyrefly: ignore [missing-import]
+import mimetypes
+# from openai import OpenAI
 import PyPDF2
-from app.config import settings 
+from app.config import settings
+import google.generativeai as genai
 
-# Configure Gemini/Google AI
+# Configure Google AI Studio (Tạm thời mở lại theo yêu cầu)
 if settings.GOOGLE_API_KEY:
     genai.configure(api_key=settings.GOOGLE_API_KEY)
 
+# Configure OpenRouter (via OpenAI SDK) - TẠM COMMENT
+# if settings.OPENROUTER_API_KEY:
+#     client = OpenAI(
+#         base_url="https://openrouter.ai/api/v1",
+#         api_key=settings.OPENROUTER_API_KEY,
+#     )
+# else:
+#     client = None
+
 def extract_text_from_pdf(file_bytes: bytes) -> str:
     """Extract raw text from PDF bytes using PyPDF2."""
     pdf_reader = PyPDF2.PdfReader(io.BytesIO(file_bytes))
@@ -23,13 +33,14 @@ def extract_text_from_pdf(file_bytes: bytes) -> str:
 
 def extract_cv_info(file_bytes: bytes, filename: str) -> dict:
     """
-    Extract structured CV info using Google AI (Gemma 3 27B / Gemini).
+    Extract structured CV info using Google AI (Gemma 3 27B / OpenAI API standard).
     Hỗ trợ cả định dạng PDF và Hình ảnh (Image).
     """
     if not settings.GOOGLE_API_KEY:
         raise ValueError("Thiếu GOOGLE_API_KEY trong cấu hình.")
+    # if not client:
+    #     raise ValueError("Thiếu OPENROUTER_API_KEY trong cấu hình.")
     
-    import mimetypes
     filename_lower = filename.lower()
     is_pdf = filename_lower.endswith('.pdf')
     is_image = filename_lower.endswith(('.png', '.jpg', '.jpeg', '.webp'))
@@ -37,14 +48,6 @@ def extract_cv_info(file_bytes: bytes, filename: str) -> dict:
     if not is_pdf and not is_image:
         raise ValueError("Định dạng file không được hỗ trợ. Chỉ hỗ trợ PDF và các định dạng ảnh (PNG, JPG, JPEG, WEBP).")
 
-    # 1. Khởi tạo model Gemma 3 27B (Theo yêu cầu của người dùng)
-    try:
-        model = genai.GenerativeModel('gemma-3-27b-it')
-    except Exception as e:
-        print("Lỗi khởi tạo model Gemma 3:", str(e))
-        # Fallback trong trường hợp API endpoint chưa hỗ trợ gemma-3
-        model = genai.GenerativeModel('gemini-2.5-flash')
-
     base_prompt = """
 Bạn là một chuyên gia phân tích nhân sự (HR) và trích xuất dữ liệu. Hãy đọc văn bản được trích xuất từ một CV hoặc hình ảnh CV dưới đây và bóc tách các thông tin thành định dạng JSON chuẩn.
 CHỈ THỊ QUAN TRỌNG:
@@ -109,27 +112,68 @@ CHỈ THỊ QUAN TRỌNG:
 """
 
     # 2. Xử lý Input (Dựa trên loại file)
+    messages = [
+        {
+            "role": "system",
+            "content": "Bạn là một AI phân tích CV cực kỳ chính xác. Bạn chỉ trả về định dạng JSON, tuyệt đối không bao gồm markdown hay bất kỳ text giải thích nào khác."
+        }
+    ]
+
     if is_pdf:
         raw_text = extract_text_from_pdf(file_bytes)
         if not raw_text.strip():
             raise ValueError("Không thể đọc được văn bản từ file PDF (có thể file là ảnh scan). Vui lòng chuyển sang định dạng ảnh (JPG/PNG).")
+        
+        # --- Code cho Google AI Studio ---
         prompt_data = base_prompt + f"\n\nNội dung CV:\n---\n{raw_text[:10000]}\n---"
+        
+        # --- Code cho OpenRouter (Tạm comment) ---
+        # user_content = base_prompt + f"\n\nNội dung CV:\n---\n{raw_text[:10000]}\n---"
+        # messages.append({
+        #     "role": "user",
+        #     "content": user_content
+        # })
     else:
-        # Nếu là hình ảnh, đẩy thẳng byte của hình ảnh lên Model
         mime_type, _ = mimetypes.guess_type(filename)
         if not mime_type:
             mime_type = "image/jpeg"
-        
+            
+        # --- Code cho Google AI Studio ---
         prompt_data = [
             {"mime_type": mime_type, "data": file_bytes},
             base_prompt
         ]
+        
+        # --- Code cho OpenRouter (Tạm comment) ---
+        # base64_image = base64.b64encode(file_bytes).decode("utf-8")
+        # messages.append({
+        #     "role": "user",
+        #     "content": [
+        #         {
+        #             "type": "text",
+        #             "text": base_prompt
+        #         },
+        #         {
+        #             "type": "image_url",
+        #             "image_url": {
+        #                 "url": f"data:{mime_type};base64,{base64_image}"
+        #             }
+        #         }
+        #     ]
+        # })
 
-    # 3. Gọi API
+    # 3. Gọi Google AI API (Sử dụng gemini-2.5-flash làm test chuẩn)
+    model = genai.GenerativeModel('gemini-2.5-flash')
     response = model.generate_content(prompt_data)
-    
-    # 4. Xử lý và làm sạch JSON trả về
     response_text = response.text.strip()
+
+    # 3. Gọi OpenRouter API (Tạm comment)
+    # response = client.chat.completions.create(
+    #     model="google/gemma-3-27b-it", # Tên model chính xác trên OpenRouter
+    #     messages=messages,
+    #     temperature=0.1, # Giảm sáng tạo, tăng độ chính xác trích xuất
+    # )
+    # response_text = response.choices[0].message.content.strip()
     if response_text.startswith("```json"):
         response_text = response_text[7:]
     if response_text.startswith("```"):

requirements.txt

@@ -19,6 +19,7 @@ pydantic
 python-dotenv
 gradio
 pandas
+openai
 google-generativeai
 python-multipart
 PyPDF2