Update app.py

app.py

@@ -17,10 +17,6 @@ from huggingface_hub import hf_hub_download
 SERPHOUSE_API_KEY = os.getenv("SERPHOUSE_API_KEY", "")
 
 def do_web_search(query: str) -> str:
-    """
-    Brave Web Search API를 이용하여 query 검색 후,
-    최대 10개 검색 결과를 title/url/description 형태로 마크다운으로 요약 반환.
-    """
     try:
         url = "https://api.search.brave.com/res/v1/web/search"
         params = {
@@ -31,7 +27,6 @@ def do_web_search(query: str) -> str:
         headers = {
             "Accept": "application/json",
             "Accept-Encoding": "gzip",
-            # Brave API 키 ( SERPHOUSE_API_KEY 를 그대로 사용 )
             "X-Subscription-Token": SERPHOUSE_API_KEY,
         }
         response = requests.get(url, headers=headers, params=params, timeout=30)
@@ -125,14 +120,14 @@ css = """
 
 def get_messages_formatter_type(model_name):
     if "Mistral" in model_name or "BitSix" in model_name:
-        return MessagesFormatterType.CHATML  # Mistral 계열 모델은 ChatML 형식 사용
+        return MessagesFormatterType.CHATML
     else:
         raise ValueError(f"Unsupported model: {model_name}")
 
 @spaces.GPU(duration=120)
 def respond(
     message,
-    history: list[dict],  # history 항목이 tuple이 아닌 dict 형식으로 전달됨
+    history: list[dict],
     system_message,
     max_tokens,
     temperature,
@@ -145,9 +140,7 @@ def respond(
     
     chat_template = get_messages_formatter_type(MISTRAL_MODEL_NAME)
     
-    # 모델 파일 경로 확인
     model_path_local = os.path.join("./models", MISTRAL_MODEL_NAME)
-    
     print(f"Model path: {model_path_local}")
     
     if not os.path.exists(model_path_local):
@@ -182,31 +175,47 @@ def respond(
     settings.stream = True
 
     # --------------------------------------------------------------------------------------
-    # 여기서 Brave Web Search를 수행하여 그 결과를 system_message에 추가 (기본 적용)
+    # Brave Web Search를 수행하여 그 결과를 system_message 끝에 추가
     # --------------------------------------------------------------------------------------
-    # 1) 유저 메시지에 대해 Brave 검색
     search_results = do_web_search(message)
-    
-    # 2) system_message 끝에 검색 결과 추가
-    #    필요에 따라 안내 문구도 덧붙일 수 있음
     agent.system_prompt += f"\n\n[Brave Search Results for '{message}']\n{search_results}\n"
     # --------------------------------------------------------------------------------------
 
     messages = BasicChatHistory()
 
-    # history의 각 항목이 dict 형식으로 {'user': <user_message>, 'assistant': <assistant_message>} 형태라고 가정
-    for msn in history:
-        user_message = {
-            'role': Roles.user,
-            'content': msn.get('user', '')
-        }
-        assistant_message = {
-            'role': Roles.assistant,
-            'content': msn.get('assistant', '')
-        }
-        messages.add_message(user_message)
-        messages.add_message(assistant_message)
-    
+    # ----------------------------------------------------------------------------
+    # 2번 해결책: history 디버깅 및 빈 메시지 방지
+    # ----------------------------------------------------------------------------
+    for i, msn in enumerate(history):
+        print(f"[DEBUG] History item #{i}: {msn}")  # 실제 구조를 확인하기 위한 디버그 로그
+
+        user_text = msn.get("user", "")
+        assistant_text = msn.get("assistant", "")
+
+        # user (role=user)
+        if user_text.strip():
+            user_message = {
+                "role": Roles.user,
+                "content": user_text
+            }
+            messages.add_message(user_message)
+        else:
+            if "user" not in msn or not msn["user"]:
+                print(f"[WARN] History item #{i}: 'user'가 없거나 빈 문자열입니다.")
+
+        # assistant (role=assistant)
+        if assistant_text.strip():
+            assistant_message = {
+                "role": Roles.assistant,
+                "content": assistant_text
+            }
+            messages.add_message(assistant_message)
+        else:
+            if "assistant" not in msn or not msn["assistant"]:
+                print(f"[WARN] History item #{i}: 'assistant'가 없거나 빈 문자열입니다.")
+    # ----------------------------------------------------------------------------
+
+    # 모델 생성
     stream = agent.get_chat_response(
         message,
         llm_sampling_settings=settings,