Upload folder using huggingface_hub

app.py

@@ -197,70 +197,66 @@ def _history_to_messages(history):
 
 # ==========================================
 @gpu_decorator
-def respond(user_msg, history, temp, tokens):
+def respond(user_input, history, temp, tokens):
     """
-    user_msg: {'text': '...', 'files': ['...']}
-    history: List[List[str | None]]  <- 这是旧版格式
+    user_input: MultimodalTextbox 返回的字典 {'text': '...', 'files': [...]}
+    history: 这里的 history 是 Gradio 自动维护的 [{'role': 'user', ...}, ...] 列表
     """
-    files = user_msg.get("files", [])
-    text = user_msg.get("text", "")
     
-    # 1. 更新 UI History (先让用户在界面上看到自己的输入)
-    # -------------------------------------------------
+    # 1. 构建当前用户的消息对象
+    user_content = []
     
-    # 先处理图片：每张图片作为一个单独的 (path, None) 元组添加到历史
-    # Gradio Chatbot 会自动识别路径并显示图片
-    for f in files:
-        history.append([f, None])
+    # 处理图片
+    files = user_input.get("files", [])
+    for file_path in files:
+        user_content.append({"type": "image", "image": file_path})
     
-    # 再处理文本
+    # 处理文本
+    text = user_input.get("text", "")
     if text:
-        # 如果有文本，添加 (text, None)，准备让机器人回复这一条
-        history.append([text, None]) 
-    elif not text and files:
-        # 如果只有图片没文本，添加一个空的占位符，让机器人回复图片
-        # 注意：这里我们用 (None, None) 可能会报错，用 ("(image uploaded)", None) 或者
-        # 更常见的做法是：最后一项的 user 部分必须非空才能看起来正常，
-        # 但我们可以在下面立即生成回复填补 bot 部分。
-        pass 
+        user_content.append({"type": "text", "text": text})
 
-    # 此时 history 已经更新了用户的输入
+    # 如果没有内容，直接返回
+    if not user_content:
+        yield history, gr.MultimodalTextbox(interactive=True)
+        return
+
+    # 2. 将用户消息加入历史
+    # 注意：history 必须是 [{'role': 'user', 'content': [...]}, ...] 格式
+    history.append({"role": "user", "content": user_content})
+    
+    # 立即更新 UI，清空输入框
     yield history, gr.MultimodalTextbox(value=None, interactive=False)
     
-    # 2. 调用模型
-    # -------------------------------------------------
     try:
         handler = get_model_handler()
         
-        # 将 Tuple 历史转换为模型能懂的 Messages 列表
-        # 注意：我们需要把刚才加入的“只有用户部分”的消息也转进去
-        messages = _history_to_messages(history)
+        # 3. 预先加入一个空的助手消息，用于流式显示
+        history.append({"role": "assistant", "content": ""})
+        
+        # 4. 调用模型
+        # 我们传入 history 的副本（不包含刚才加的空 assistant），以免污染
+        input_messages = copy.deepcopy(history[:-1])
         
-        # 在界面上为机器人的回复预留位置
-        # 如果最后一条是 [user_content, None]，我们把它改成 [user_content, ""]
-        if history and history[-1][1] is None:
-            history[-1][1] = ""
-        else:
-            # 如果万一没有对应行，加一行
-            history.append([None, ""])
-            
-        # 流式生成
         full_response = ""
-        for chunk in handler.predict(messages, temp, tokens):
+        for chunk in handler.predict(input_messages, temp, tokens):
             full_response += chunk
-            history[-1][1] = full_response # 更新最后一行机器人的回复
+            # 实时更新最后一条消息的内容
+            history[-1]["content"] = full_response
             yield history, gr.MultimodalTextbox(interactive=False)
             
     except Exception as e:
         import traceback
         traceback.print_exc()
-        err_msg = f"❌ Error: {str(e)}"
-        if history and history[-1][1] is None:
-            history[-1][1] = err_msg
+        # 出错时显示错误信息
+        if history and history[-1]["role"] == "assistant":
+            history[-1]["content"] += f"\n❌ Error: {str(e)}"
         else:
-            history.append([None, err_msg])
+            history.append({"role": "assistant", "content": f"❌ Error: {str(e)}"})
+            
         yield history, gr.MultimodalTextbox(interactive=True)
     
+    # 最后恢复输入框
     yield history, gr.MultimodalTextbox(interactive=True)
 
 def create_chat_ui():
@@ -280,7 +276,7 @@ def create_chat_ui():
                     elem_id="chatbot",
                     label="Chat",
                     avatar_images=(None, "https://api.dicebear.com/7.x/bottts/svg?seed=Qwen"),
-                    height=650,
+                    height=650
                 )
                 
                 chat_input = gr.MultimodalTextbox(