Upload folder using huggingface_hub

app.py

@@ -81,56 +81,30 @@ class ModelHandler:
             print(f"❌ Model loading failed: {e}")
             raise e
 
-    def predict(self, message_dict, history, temperature, max_tokens):
-        text = message_dict.get("text", "")
-        files = message_dict.get("files", [])
 
-        messages = []
-        
-        if history:
-            print(f"Processing {len(history)} previous messages from history")
-            for msg in history:
-                role = msg.get("role", "")
-                content = msg.get("content", "")
-                
-                if role == "user":
-                    user_content = []
-                    
-                    if isinstance(content, list):
-                        for item in content:
-                            if isinstance(item, str):
-                                if os.path.exists(item) or any(item.lower().endswith(ext) for ext in ['.jpg', '.jpeg', '.png', '.gif', '.bmp', '.webp']):
-                                    user_content.append({"type": "image", "image": item})
-                                else:
-                                    user_content.append({"type": "text", "text": item})
-                            elif isinstance(item, dict):
-                                user_content.append(item)
-                    elif isinstance(content, str):
-                        if content:
-                            user_content.append({"type": "text", "text": content})
-                    
-                    if user_content:
-                        messages.append({"role": "user", "content": user_content})
-                        
-                elif role == "assistant":
-                    if isinstance(content, str) and content:
-                        messages.append({"role": "assistant", "content": content})
-        
-        current_content = []
-        if files:
-            for file_path in files:
-                current_content.append({"type": "image", "image": file_path})
-        
-        if text:
-            sys_prompt_formatted = " ".join(sys_prompt.split())
-            full_text = f"{text}\n{sys_prompt_formatted}"
-            current_content.append({"type": "text", "text": full_text})
-        
-        if current_content:
-            messages.append({"role": "user", "content": current_content})
+    def predict(self, messages, temperature, max_tokens):
+        # 【修复3】简化 predict 逻辑
+        # 不要在函数内部重新解析 history，而是直接接收处理好的标准 messages 列表
         
+        # 将 system prompt 拼接到最后一条用户消息中
+        if messages and messages[-1]["role"] == "user":
+            content = messages[-1]["content"]
+            sys_prompt_fmt = "\n" + " ".join(sys_prompt.split())
+            
+            if isinstance(content, str):
+                messages[-1]["content"] += sys_prompt_fmt
+            elif isinstance(content, list):
+                # 如果是多模态列表，找到 text 部分追加
+                text_found = False
+                for item in content:
+                    if item.get("type") == "text":
+                        item["text"] += sys_prompt_fmt
+                        text_found = True
+                        break
+                if not text_found:
+                    content.append({"type": "text", "text": sys_prompt_fmt})
+
         print(f"Total messages for model: {len(messages)}")
-        print(f"Message roles: {[m['role'] for m in messages]}")
 
         text_prompt = self.processor.apply_chat_template(
             messages, tokenize=False, add_generation_prompt=True
@@ -163,22 +137,15 @@ class ModelHandler:
             input_length = inputs['input_ids'].shape[1]
             generated_ids = generated_ids[0][input_length:]
             
-            print(f"Input length: {input_length}, Generated token count: {len(generated_ids)}")
-            
             generated_text = self.processor.tokenizer.decode(
                 generated_ids, 
                 skip_special_tokens=True
             )
             
-            print(f"Generation completed. Output length: {len(generated_text)}, Content preview: {repr(generated_text[:200])}")
-            
-            if generated_text and generated_text.strip():
-                print(f"Yielding generated text: {generated_text[:100]}...")
+            if generated_text:
                 yield generated_text
             else:
-                warning_msg = "⚠️ No output generated. The model may not have produced any response."
-                print(warning_msg)
-                yield warning_msg
+                yield "⚠️ No output generated."
                 
         except Exception as e:
             import traceback
@@ -197,113 +164,109 @@ def get_model_handler():
         model_handler = ModelHandler(MODEL_PATH)
     return model_handler
 
-def _convert_history_to_messages_format(history):
-    """将旧格式的 Chatbot history 转换为新格式的 messages"""
+def _history_to_messages(history):
+    """
+    【新增辅助函数��学习参考代码的逻辑：
+    将 Gradio 的 Tuple 历史 [[user_msg, bot_msg], ...] 
+    转换为 Model 需要的 OpenAI 格式 [{'role': 'user', ...}, ...]
+    """
     messages = []
+    
     for pair in history:
-        if isinstance(pair, list) and len(pair) >= 2:
-            user_msg = pair[0]
-            assistant_msg = pair[1] if len(pair) > 1 else ""
-            
-            # 处理用户消息
-            user_content = []
+        user_msg, bot_msg = pair
+        
+        # --- 1. 处理用户消息 ---
+        if user_msg:
+            # 判断是否为图片路径（简单判断）
+            is_image = False
             if isinstance(user_msg, str):
-                user_content.append({"type": "text", "text": user_msg})
-            elif isinstance(user_msg, tuple):
-                # 旧格式可能是 (text, image) 或 (image, text)
-                for item in user_msg:
-                    if isinstance(item, str):
-                        if os.path.exists(item) or any(item.lower().endswith(ext) for ext in ['.jpg', '.jpeg', '.png', '.gif', '.bmp', '.webp']):
-                            user_content.append({"type": "image", "image": item})
-                        else:
-                            user_content.append({"type": "text", "text": item})
-            elif isinstance(user_msg, list):
-                # 可能是新格式的内容列表
-                user_content = user_msg
+                if os.path.exists(user_msg) or any(user_msg.lower().endswith(ext) for ext in ['.jpg', '.jpeg', '.png', '.webp']):
+                    is_image = True
             
-            if user_content:
-                messages.append({"role": "user", "content": user_content})
+            if is_image:
+                # 图片消息
+                messages.append({
+                    "role": "user", 
+                    "content": [{"type": "image", "image": user_msg}]
+                })
+            else:
+                # 文本消息
+                messages.append({
+                    "role": "user", 
+                    "content": [{"type": "text", "text": str(user_msg)}]
+                })
+        
+        # --- 2. 处理机器人消息 ---
+        if bot_msg:
+            messages.append({
+                "role": "assistant", 
+                "content": [{"type": "text", "text": str(bot_msg)}]
+            })
             
-            # 处理助手消息
-            if assistant_msg and isinstance(assistant_msg, str):
-                messages.append({"role": "assistant", "content": assistant_msg})
-        elif isinstance(pair, dict):
-            # 如果已经是新格式，直接使用
-            messages.append(pair)
     return messages
 
-def _format_user_input_for_chatbot(text, files):
-    """格式化用户输入为 Chatbot 可显示的格式"""
-    if files and text:
-        # 有图片和文本，返回元组格式
-        return (text, *files)
-    elif files:
-        # 只有图片
-        return files[0] if len(files) == 1 else tuple(files)
-    else:
-        # 只有文本
-        return text
-
 @gpu_decorator
 def respond(user_msg, history, temp, tokens):
     """
-    user_msg: Gradio MultimodalTextbox 返回的字典 {'text': '...', 'files': ['...']}
-    history: Gradio Chatbot (type='messages') 维护的列表 [{'role': 'user', 'content': ...}, ...]
+    【修复4】完全重写 respond 函数
+    解决 UI (Tuple) 和 Model (Dict) 格式不兼容的问题
     """
     
-    # 1. 解析用户输入，构建符合 OpenAI 格式的 User Message
-    user_content = []
-    
-    # 处理图片文件
+    # 1. 解析 Gradio MultimodalTextbox 的输入
     files = user_msg.get("files", [])
-    for file_path in files:
-        user_content.append({"type": "image", "image": file_path})
-    
-    # 处理文本
     text = user_msg.get("text", "")
+    
+    # 2. 更新 UI 历史 (Tuple 格式)
+    # -------------------------------------------------
+    # 先把图片加进历史
+    for f in files:
+        history.append([f, None])
+    
+    # 再把文本加进历史
     if text:
-        user_content.append({"type": "text", "text": text})
-
-    if not user_content:
-        yield history, gr.MultimodalTextbox(interactive=True)
-        return
+        history.append([text, None])
+    elif not text and files:
+        # 如果只有图没字，也需要触发回复，不做操作，history 已经有了图片项
+        pass
 
-    # 2. 将当前用户消息加入历史记录
-    new_message = {"role": "user", "content": user_content}
-    history.append(new_message)
-    
-    # 3. 立即 yield 更新 UI（显示用户消息），同时清空输入框
+    # 立即 yield，让用户先看到自己的输入
     yield history, gr.MultimodalTextbox(value=None, interactive=False)
     
-    # 4. 准备调用模型
+    # 3. 准备模型输入 (Dict 格式)
+    # -------------------------------------------------
     try:
         handler = get_model_handler()
         
-        # 预先加入一个空的 Assistant 消息用���流式填充
-        history.append({"role": "assistant", "content": ""})
+        # 将当前的 Tuple 历史转换为 Model 能读懂的 Messages 列表
+        messages = _history_to_messages(history)
         
-        # 调用 predict (注意：这里直接传 history 即可，因为 history 已经是完整的上下文)
-        # 我们传入 history 的深拷贝以防修改影响 UI，或者直接传引用如果 predict 内部做了处理
-        # 这里为了安全，我们只把 history 传进去，predict 内部会处理 sys_prompt 的追加逻辑
-        import copy
-        messages_payload = copy.deepcopy(history[:-1]) # 去掉刚才加的空 assistant
-        
-        for chunk in handler.predict(messages_payload, temp, tokens):
-            # 实时更新最后一条消息的内容
-            history[-1]["content"] = chunk
+        # 在 UI 历史上预留一个空位给机器人回复
+        # 如果最后一条只有 User 内容 (例如 [text, None])，我们填充它
+        if history and history[-1][1] is None:
+            history[-1][1] = ""
+        else:
+            history.append([None, ""]) # 万一没对应上，追加一个空回复
+            
+        # 4. 调用模型流式生成
+        full_response = ""
+        for chunk in handler.predict(messages, temp, tokens):
+            full_response += chunk
+            # 实时更新 UI 历史的最后一条
+            history[-1][1] = full_response
             yield history, gr.MultimodalTextbox(interactive=False)
             
     except Exception as e:
         import traceback
         traceback.print_exc()
-        # 发生错误时，追加错误信息
-        if history and history[-1]["role"] == "assistant":
-            history[-1]["content"] += f"\n❌ Error: {str(e)}"
+        # 错误处理
+        err_msg = f"❌ Error: {str(e)}"
+        if history and history[-1][1] is None:
+            history[-1][1] = err_msg
         else:
-            history.append({"role": "assistant", "content": f"❌ Error: {str(e)}"})
+            history.append([None, err_msg])
         yield history, gr.MultimodalTextbox(interactive=True)
     
-    # 最后恢复输入框可交互
+    # 恢复输入框
     yield history, gr.MultimodalTextbox(interactive=True)
 
 def create_chat_ui():