Update app.py

app.py

@@ -22,22 +22,22 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 print("モデルの読み込みが完了しました。")
 
-def respond(
-    message,
-    history: list[tuple[str, str]],
-    system_message,
-    max_tokens,
-    temperature,
-    top_p,
-):
+# グローバル設定変数
+SYSTEM_MESSAGE = "あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。"
+MAX_TOKENS = 512
+TEMPERATURE = 0.7
+TOP_P = 0.95
+
+def respond(message, history):
     """
     チャットボットの応答を生成する関数
+    Gradio ChatInterfaceの標準形式に対応
     """
     try:
         # システムメッセージと会話履歴を含むプロンプトを構築
         conversation = ""
-        if system_message.strip():
-            conversation += f"システム: {system_message}\n"
+        if SYSTEM_MESSAGE.strip():
+            conversation += f"システム: {SYSTEM_MESSAGE}\n"
         
         # 会話履歴を追加
         for user_msg, bot_msg in history:
@@ -60,9 +60,9 @@ def respond(
         with torch.no_grad():
             outputs = model.generate(
                 inputs,
-                max_new_tokens=max_tokens,
-                temperature=temperature,
-                top_p=top_p,
+                max_new_tokens=MAX_TOKENS,
+                temperature=TEMPERATURE,
+                top_p=TOP_P,
                 do_sample=True,
                 pad_token_id=tokenizer.eos_token_id,
                 eos_token_id=tokenizer.eos_token_id,
@@ -84,85 +84,20 @@ def respond(
     except Exception as e:
         return f"エラーが発生しました: {str(e)}"
 
-# Gradio Blocksを使用したカスタムチャットインターフェース
-with gr.Blocks(
+# Gradio ChatInterfaceを使用したシンプルなチャットボット
+demo = gr.ChatInterface(
+    respond,
     title="🤖 Sarashina Chatbot",
-    theme=gr.themes.Soft()
-) as demo:
-    
-    gr.Markdown("# 🤖 Sarashina Chatbot")
-    gr.Markdown("Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。")
-    
-    with gr.Row():
-        with gr.Column(scale=3):
-            chatbot = gr.Chatbot(height=500)
-            msg = gr.Textbox(
-                label="メッセージを入力してください",
-                placeholder="こんにちは！何かお手伝いできることはありますか？",
-                lines=2
-            )
-            clear = gr.Button("会話をクリア")
-        
-        with gr.Column(scale=1):
-            gr.Markdown("### 設定")
-            system_message = gr.Textbox(
-                value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",
-                label="システムメッセージ",
-                lines=3
-            )
-            max_tokens = gr.Slider(
-                minimum=1,
-                maximum=1024,
-                value=512,
-                step=1,
-                label="最大新規トークン数"
-            )
-            temperature = gr.Slider(
-                minimum=0.1,
-                maximum=2.0,
-                value=0.7,
-                step=0.1,
-                label="Temperature (創造性)"
-            )
-            top_p = gr.Slider(
-                minimum=0.1,
-                maximum=1.0,
-                value=0.95,
-                step=0.05,
-                label="Top-p (多様性制御)"
-            )
-    
-    # 例文
-    gr.Examples(
-        examples=[
-            ["こんにちは！今日はどんなことを話しましょうか？"],
-            ["日本の文化について教えてください。"],
-            ["簡単なレシピを教えてもらえますか？"],
-            ["プログラミングについて質問があります。"],
-        ],
-        inputs=msg,
-        label="例文"
-    )
-    
-    def user(message, history):
-        return "", history + [[message, None]]
-    
-    def bot(history, system_message, max_tokens, temperature, top_p):
-        history[-1][1] = respond(
-            history[-1][0],
-            history[:-1],
-            system_message,
-            max_tokens,
-            temperature,
-            top_p
-        )
-        return history
-    
-    msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
-        bot, [chatbot, system_message, max_tokens, temperature, top_p], chatbot
-    )
-    
-    clear.click(lambda: None, None, chatbot, queue=False)
+    description="Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。",
+    theme=gr.themes.Soft(),
+    examples=[
+        ["こんにちは！今日はどんなことを話しましょうか？"],
+        ["日本の文化について教えてください。"],
+        ["簡単なレシピを教えてもらえますか？"],
+        ["プログラミングについて質問があります。"],
+    ],
+    cache_examples=False,
+)
 
 if __name__ == "__main__":
     demo.launch(