Update app.py

app.py

@@ -32,7 +32,6 @@ def respond(
 ):
     """
     チャットボットの応答を生成する関数
-    Gradio ChatInterfaceの標準形式に対応
     """
     try:
         # システムメッセージと会話履歴を含むプロンプトを構築
@@ -57,10 +56,8 @@ def respond(
         if torch.cuda.is_available():
             inputs = inputs.cuda()
         
-        # 応答生成（ストリーミング対応）
-        response = ""
+        # 応答生成
         with torch.no_grad():
-            # 一度に生成してからストリーミング風に出力
             outputs = model.generate(
                 inputs,
                 max_new_tokens=max_tokens,
@@ -82,65 +79,97 @@ def respond(
         if "ユーザー:" in full_response:
             full_response = full_response.split("ユーザー:")[0].strip()
         
-        # ストリーミング風の出力
-        for i in range(len(full_response)):
-            response = full_response[:i+1]
-            yield response
+        return full_response
             
     except Exception as e:
-        yield f"エラーが発生しました: {str(e)}"
+        return f"エラーが発生しました: {str(e)}"
 
-"""
-Gradio ChatInterfaceを使用したシンプルなチャットボット
-カスタマイズ可能なパラメータを含む
-"""
-demo = gr.ChatInterface(
-    respond,
+# Gradio Blocksを使用したカスタムチャットインターフェース
+with gr.Blocks(
     title="🤖 Sarashina Chatbot",
-    description="Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。",
-    additional_inputs=[
-        gr.Textbox(
-            value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。", 
-            label="システムメッセージ",
-            lines=3
-        ),
-        gr.Slider(
-            minimum=1, 
-            maximum=1024, 
-            value=512, 
-            step=1, 
-            label="最大新規トークン数"
-        ),
-        gr.Slider(
-            minimum=0.1, 
-            maximum=2.0, 
-            value=0.7, 
-            step=0.1, 
-            label="Temperature (創造性)"
-        ),
-        gr.Slider(
-            minimum=0.1,
-            maximum=1.0,
-            value=0.95,
-            step=0.05,
-            label="Top-p (多様性制御)",
-        ),
-    ],
     theme=gr.themes.Soft(),
-    examples=[
-        ["こんにちは！今日はどんなことを話しましょうか？"],
-        ["日本の文化について教えてください。"],
-        ["簡単なレシピを教えてもらえますか？"],
-        ["プログラミングについて質問があります。"],
-    ],
-    cache_examples=False,
-)
+    description="Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。"
+) as demo:
+    
+    gr.Markdown("# 🤖 Sarashina Chatbot")
+    gr.Markdown("Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。")
+    
+    with gr.Row():
+        with gr.Column(scale=3):
+            chatbot = gr.Chatbot(height=500)
+            msg = gr.Textbox(
+                label="メッセージを入力してください",
+                placeholder="こんにちは！何かお手伝いできることはありますか？",
+                lines=2
+            )
+            clear = gr.Button("会話をクリア")
+        
+        with gr.Column(scale=1):
+            gr.Markdown("### 設定")
+            system_message = gr.Textbox(
+                value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",
+                label="システムメッセージ",
+                lines=3
+            )
+            max_tokens = gr.Slider(
+                minimum=1,
+                maximum=1024,
+                value=512,
+                step=1,
+                label="最大新規トークン数"
+            )
+            temperature = gr.Slider(
+                minimum=0.1,
+                maximum=2.0,
+                value=0.7,
+                step=0.1,
+                label="Temperature (創造性)"
+            )
+            top_p = gr.Slider(
+                minimum=0.1,
+                maximum=1.0,
+                value=0.95,
+                step=0.05,
+                label="Top-p (多様性制御)"
+            )
+    
+    # 例文
+    gr.Examples(
+        examples=[
+            ["こんにちは！今日はどんなことを話しましょうか？"],
+            ["日本の文化について教えてください。"],
+            ["簡単なレシピを教えてもらえますか？"],
+            ["プログラミングについて質問があります。"],
+        ],
+        inputs=msg,
+        label="例文"
+    )
+    
+    def user(message, history):
+        return "", history + [[message, None]]
+    
+    def bot(history, system_message, max_tokens, temperature, top_p):
+        history[-1][1] = respond(
+            history[-1][0],
+            history[:-1],
+            system_message,
+            max_tokens,
+            temperature,
+            top_p
+        )
+        return history
+    
+    msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+        bot, [chatbot, system_message, max_tokens, temperature, top_p], chatbot
+    )
+    
+    clear.click(lambda: None, None, chatbot, queue=False)
 
 if __name__ == "__main__":
     demo.launch(
         server_name="0.0.0.0",
         server_port=7860,
-        share=False,
-        show_api=True,  # API documentation を表示
+        share=True,  # パブリックリンクを作成
+        show_api=True,
         debug=True
     )