Update app.py

app.py

@@ -71,27 +71,54 @@ def respond(
         yield accumulated
 
 # Create Gradio Chat Interface
-demo = gr.ChatInterface(
-    fn=respond,
-    additional_inputs=[
-        gr.Dropdown(
+with gr.Blocks() as demo:
+    # Custom title with logo
+    with gr.Row():
+        gr.HTML(
+            '<div style="display: flex; align-items: center;">'
+            f'<img src="file/{os.path.abspath("media/le-carnet.png")}" style="height: 50px; margin-right: 10px;" />'
+            '<h1 style="margin: 0;">LeCarnet</h1>'
+            '</div>'
+        )
+    
+    # Chat interface
+    chatbot = gr.ChatInterface(
+        fn=respond,
+        title=None,  # Remove default title
+        description=None,  # Remove default description
+        examples=[
+            ["Il était une fois un petit garçon qui vivait dans un village paisible."],
+            ["Il était une fois une grenouille qui rêvait de toucher les étoiles chaque nuit depuis son étang."],
+            ["Il était une fois un petit lapin perdu"],
+        ],
+        cache_examples=False,
+    )
+    
+    # Sidebar for model selection and parameters
+    with gr.Column(elem_classes="sidebar", variant="panel"):
+        gr.Markdown("### Model Configuration")
+        model_dropdown = gr.Dropdown(
             choices=["LeCarnet-3M", "LeCarnet-8M", "LeCarnet-21M"],
             value="LeCarnet-8M",
             label="Model",
-        ),
-        gr.Slider(1, 512, value=512, step=1, label="Max New Tokens"),
-        gr.Slider(0.1, 2.0, value=0.7, step=0.1, label="Temperature"),
-        gr.Slider(0.1, 1.0, value=0.9, step=0.05, label="Top-p"),
-    ],
-    title="LeCarnet",
-    description="Select a model and enter text to get started.",
-    examples=[
-        ["Il était une fois un petit garçon qui vivait dans un village paisible."],
-        ["Il était une fois une grenouille qui rêvait de toucher les étoiles chaque nuit depuis son étang."],
-        ["Il était une fois un petit lapin perdu"],
-    ],
-    cache_examples=False,
-)
+        )
+        max_tokens_slider = gr.Slider(1, 512, value=512, step=1, label="Max New Tokens")
+        temperature_slider = gr.Slider(0.1, 2.0, value=0.7, step=0.1, label="Temperature")
+        top_p_slider = gr.Slider(0.1, 1.0, value=0.9, step=0.05, label="Top-p")
+        
+        # Pass parameters to the chatbot
+        chatbot.load(
+            fn=lambda x, y, z, w: None,
+            inputs=[model_dropdown, max_tokens_slider, temperature_slider, top_p_slider],
+            outputs=None,
+        )
+        chatbot.config.update({
+            "model_name": model_dropdown,
+            "max_tokens": max_tokens_slider,
+            "temperature": temperature_slider,
+            "top_p": top_p_slider,
+        })
 
+# Launch the app
 if __name__ == "__main__":
     demo.queue(default_concurrency_limit=10, max_size=10).launch(ssr_mode=False, max_threads=10)