Update app.py

app.py

@@ -26,28 +26,15 @@ if prompt := st.chat_input("質問を入力してください:"):
     st.session_state['conversation_history'].append({"role": "user", "content": prompt})
     st.chat_message("user").markdown(prompt)
     
-    # Groq APIからの応答を取得（英語で生成）
+    translated_prompt = ""
     response_text = ""
-    translated_text = ""
+    translated_response_text = ""
+
     with st.chat_message("assistant"):
         message_placeholder = st.empty()  # 応答の一時表示用の空要素
         
         try:
-            # llama3-70b-8192で英語の応答を生成
-            response = client.chat.completions.create(
-                model="llama3-70b-8192",  # Groq APIで利用可能な正確なモデル名に更新
-                messages=[{"role": "user", "content": prompt}],
-                stream=True  # ストリーミングモードを有効にする
-            )
-            
-            # ストリーミングで英語の応答を受信（表示しない）
-            for chunk in response:
-                if hasattr(chunk.choices[0].delta, 'content'):
-                    chunk_text = chunk.choices[0].delta.content
-                    if chunk_text:
-                        response_text += chunk_text
-            
-            # gemma2-9b-itのシステムプロンプトを設定
+            # 日本語の質問を英語に翻訳（gemma2-9b-itを使用）
             system_message = """
             あなたは流暢な日本語を話すAIアシスタントです。以下の指示に従ってください：
 
@@ -64,31 +51,60 @@ if prompt := st.chat_input("質問を入力してください:"):
 
             これらの設定に基づいて、自然で適切、かつ状況に応じて柔軟な日本語での応答を行ってください。
             """
-
-            # llama3-70b-8192の応答を日本語に翻訳（gemma2-9b-itを使用）
+            
             translation_response = client.chat.completions.create(
-                model="gemma2-9b-it",  # Groq APIで利用可能な日本語翻訳用のモデル名に更新
+                model="gemma2-9b-it",
                 messages=[
                     {"role": "system", "content": system_message},
-                    {"role": "user", "content": response_text}
+                    {"role": "user", "content": prompt}
                 ],
                 stream=True,
                 temperature=0.8,
                 top_p=0.92
             )
-            st.success("gemma2-9b-itでの翻訳APIリクエストが正常に送信されました。")
             
-            # 翻訳されたテキストをリアルタイムで表示
+            # 日本語の質問を英語に翻訳（表示しない）
             for chunk in translation_response:
                 if hasattr(chunk.choices[0].delta, 'content'):
                     chunk_text = chunk.choices[0].delta.content
                     if chunk_text:
-                        translated_text += chunk_text
-                        message_placeholder.markdown(translated_text)
+                        translated_prompt += chunk_text
+            
+            # 英語に翻訳された質問をllama3-70b-8192で応答生成
+            response = client.chat.completions.create(
+                model="llama3-70b-8192",
+                messages=[{"role": "user", "content": translated_prompt}],
+                stream=True
+            )
+            
+            for chunk in response:
+                if hasattr(chunk.choices[0].delta, 'content'):
+                    chunk_text = chunk.choices[0].delta.content
+                    if chunk_text:
+                        response_text += chunk_text
+            
+            # 応答を日本語に翻訳
+            final_translation_response = client.chat.completions.create(
+                model="gemma2-9b-it",
+                messages=[
+                    {"role": "system", "content": system_message},
+                    {"role": "user", "content": response_text}
+                ],
+                stream=True,
+                temperature=0.8,
+                top_p=0.92
+            )
+            
+            for chunk in final_translation_response:
+                if hasattr(chunk.choices[0].delta, 'content'):
+                    chunk_text = chunk.choices[0].delta.content
+                    if chunk_text:
+                        translated_response_text += chunk_text
+                        message_placeholder.markdown(translated_response_text)
             
             # 最終的な翻訳された応答を確定表示
-            message_placeholder.markdown(translated_text)
-            st.session_state['conversation_history'].append({"role": "assistant", "content": translated_text})
+            message_placeholder.markdown(translated_response_text)
+            st.session_state['conversation_history'].append({"role": "assistant", "content": translated_response_text})
             st.success("APIからの応答が正常に処理されました。")
         
         except Exception as e: