Update app.py
Browse files
app.py
CHANGED
|
@@ -1,8 +1,11 @@
|
|
| 1 |
import streamlit as st
|
| 2 |
-
import
|
|
|
|
| 3 |
|
| 4 |
-
#
|
| 5 |
-
|
|
|
|
|
|
|
| 6 |
|
| 7 |
# Streamlitアプリケーションのタイトルと説明
|
| 8 |
st.title("Groq APIによるAIチャットボット")
|
|
@@ -17,8 +20,8 @@ user_input = st.text_input("質問を入力してください:")
|
|
| 17 |
|
| 18 |
# Groq APIにリクエストを送信し、ストリーミング応答を取得する関数
|
| 19 |
def get_groq_response(prompt):
|
| 20 |
-
response =
|
| 21 |
-
model="
|
| 22 |
messages=[{"role": "user", "content": prompt}],
|
| 23 |
stream=True # ストリーミングモードを有効にする
|
| 24 |
)
|
|
@@ -39,8 +42,8 @@ if user_input:
|
|
| 39 |
|
| 40 |
# ストリーミングで部分的な応答をリアルタイムで表示
|
| 41 |
for chunk in response:
|
| 42 |
-
if chunk:
|
| 43 |
-
chunk_text = chunk
|
| 44 |
response_text += chunk_text
|
| 45 |
st.write(response_text) # 部分的な応答を表示
|
| 46 |
|
|
|
|
| 1 |
import streamlit as st
|
| 2 |
+
import os
|
| 3 |
+
from groq import Groq
|
| 4 |
|
| 5 |
+
# APIキーの設定
|
| 6 |
+
client = Groq(
|
| 7 |
+
api_key=st.secrets["GROQ_API_KEY"],
|
| 8 |
+
)
|
| 9 |
|
| 10 |
# Streamlitアプリケーションのタイトルと説明
|
| 11 |
st.title("Groq APIによるAIチャットボット")
|
|
|
|
| 20 |
|
| 21 |
# Groq APIにリクエストを送信し、ストリーミング応答を取得する関数
|
| 22 |
def get_groq_response(prompt):
|
| 23 |
+
response = client.chat.completions.create(
|
| 24 |
+
model="llama3-8b-8192", # 適切なモデル名に置き換えてください
|
| 25 |
messages=[{"role": "user", "content": prompt}],
|
| 26 |
stream=True # ストリーミングモードを有効にする
|
| 27 |
)
|
|
|
|
| 42 |
|
| 43 |
# ストリーミングで部分的な応答をリアルタイムで表示
|
| 44 |
for chunk in response:
|
| 45 |
+
if "choices" in chunk:
|
| 46 |
+
chunk_text = chunk['choices'][0]['delta']['content']
|
| 47 |
response_text += chunk_text
|
| 48 |
st.write(response_text) # 部分的な応答を表示
|
| 49 |
|