gigachat update

app.py

@@ -1,15 +1,33 @@
 import pandas as pd
 import streamlit as st
 import random
+from langchain.chat_models.gigachat import GigaChat
+from langchain.prompts.chat import ChatPromptTemplate, HumanMessagePromptTemplate, SystemMessagePromptTemplate
+
 
 if 'button_clicked' not in st.session_state:
     st.session_state.button_clicked = False
 
 
+@st.cache_data
+def load_data():
+    return pd.read_csv('data/data.csv', index_col=0)
+
+
+@st.cache_resource
+def load_chat():
+    chat = GigaChat(
+        credentials='MjExZTNmMTUtMGFiZi00OWU5LWExODEtNTRmMWViODIzZTFlOjFjMWM0YjM5LTAwZjItNGUyMi1hZjE1LTQzZTAxMjZjZGYyYg==',
+        verify_ssl_certs=False)
+    return chat
+
+
+chat = load_chat()
+
+
 def show_serial(number, score=None):
     with st.container(border=True):
         col1, col2, col3 = st.columns(3)
-
         with col1:
             st.image(data.iloc[number, 1])
         with col2:
@@ -20,13 +38,26 @@ def show_serial(number, score=None):
                 st.write(f'{score[1]} metric: {score[0]:.4f}')
             st.markdown(f'[Ссылка]({data.iloc[number, 0]})')
         with col3:
-            st.text_area("Описание", value=data.iloc[number, 4], height=300, disabled=True)
+            tab1, tab2 = st.tabs(["Аннотация", "Описание от бота"])
+            with tab1:
+                st.text_area(label='Аннотация', value=data.iloc[number, 4],
+                             height=250, disabled=True, label_visibility='hidden')
+            with tab2:
+                setting = "ты умеешь кратко в несколько предложений описывать содержание книги по ее названию"
+                system_message_prompt = SystemMessagePromptTemplate.from_template(setting)
+                human_template = "Кратко опиши cюжет сериала под названием: {title}"
+                human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)
+                chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
+                formatted_prompt = chat_prompt.format_prompt(title=data.iloc[number, 2])
+                response = chat(formatted_prompt.to_messages())
+                st.text_area(label='Чат', value=response.content,
+                             height=250, disabled=True, label_visibility='hidden')
 
 
 st.title('Рекомендатор сериалов')
 st.divider()
 
-data = pd.read_csv('data/data.csv', index_col=0)
+data = load_data()
 
 cols = st.columns(4)
 with cols[0]:
@@ -49,6 +80,6 @@ if st.button('Дай 10 случайных сериалов', use_container_widt
     st.session_state.button_clicked = True
 
 if st.session_state.button_clicked:
-    for _ in range(10):
-        number = random.randint(0, data.shape[0] - 1)
+    indices = random.sample(range(data.shape[0]), 10)
+    for number in indices:
         show_serial(number)

notebooks/embeddings.ipynb

@@ -136,6 +136,176 @@
    "id": "cf07f22fb88110ed",
    "outputs": [],
    "execution_count": 8
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:32:48.089368Z",
+     "start_time": "2024-08-15T19:32:47.803520Z"
+    }
+   },
+   "cell_type": "code",
+   "source": [
+    "from langchain.schema import HumanMessage, SystemMessage\n",
+    "from langchain_community.chat_models.gigachat import GigaChat"
+   ],
+   "id": "2702e7fc3039396f",
+   "outputs": [],
+   "execution_count": 1
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:35:09.946960Z",
+     "start_time": "2024-08-15T19:35:09.837Z"
+    }
+   },
+   "cell_type": "code",
+   "source": "chat = GigaChat(credentials='MjExZTNmMTUtMGFiZi00OWU5LWExODEtNTRmMWViODIzZTFlOjFjMWM0YjM5LTAwZjItNGUyMi1hZjE1LTQzZTAxMjZjZGYyYg==', verify_ssl_certs=False)",
+   "id": "da55b67751c1ae48",
+   "outputs": [],
+   "execution_count": 2
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:36:04.668354Z",
+     "start_time": "2024-08-15T19:35:32.837378Z"
+    }
+   },
+   "cell_type": "code",
+   "source": [
+    "messages = [\n",
+    "    SystemMessage(\n",
+    "        content=\"Ты - знаток сериалов, который без проблем может кратко описать любой сюжет\"\n",
+    "    )\n",
+    "]\n",
+    "\n",
+    "# while(True):\n",
+    "#     user_input = input(\"User: \")\n",
+    "#     messages.append(HumanMessage(content=user_input))\n",
+    "#     res = chat.invoke(messages)\n",
+    "#     messages.append(res)\n",
+    "#     print(\"Bot: \", res.content)"
+   ],
+   "id": "fbabc0f3fec5efb3",
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Bot:  Всё просто замечательно! А у тебя как дела?\n",
+      "Bot:  Да, я твой брат.\n",
+      "Bot:  Что случилось?\n",
+      "Bot:  Я здесь, чтобы помочь тебе.\n",
+      "Bot:  Расскажи мне, что тебя беспокоит.\n",
+      "Bot:  Хорошо.\n"
+     ]
+    },
+    {
+     "name": "stderr",
+     "output_type": "stream",
+     "text": [
+      "\n",
+      "KeyboardInterrupt\n",
+      "\n"
+     ]
+    }
+   ],
+   "execution_count": 3
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:38:56.230640Z",
+     "start_time": "2024-08-15T19:38:56.210747Z"
+    }
+   },
+   "cell_type": "code",
+   "source": [
+    "user_input = HumanMessage(content=\"привет! расскажи про сериал Во все тяжкие\")\n",
+    "chat.invoke(user_input)"
+   ],
+   "id": "db1a3aeb008cfb2b",
+   "outputs": [
+    {
+     "ename": "ValueError",
+     "evalue": "Invalid input type <class 'langchain_core.messages.human.HumanMessage'>. Must be a PromptValue, str, or list of BaseMessages.",
+     "output_type": "error",
+     "traceback": [
+      "\u001B[0;31m---------------------------------------------------------------------------\u001B[0m",
+      "\u001B[0;31mValueError\u001B[0m                                Traceback (most recent call last)",
+      "Cell \u001B[0;32mIn[6], line 2\u001B[0m\n\u001B[1;32m      1\u001B[0m user_input \u001B[38;5;241m=\u001B[39m HumanMessage(content\u001B[38;5;241m=\u001B[39m\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mпривет! расскажи про сериал Во все тяжкие\u001B[39m\u001B[38;5;124m\"\u001B[39m)\n\u001B[0;32m----> 2\u001B[0m chat\u001B[38;5;241m.\u001B[39minvoke(user_input)\n",
+      "File \u001B[0;32m~/anaconda3/envs/torch_env/lib/python3.11/site-packages/langchain_core/language_models/chat_models.py:292\u001B[0m, in \u001B[0;36mBaseChatModel.invoke\u001B[0;34m(self, input, config, stop, **kwargs)\u001B[0m\n\u001B[1;32m    280\u001B[0m \u001B[38;5;28;01mdef\u001B[39;00m \u001B[38;5;21minvoke\u001B[39m(\n\u001B[1;32m    281\u001B[0m     \u001B[38;5;28mself\u001B[39m,\n\u001B[1;32m    282\u001B[0m     \u001B[38;5;28minput\u001B[39m: LanguageModelInput,\n\u001B[0;32m   (...)\u001B[0m\n\u001B[1;32m    286\u001B[0m     \u001B[38;5;241m*\u001B[39m\u001B[38;5;241m*\u001B[39mkwargs: Any,\n\u001B[1;32m    287\u001B[0m ) \u001B[38;5;241m-\u001B[39m\u001B[38;5;241m>\u001B[39m BaseMessage:\n\u001B[1;32m    288\u001B[0m     config \u001B[38;5;241m=\u001B[39m ensure_config(config)\n\u001B[1;32m    289\u001B[0m     \u001B[38;5;28;01mreturn\u001B[39;00m cast(\n\u001B[1;32m    290\u001B[0m         ChatGeneration,\n\u001B[1;32m    291\u001B[0m         \u001B[38;5;28mself\u001B[39m\u001B[38;5;241m.\u001B[39mgenerate_prompt(\n\u001B[0;32m--> 292\u001B[0m             [\u001B[38;5;28mself\u001B[39m\u001B[38;5;241m.\u001B[39m_convert_input(\u001B[38;5;28minput\u001B[39m)],\n\u001B[1;32m    293\u001B[0m             stop\u001B[38;5;241m=\u001B[39mstop,\n\u001B[1;32m    294\u001B[0m             callbacks\u001B[38;5;241m=\u001B[39mconfig\u001B[38;5;241m.\u001B[39mget(\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mcallbacks\u001B[39m\u001B[38;5;124m\"\u001B[39m),\n\u001B[1;32m    295\u001B[0m             tags\u001B[38;5;241m=\u001B[39mconfig\u001B[38;5;241m.\u001B[39mget(\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mtags\u001B[39m\u001B[38;5;124m\"\u001B[39m),\n\u001B[1;32m    296\u001B[0m             metadata\u001B[38;5;241m=\u001B[39mconfig\u001B[38;5;241m.\u001B[39mget(\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mmetadata\u001B[39m\u001B[38;5;124m\"\u001B[39m),\n\u001B[1;32m    297\u001B[0m             run_name\u001B[38;5;241m=\u001B[39mconfig\u001B[38;5;241m.\u001B[39mget(\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mrun_name\u001B[39m\u001B[38;5;124m\"\u001B[39m),\n\u001B[1;32m    298\u001B[0m             run_id\u001B[38;5;241m=\u001B[39mconfig\u001B[38;5;241m.\u001B[39mpop(\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mrun_id\u001B[39m\u001B[38;5;124m\"\u001B[39m, \u001B[38;5;28;01mNone\u001B[39;00m),\n\u001B[1;32m    299\u001B[0m             \u001B[38;5;241m*\u001B[39m\u001B[38;5;241m*\u001B[39mkwargs,\n\u001B[1;32m    300\u001B[0m         )\u001B[38;5;241m.\u001B[39mgenerations[\u001B[38;5;241m0\u001B[39m][\u001B[38;5;241m0\u001B[39m],\n\u001B[1;32m    301\u001B[0m     )\u001B[38;5;241m.\u001B[39mmessage\n",
+      "File \u001B[0;32m~/anaconda3/envs/torch_env/lib/python3.11/site-packages/langchain_core/language_models/chat_models.py:275\u001B[0m, in \u001B[0;36mBaseChatModel._convert_input\u001B[0;34m(self, input)\u001B[0m\n\u001B[1;32m    273\u001B[0m     \u001B[38;5;28;01mreturn\u001B[39;00m ChatPromptValue(messages\u001B[38;5;241m=\u001B[39mconvert_to_messages(\u001B[38;5;28minput\u001B[39m))\n\u001B[1;32m    274\u001B[0m \u001B[38;5;28;01melse\u001B[39;00m:\n\u001B[0;32m--> 275\u001B[0m     \u001B[38;5;28;01mraise\u001B[39;00m \u001B[38;5;167;01mValueError\u001B[39;00m(\n\u001B[1;32m    276\u001B[0m         \u001B[38;5;124mf\u001B[39m\u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mInvalid input type \u001B[39m\u001B[38;5;132;01m{\u001B[39;00m\u001B[38;5;28mtype\u001B[39m(\u001B[38;5;28minput\u001B[39m)\u001B[38;5;132;01m}\u001B[39;00m\u001B[38;5;124m. \u001B[39m\u001B[38;5;124m\"\u001B[39m\n\u001B[1;32m    277\u001B[0m         \u001B[38;5;124m\"\u001B[39m\u001B[38;5;124mMust be a PromptValue, str, or list of BaseMessages.\u001B[39m\u001B[38;5;124m\"\u001B[39m\n\u001B[1;32m    278\u001B[0m     )\n",
+      "\u001B[0;31mValueError\u001B[0m: Invalid input type <class 'langchain_core.messages.human.HumanMessage'>. Must be a PromptValue, str, or list of BaseMessages."
+     ]
+    }
+   ],
+   "execution_count": 6
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:43:44.568611Z",
+     "start_time": "2024-08-15T19:43:44.565821Z"
+    }
+   },
+   "cell_type": "code",
+   "source": "user_input = HumanMessage(content=\"Опиши мне сюжет сериала Во все тяжкие без спойлеров. Длина ответа - примерно 200 слов\")",
+   "id": "62a4e7b95a72d5ab",
+   "outputs": [],
+   "execution_count": 20
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:43:45.044277Z",
+     "start_time": "2024-08-15T19:43:45.042388Z"
+    }
+   },
+   "cell_type": "code",
+   "source": "messages.append(user_input)",
+   "id": "7e2c4b3918e45d05",
+   "outputs": [],
+   "execution_count": 21
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:43:47.901159Z",
+     "start_time": "2024-08-15T19:43:45.484119Z"
+    }
+   },
+   "cell_type": "code",
+   "source": "res = chat.invoke(messages)",
+   "id": "13d44152b30e675e",
+   "outputs": [],
+   "execution_count": 22
+  },
+  {
+   "metadata": {
+    "ExecuteTime": {
+     "end_time": "2024-08-15T19:43:48.571511Z",
+     "start_time": "2024-08-15T19:43:48.567732Z"
+    }
+   },
+   "cell_type": "code",
+   "source": "res.content",
+   "id": "e7b8bea4dbf0e56c",
+   "outputs": [
+    {
+     "data": {
+      "text/plain": [
+       "'Сериал «Во все тяжкие» — это история о преподавателе химии Уолтере Уайте, который узнаёт, что болен раком лёгких. Он решает использовать свои знания в области химии для создания мета, чтобы заработать деньги на лечение и обеспечить свою семью после смерти. В процессе он становится партнёром наркодилера Джесси Пинкмана, с которым они начинают производить и продавать метамфетамин. Уолтер пытается балансировать между своей новой жизнью и жизнью обычного человека, скрывая от семьи свою двойную жизнь. Но постепенно он всё больше погружается в мир криминала и наркотиков, становясь всё более жестоким и беспринципным.'"
+      ]
+     },
+     "execution_count": 23,
+     "metadata": {},
+     "output_type": "execute_result"
+    }
+   ],
+   "execution_count": 23
   }
  ],
  "metadata": {