PANEL, ChatGPT e LangChain

3_Build_a_LangChain-powered_AI_chatbot.py

@@ -0,0 +1,59 @@
+"""
+Data Scientist.: Dr. Eddy Giusepe Chirinos Isidro 🤓
+
+Link do Panel --> https://panel.holoviz.org/reference/chat/PanelCallbackHandler.html
+
+Link do ANACONDA --> https://www.anaconda.com/blog/
+
+Construa um chatbot de IA com tecnologia LangChain
+==================================================
+O Panel ChatInterface também se integra perfeitamente ao LangChain, aproveitando 
+todo o espectro de recursos do LangChain. Aqui está um exemplo de como usamos 
+LangChain 'ConversationChain' para armazenar mensagens com 'ConversationBufferMemory' 
+e passar mensagens anteriores para a API OpenAI.
+
+Observe que antes de mergulharmos no código LangChain, definimos 'callback_handler' 
+porque a interface LangChain não tem como transmitir a partir de geradores, então 
+precisamos agrupar a interface LangChain com 'pn.chat.langchain.PanelCallbackHandler', 
+que herda de `langchain.callbacks.base.BaseCallbackHandler`. Para mais informações, veja
+o link acima.
+
+Executando este script
+----------------------
+
+$ panel serve 2_Building_a_ChatGPT-powered_AI_ChatBot.py 
+"""
+from langchain.chat_models import ChatOpenAI
+from langchain.chains import ConversationChain
+from langchain.memory import ConversationBufferMemory
+
+import panel as pn
+
+pn.extension()
+
+# Substitua sua chave de API OpenAI:
+import openai
+import os
+from dotenv import load_dotenv, find_dotenv
+_ = load_dotenv(find_dotenv()) # read local .env file
+openai.api_key  = os.environ['OPENAI_API_KEY']
+
+
+async def callback(contents: str, user: str, instance: pn.chat.ChatInterface):
+    await chain.apredict(input=contents)
+
+chat_interface = pn.chat.ChatInterface(callback=callback, callback_user="ChatGPT")
+callback_handler = pn.chat.langchain.PanelCallbackHandler(chat_interface)
+
+llm = ChatOpenAI(streaming=True,
+                 callbacks=[callback_handler],
+                 model="gpt-3.5-turbo",
+                 temperature=0.0,
+                 verbose=True
+                )
+
+memory = ConversationBufferMemory()
+chain = ConversationChain(llm=llm, memory=memory)
+
+chat_interface.send("Envie uma mensagem para obter uma resposta do ChatGPT!", user="System", respond=False)
+chat_interface.servable()