{ "cells": [ { "cell_type": "markdown", "id": "0547f5cd", "metadata": {}, "source": [ "# 1. start with small idea of RAG - search by keywords matching" ] }, { "cell_type": "code", "execution_count": 1, "id": "bf147fb9", "metadata": {}, "outputs": [ { "name": "stderr", "output_type": "stream", "text": [ "c:\\Users\\admin\\AppData\\Local\\Programs\\Python\\Python310\\lib\\site-packages\\tqdm\\auto.py:21: TqdmWarning: IProgress not found. Please update jupyter and ipywidgets. See https://ipywidgets.readthedocs.io/en/stable/user_install.html\n", " from .autonotebook import tqdm as notebook_tqdm\n" ] } ], "source": [ "# imports\n", "\n", "import os\n", "import glob\n", "from dotenv import load_dotenv\n", "import gradio as gr\n", "from openai import OpenAI\n", "import functools\n", "from concurrent.futures import ThreadPoolExecutor\n", "import time" ] }, { "cell_type": "code", "execution_count": 2, "id": "5325bbc9", "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Key loaded: sk-proj-in...\n" ] } ], "source": [ "\n", "from dotenv import load_dotenv\n", "import os\n", "load_dotenv()\n", "print(\"Key loaded:\", os.getenv(\"OPENAI_API_KEY\")[:10] + \"...\")" ] }, { "cell_type": "code", "execution_count": 3, "id": "ab5027b2", "metadata": {}, "outputs": [], "source": [ "# Load environment variables in a file called .env\n", "\n", "load_dotenv(override=True)\n", "os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')\n", "openai = OpenAI()\n", "\n", "# Configuration\n", "\n", "MODEL = \"gpt-4o-mini\"\n", "db_name = \"vector_db\"" ] }, { "cell_type": "code", "execution_count": 4, "id": "a951bfdf", "metadata": {}, "outputs": [], "source": [ "import os, glob, functools\n", "from concurrent.futures import ThreadPoolExecutor\n", "\n", "@functools.lru_cache(maxsize=None)\n", "def load_context():\n", " context = {}\n", "\n", " def load_employee_files():\n", " employee_context = {}\n", " employees = glob.glob(r\"E:\\test_data_chatbot\\dataset\\quy_che_dao_tao\\*.md\")\n", " print(f\"Found {len(employees)} files in quy_che_dao_tao\")\n", "\n", " def load_single_employee(employee):\n", " # Lấy tên file mà không bị mất dấu cách\n", " name = os.path.splitext(os.path.basename(employee))[0]\n", " try:\n", " with open(employee, \"r\", encoding=\"utf-8\") as f:\n", " return name, f.read()\n", " except Exception as e:\n", " print(f\"Error loading {employee}: {e}\")\n", " return name, \"\"\n", "\n", " with ThreadPoolExecutor(max_workers=4) as executor:\n", " results = executor.map(load_single_employee, employees)\n", " employee_context.update(dict(results))\n", " return employee_context\n", "\n", " with ThreadPoolExecutor(max_workers=2) as executor:\n", " employee_future = executor.submit(load_employee_files)\n", " context.update(employee_future.result())\n", "\n", " return context\n" ] }, { "cell_type": "code", "execution_count": 5, "id": "5745140f", "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Found 5 files in quy_che_dao_tao\n", "dict_keys(['Chapter I', 'Chapter II', 'chapter III', 'Chapter IV', 'Chapter V'])\n", "# Chương I: NHỮNG QUY ĐỊNH CHUNG\n", "\n", "## Điều 1. Phạm vi điều chỉnh và đối tượng áp dụng\n", "1. Quy chế này quy định đào tạo đại học và cao đẳng hệ chính quy theo học chế tín chỉ của trường Đại học Công nghi\n" ] } ], "source": [ "ctx = load_context()\n", "print(ctx.keys()) # Sẽ ra: dict_keys(['Chapter I', 'Chapter II', ...])\n", "print(ctx['Chapter I'][:200]) # In 200 ký tự đầu tiên để xem nội dung load đúng" ] }, { "cell_type": "code", "execution_count": 6, "id": "87455ccb", "metadata": {}, "outputs": [], "source": [ "system_message = (\n", " \"Bạn là một chuyên gia tư vấn đào tạo tại Trường Đại học Công nghiệp Hà Nội. \"\n", " \"Nhiệm vụ của bạn là trả lời các câu hỏi liên quan đến quy chế đào tạo đại học và cao đẳng hệ chính quy theo học chế tín chỉ, \"\n", " \"bao gồm thời gian đào tạo, kế hoạch học tập, đăng ký học phần, lớp học, và các quy định liên quan khác. \"\n", " \"Nếu bạn không biết câu trả lời, hãy nói rõ rằng bạn không biết. \"\n", " \"Tuyệt đối không bịa ra thông tin nếu không có ngữ cảnh liên quan được cung cấp.\"\n", ")\n" ] }, { "cell_type": "code", "execution_count": 7, "id": "cda996a6", "metadata": {}, "outputs": [], "source": [ "def get_relevant_context(message):\n", " relevant_context = []\n", " for context_title, context_details in ctx.items():\n", " if context_title.lower() in message.lower():\n", " relevant_context.append(context_details)\n", " return relevant_context " ] }, { "cell_type": "code", "execution_count": 8, "id": "44139b16", "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "dict_keys(['Điều 1', 'Điều 2', 'Điều 3', 'Điều 4', 'Điều 5', 'Điều 6', 'Điều 7', 'Điều 8', 'Điều 9', 'Điều 10', 'Điều 11', 'Điều 12', 'Điều 13', 'Điều 14', 'Điều 15', 'Điều 16', 'Điều 31', 'Điều 17', 'Điều 18', 'Điều 19', 'Điều 20', 'Điều 21', 'Điều 22', 'Điều 23', 'Điều 24', 'Điều 25', 'Điều 26', 'Điều 27', 'Điều 28', 'Điều 29', 'Điều 30', 'Điều 32'])\n" ] } ], "source": [ "import os, glob, re\n", "\n", "def load_all_context(folder_path):\n", " context = {}\n", " files = glob.glob(os.path.join(folder_path, \"*.md\"))\n", "\n", " for file in files:\n", " with open(file, \"r\", encoding=\"utf-8\") as f:\n", " content = f.read()\n", "\n", " # Tách \"Điều X\"\n", " matches = re.split(r\"(Điều\\s+\\d+)\", content)\n", " for i in range(1, len(matches), 2):\n", " title = matches[i].strip() # ví dụ: \"Điều 7\"\n", " body = matches[i+1].strip() if i+1 < len(matches) else \"\"\n", " context[title] = body\n", "\n", " return context\n", "\n", "# Load toàn bộ 5 chương\n", "ctx = load_all_context(r\"E:\\test_data_chatbot\\dataset\\quy_che_dao_tao\")\n", "\n", "print(ctx.keys()) \n", "# -> dict_keys(['Điều 1', 'Điều 2', ..., 'Điều n'])\n" ] }, { "cell_type": "code", "execution_count": 9, "id": "fc899a52", "metadata": {}, "outputs": [ { "data": { "text/plain": [ "[]" ] }, "execution_count": 9, "metadata": {}, "output_type": "execute_result" } ], "source": [ "get_relevant_context(\"Who is Timi?\")" ] }, { "cell_type": "code", "execution_count": 10, "id": "c1083ea6", "metadata": {}, "outputs": [ { "data": { "text/plain": [ "['. Phạm vi điều chỉnh và đối tượng áp dụng\\n1. Quy chế này quy định đào tạo đại học và cao đẳng hệ chính quy theo học chế tín chỉ của trường Đại học Công nghiệp Hà Nội, bao gồm các nội dung về: tổ chức đào tạo; kiểm tra và thi học phần; xét và công nhận tốt nghiệp.\\n2. Quy chế này áp dụng đối với sinh viên hệ chính quy các trình độ đại học và cao đẳng của trường Đại học Công nghiệp Hà Nội từ học kỳ 2 năm học 2012-2013.\\n\\n##']" ] }, "execution_count": 10, "metadata": {}, "output_type": "execute_result" } ], "source": [ "get_relevant_context(\"what is Điều 1\")" ] }, { "cell_type": "code", "execution_count": 11, "id": "f8b0d5e7", "metadata": {}, "outputs": [ { "data": { "text/plain": [ "['. Phạm vi điều chỉnh và đối tượng áp dụng\\n1. Quy chế này quy định đào tạo đại học và cao đẳng hệ chính quy theo học chế tín chỉ của trường Đại học Công nghiệp Hà Nội, bao gồm các nội dung về: tổ chức đào tạo; kiểm tra và thi học phần; xét và công nhận tốt nghiệp.\\n2. Quy chế này áp dụng đối với sinh viên hệ chính quy các trình độ đại học và cao đẳng của trường Đại học Công nghiệp Hà Nội từ học kỳ 2 năm học 2012-2013.\\n\\n##',\n", " 'của Quy chế này.\\n\\n- Sinh viên được phép thôi học đối với học phần xin rút bớt sau khi kết quả xin rút được nhà trường chấp thuận.\\n\\n##']" ] }, "execution_count": 11, "metadata": {}, "output_type": "execute_result" } ], "source": [ "get_relevant_context(\"what is Chương II and introduce about Điều 10\")" ] }, { "cell_type": "code", "execution_count": 12, "id": "0951d725", "metadata": {}, "outputs": [ { "data": { "text/plain": [ "['của Quy chế này;\\n\\nc) Điểm trung bình chung tích lũy của toàn khóa học đạt từ 2,00 trở lên;\\n\\nd) Có các chứng chỉ ngoại ngữ, tin học theo quy định của Hiệu trưởng;\\n\\nđ) Có chứng chỉ giáo dục quốc phòng – an ninh đối với các ngành đào tạo không chuyên về quân sự và hoàn thành học phần giáo dục thể chất đối với các ngành không chuyên về thể dục - thể thao;\\n\\ne) Có đơn gửi Phòng đào tạo đề nghị được xét tốt nghiệp trong trường hợp đủ điều kiện tốt nghiệp sớm hoặc muộn so với thời gian thiết kế của khoá học.\\n\\n2. Sau mỗi học kỳ, Hội đồng xét tốt nghiệp căn cứ các điều kiện công nhận tốt nghiệp quy định tại khoản 1 Điều này để lập danh sách những sinh viên đủ điều kiện tốt nghiệp.\\n\\nHội đồng xét tốt nghiệp trường do Hiệu trưởng hoặc Phó Hiệu trưởng được Hiệu trưởng uỷ quyền làm Chủ tịch, trưởng phòng đào tạo làm Thư ký và các thành viên là các trưởng khoa chuyên môn, trưởng phòng công tác sinh viên.\\n\\n3. Căn cứ đề nghị của Hội đồng xét tốt nghiệp, Hiệu trưởng ký quyết định công nhận tốt nghiệp cho những sinh viên đủ điều kiện tốt nghiệp.\\n\\n##',\n", " '. Cách tính điểm trung bình chung\\n\\n1. Để tính điểm trung bình chung học kỳ và điểm trung bình chung tích lũy, điểm chữ của mỗi học phần phải được quy đổi qua điểm số như sau:\\n\\nA \\ttương ứng với \\t4\\n\\nB \\ttương ứng với \\t3\\n\\nC \\ttương ứng với \\t2\\n\\nD \\ttương ứng với\\t1\\n\\nF \\ttương ứng với \\t0\\n\\n2. Điểm trung bình chung học kỳ và điểm trung bình chung tích lũy được tính theo công thức sau và được làm tròn đến 2 chữ số thập phân:\\n\\n\\n\\nTrong đó:\\n\\n*A* là điểm trung bình chung học kỳ hoặc điểm trung bình chung tích lũy\\n\\n*ai* là điểm của học phần thứ i\\n\\n*ni* là số tín chỉ của học phần thứ i\\n\\n*n* là tổng số học phần.\\n\\nĐiểm trung bình chung học kỳ để xét học bổng, khen thưởng sau mỗi học kỳ chỉ tính theo kết quả thi kết thúc học phần ở lần thi thứ nhất. Điểm trung bình chung tích lũy để xét cảnh báo, thôi học, xếp hạng học lực sinh viên và xếp hạng tốt nghiệp được tính theo điểm học phần cao nhất trong các lần học.\\n\\n##']" ] }, "execution_count": 12, "metadata": {}, "output_type": "execute_result" } ], "source": [ "get_relevant_context(\"what is Điều 25\")" ] }, { "cell_type": "code", "execution_count": 13, "id": "541bdbcc", "metadata": {}, "outputs": [], "source": [ "def add_context(message):\n", " \"\"\"Add relevant context to message\"\"\"\n", " relevant_context = get_relevant_context(message)\n", " if relevant_context:\n", " message += \"\\n\\nNhững thông tin sau có thể hữu ích cho việc trả lời câu hỏi này:\\n\\n\"\n", " for relevant in relevant_context:\n", " message += relevant + \"\\n\\n\"\n", " return message" ] }, { "cell_type": "code", "execution_count": 14, "id": "97bf6db5", "metadata": {}, "outputs": [], "source": [ "def chat(message, history):\n", " \"\"\"Optimized chat function with better error handling\"\"\"\n", " try:\n", " messages = [{\"role\": \"system\", \"content\": system_message}] + history\n", " message = add_context(message)\n", " messages.append({\"role\": \"user\", \"content\": message})\n", "\n", " stream = openai.chat.completions.create(\n", " model=MODEL, \n", " messages=messages, \n", " stream=True,\n", " max_tokens=1000, # Limit response length for faster generation\n", " temperature=0.7\n", " )\n", "\n", " response = \"\"\n", " for chunk in stream:\n", " if chunk.choices[0].delta.content:\n", " response += chunk.choices[0].delta.content\n", " yield response\n", " except Exception as e:\n", " yield f\"Xin lỗi, đã có lỗi xảy ra: {str(e)}\"" ] }, { "cell_type": "code", "execution_count": 15, "id": "854e1ddd", "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Launching keyword-based RAG chatbot...\n", "* Running on local URL: http://127.0.0.1:7860\n", "* To create a public link, set `share=True` in `launch()`.\n" ] }, { "data": { "text/html": [ "
" ], "text/plain": [ "