Deploy RAG assistant

Dockerfile

@@ -0,0 +1,19 @@
+FROM python:3.11-slim
+
+WORKDIR /app
+
+RUN apt-get update && apt-get install -y curl && rm -rf /var/lib/apt/lists/*
+
+COPY requirements.txt .
+RUN pip install --no-cache-dir -r requirements.txt
+
+COPY app.py .
+
+EXPOSE 7860
+
+ENV PYTHONUNBUFFERED=1
+ENV PORT=7860
+
+HEALTHCHECK --interval=30s --timeout=10s --start-period=40s --retries=3     CMD curl -f http://localhost:7860/health || exit 1
+
+CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]

README.md

@@ -1,10 +1,13 @@
----
-title: Rag Onboarding
-emoji: 📚
-colorFrom: yellow
-colorTo: green
-sdk: docker
-pinned: false
----
-
-Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference
+---
+title: RAG Onboarding Assistant
+emoji: 🤖
+colorFrom: blue
+colorTo: purple
+sdk: docker
+app_port: 7860
+pinned: false
+---
+
+# AI-RAG Onboarding Assistant
+
+Sistema vopros-otvet dlya onboardinga sotrudnikov.

app.py

@@ -0,0 +1,412 @@
+#!/usr/bin/env python3
+"""
+Standalone RAG сервер для демонстрации
+Работает напрямую с Qdrant и OpenRouter API без микросервисов
+"""
+
+from fastapi import FastAPI, HTTPException, UploadFile, File, Form
+from fastapi.middleware.cors import CORSMiddleware
+from fastapi.staticfiles import StaticFiles
+from pydantic import BaseModel
+from typing import List, Dict, Any, Optional
+import uvicorn
+import os
+from pathlib import Path
+import uuid
+from datetime import datetime
+import httpx
+
+from qdrant_client import QdrantClient
+from qdrant_client.models import PointStruct
+from sentence_transformers import SentenceTransformer
+
+# Конфигурация
+QDRANT_HOST = os.getenv("QDRANT_HOST", "localhost")
+QDRANT_PORT = int(os.getenv("QDRANT_PORT", "6333"))
+QDRANT_API_KEY = os.getenv("QDRANT_API_KEY")  # Для Qdrant Cloud
+COLLECTION_NAME = "onboarding_documents"
+
+# OpenRouter Configuration
+OPENROUTER_API_KEY = os.getenv("OPENROUTER_API_KEY", "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")
+OPENROUTER_MODEL = os.getenv("OPENROUTER_MODEL", "deepseek/deepseek-chat-v3-0324")
+OPENROUTER_BASE_URL = "https://openrouter.ai/api/v1/chat/completions"
+
+# Redis (опционально, для кэширования)
+REDIS_HOST = os.getenv("REDIS_HOST", "localhost")
+REDIS_PORT = int(os.getenv("REDIS_PORT", "6379"))
+REDIS_PASSWORD = os.getenv("REDIS_PASSWORD")
+
+# Инициализация
+app = FastAPI(title="AI-RAG Onboarding Demo", version="1.0.0")
+
+# CORS
+app.add_middleware(
+    CORSMiddleware,
+    allow_origins=["*"],
+    allow_credentials=True,
+    allow_methods=["*"],
+    allow_headers=["*"],
+)
+
+# Глобальные объекты
+qdrant_client = None
+embedding_model = None
+httpx_client = None
+
+
+class QueryRequest(BaseModel):
+    query: str
+    dept_id: str = "onboarding"
+    user_id: str = "demo_user"
+    session_id: Optional[str] = None
+
+
+class Source(BaseModel):
+    text: str
+    score: float
+    metadata: Dict[str, Any]
+
+
+class QueryResponse(BaseModel):
+    answer: str
+    sources: List[Source]
+    metadata: Dict[str, Any]
+
+
+class DocumentUploadResponse(BaseModel):
+    document_id: str
+    chunks_created: int
+    message: str
+    metadata: Dict[str, Any]
+
+
+@app.on_event("startup")
+async def startup_event():
+    """Инициализация при запуске"""
+    global qdrant_client, embedding_model, httpx_client
+    
+    print("🚀 Запуск RAG сервера...")
+    
+    # Qdrant
+    print("🔌 Подключение к Qdrant...")
+    if QDRANT_API_KEY:
+        # Qdrant Cloud
+        qdrant_client = QdrantClient(
+            host=QDRANT_HOST,
+            port=QDRANT_PORT,
+            api_key=QDRANT_API_KEY,
+            https=True
+        )
+        print("✅ Qdrant Cloud подключен")
+    else:
+        # Локальный Qdrant
+        qdrant_client = QdrantClient(host=QDRANT_HOST, port=QDRANT_PORT)
+        print("✅ Qdrant подключен")
+    
+    # Embedding model
+    print("🧠 Загрузка модели эмбеддингов...")
+    # Используем многоязычную модель для правильной работы с русским языком
+    embedding_model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
+    print("✅ Модель эмбеддингов загружена (многоязычная)")
+    
+    # HTTP client для OpenRouter
+    print("🤖 Настройка OpenRouter API...")
+    httpx_client = httpx.AsyncClient(timeout=30.0)
+    print(f"✅ OpenRouter настроен (модель: {OPENROUTER_MODEL})")
+    
+    print("✨ Сервер готов!")
+
+
+@app.get("/health")
+async def health_check():
+    """Health check endpoint"""
+    return {
+        "status": "healthy",
+        "qdrant": "connected" if qdrant_client else "disconnected",
+        "embedding_model": "loaded" if embedding_model else "not loaded",
+        "llm": "configured" if httpx_client else "not configured"
+    }
+
+
+@app.post("/api/v1/query", response_model=QueryResponse)
+async def query(request: QueryRequest):
+    """Основной endpoint для запросов"""
+    
+    try:
+        import time
+        start_time = time.time()
+        
+        # 1. Генерация эмбеддинга запроса
+        query_embedding = embedding_model.encode(request.query).tolist()
+        
+        # 2. Поиск в Qdrant с ограничением количества
+        # Используем только limit без score_threshold чтобы получить топ-3 САМЫХ релевантных
+        # даже если их score не очень высокий
+        search_results = qdrant_client.search(
+            collection_name=COLLECTION_NAME,
+            query_vector=query_embedding,
+            limit=3,  # Только топ-3 самых релевантных по score
+            with_payload=True
+        )
+        
+        # 3. Подготовка контекста
+        sources = []
+        context_parts = []
+        
+        for idx, hit in enumerate(search_results, 1):
+            source = Source(
+                text=hit.payload.get('text', ''),
+                score=hit.score,
+                metadata={
+                    'title': hit.payload.get('title', 'Unknown'),
+                    'chunk_index': hit.payload.get('chunk_index', 0),
+                    'doc_type': hit.payload.get('doc_type', 'unknown'),
+                    'department': hit.payload.get('department', 'unknown'),
+                    'last_updated': hit.payload.get('last_updated', 'unknown'),
+                }
+            )
+            sources.append(source)
+            context_parts.append(f"[Источник {idx}] {hit.payload.get('text', '')}")
+        
+        context = "\n\n".join(context_parts)
+        
+        # 4. Генерация ответа с помощью Gemini
+        prompt = f"""Ты - помощник по онбордингу новых сотрудников компании. Используй предоставленный контекст для ответа на вопрос.
+
+КОНТЕКСТ:
+{context}
+
+ВОПРОС: {request.query}
+
+ИНСТРУКЦИИ:
+- Отвечай на русском языке используя Markdown форматирование
+- Используй только информацию из контекста
+- Структурируй ответ понятно и кратко с помощью заголовков (##, ###), списков (-, *), жирного текста (**текст**)
+- **ВАЖНО ДЛЯ ССЫЛОК:** Оборачивай ЦЕЛЫЕ ФРАЗЫ в ссылки, а не отдельные слова. Ссылка должна читаться естественно как часть предложения.
+  
+  ✅ ПРАВИЛЬНО (естественное чтение):
+  - "Встреча в [кабинете 101](source:1)" 
+  - "Обратитесь к [HR-менеджеру](source:2)"
+  - "Перейдите на [https://account.company.kz](source:3)"
+  - "Временный пароль действителен [24 часа](source:1)"
+  - "Получите логин от [IT-отдела](source:2)"
+  
+  ❌ НЕПРАВИЛЬНО (разрывает текст):
+  - "Временный пароль от [HR-менеджера](source:1) для входа" (разрывает фразу)
+  - "Действителен только [24 часа](source:1) !" (отдельные слова)
+  
+- Делай ссылки МИНИМАЛЬНЫМИ - только ключевой факт, не целое предложение
+- Используй ссылки для конкретных фактов: адреса сайтов, номера кабинетов, имена должностей, временные интервалы
+- Если информации недостаточно, честно скажи об этом
+- Будь дружелюбным и помогающим
+
+ОТВЕТ:"""
+
+        # 4. Генерация ответа с помощью OpenRouter
+        try:
+            response = await httpx_client.post(
+                OPENROUTER_BASE_URL,
+                headers={
+                    "Authorization": f"Bearer {OPENROUTER_API_KEY}",
+                    "HTTP-Referer": "https://github.com/baltabekpro/ai-rag-core",
+                    "X-Title": "AI-RAG Onboarding"
+                },
+                json={
+                    "model": OPENROUTER_MODEL,
+                    "messages": [
+                        {
+                            "role": "user",
+                            "content": prompt
+                        }
+                    ],
+                    "temperature": 0.3,
+                    "max_tokens": 500
+                },
+                timeout=30.0
+            )
+            response.raise_for_status()
+            
+            result = response.json()
+            answer = result["choices"][0]["message"]["content"]
+            
+        except httpx.HTTPStatusError as e:
+            if e.response.status_code == 429:
+                raise HTTPException(
+                    status_code=503,
+                    detail="AI сервис временно перегружен. Попробуйте через минуту."
+                )
+            raise HTTPException(
+                status_code=500,
+                detail=f"Ошибка OpenRouter API: {e.response.text}"
+            )
+        except Exception as e:
+            raise HTTPException(
+                status_code=500,
+                detail=f"Ошибка генерации ответа: {str(e)}"
+            )
+        
+        # 5. Метаданные
+        processing_time = int((time.time() - start_time) * 1000)
+        
+        return QueryResponse(
+            answer=answer,
+            sources=sources,
+            metadata={
+                "processing_time": processing_time,
+                "model": OPENROUTER_MODEL,
+                "sources_count": len(sources),
+                "department": request.dept_id
+            }
+        )
+        
+    except Exception as e:
+        import traceback
+        error_trace = traceback.format_exc()
+        print(f"❌ ОШИБКА в /api/v1/query: {error_trace}")
+        raise HTTPException(status_code=500, detail=f"Ошибка обработки запроса: {str(e)}")
+
+
+@app.get("/api/v1/stats")
+async def get_stats():
+    """Статистика системы"""
+    try:
+        collection_info = qdrant_client.get_collection(COLLECTION_NAME)
+        return {
+            "collection": COLLECTION_NAME,
+            "documents_count": collection_info.points_count,
+            "vector_size": collection_info.config.params.vectors.size,
+            "status": "operational"
+        }
+    except Exception as e:
+        raise HTTPException(status_code=500, detail=str(e))
+
+
+@app.post("/api/v1/documents/upload", response_model=DocumentUploadResponse)
+async def upload_document(
+    file: UploadFile = File(...),
+    title: Optional[str] = Form(None),
+    department: str = Form("onboarding"),
+    doc_type: str = Form("guide")
+):
+    """
+    Загрузка и индексация документа
+    
+    Поддерживаемые форматы: .txt, .md
+    
+    Процесс:
+    1. Чтение файла
+    2. Разбивка на чанки (512 токенов)
+    3. Генерация эмбеддингов
+    4. Сохранение в Qdrant
+    """
+    try:
+        import time
+        start_time = time.time()
+        
+        # Проверка формата файла
+        allowed_extensions = ['.txt', '.md']
+        file_ext = os.path.splitext(file.filename)[1].lower()
+        
+        if file_ext not in allowed_extensions:
+            raise HTTPException(
+                status_code=400, 
+                detail=f"Неподдерживаемый формат файла. Разрешены: {', '.join(allowed_extensions)}"
+            )
+        
+        # Чтение содержимого
+        content = await file.read()
+        text = content.decode('utf-8')
+        
+        if not text.strip():
+            raise HTTPException(status_code=400, detail="Файл пустой")
+        
+        # Используем название файла если title не указан
+        doc_title = title or file.filename
+        
+        # ID документа
+        document_id = str(uuid.uuid4())
+        
+        # Разбивка на чанки (простая - по 512 токенов ~2000 символов)
+        chunk_size = 2000
+        overlap = 200
+        chunks = []
+        
+        for i in range(0, len(text), chunk_size - overlap):
+            chunk = text[i:i + chunk_size]
+            if chunk.strip():
+                chunks.append(chunk.strip())
+        
+        if not chunks:
+            raise HTTPException(status_code=400, detail="Не удалось создать чанки из документа")
+        
+        # Генерация эмбеддингов и сохранение
+        points = []
+        
+        for idx, chunk in enumerate(chunks):
+            # Эмбеддинг
+            embedding = embedding_model.encode(chunk).tolist()
+            
+            # Point для Qdrant
+            point = PointStruct(
+                id=str(uuid.uuid4()),
+                vector=embedding,
+                payload={
+                    "text": chunk,
+                    "document_id": document_id,
+                    "chunk_index": idx,
+                    "title": doc_title,
+                    "department": department,
+                    "doc_type": doc_type,
+                    "last_updated": datetime.utcnow().isoformat(),
+                    "filename": file.filename
+                }
+            )
+            points.append(point)
+        
+        # Загрузка в Qdrant
+        qdrant_client.upsert(
+            collection_name=COLLECTION_NAME,
+            points=points
+        )
+        
+        processing_time = int((time.time() - start_time) * 1000)
+        
+        return DocumentUploadResponse(
+            document_id=document_id,
+            chunks_created=len(chunks),
+            message=f"Документ '{doc_title}' успешно загружен и проиндексирован",
+            metadata={
+                "processing_time_ms": processing_time,
+                "filename": file.filename,
+                "file_size": len(content),
+                "chunk_size": chunk_size,
+                "department": department,
+                "doc_type": doc_type
+            }
+        )
+        
+    except HTTPException:
+        raise
+    except Exception as e:
+        import traceback
+        error_trace = traceback.format_exc()
+        print(f"❌ ОШИБКА в /api/v1/documents/upload: {error_trace}")
+        raise HTTPException(status_code=500, detail=f"Ошибка загрузки документа: {str(e)}")
+
+
+if __name__ == "__main__":
+    print("=" * 70)
+    print("  AI-RAG Onboarding - Standalone Demo Server")
+    print("=" * 70)
+    print()
+    print("📍 Сервер запускается на: http://localhost:8081")
+    print("📄 API документация: http://localhost:8081/docs")
+    print("💬 Откройте frontend/chat.html и измените API URL на http://localhost:8081")
+    print()
+    
+    uvicorn.run(
+        app,
+        host="0.0.0.0",
+        port=8081,
+        log_level="info"
+    )

requirements.txt

@@ -0,0 +1,8 @@
+fastapi==0.104.1
+uvicorn[standard]==0.24.0
+qdrant-client==1.7.0
+sentence-transformers==2.2.2
+torch==2.1.0
+numpy==1.24.3
+httpx==0.25.1
+python-multipart==0.0.6