Docs: Update system documentation with latest model info and recent feature improvements

COMPLETE_SYSTEM_GUIDE.md

@@ -32,7 +32,7 @@ This document provides an overview of the complete FinBot RAG system with both f
 │ 1. Input Guards (injection, PII, etc)   │
 │ 2. Query Router (semantic routing)      │
 │ 3. RBAC Retriever (metadata filtering)  │
-│ 4. LLM Generation (Groq Mixtral)         │
+│ 4. LLM Generation (Llama 3.3 70B)       │
 │ 5. Output Guards (grounding, citations) │
 └────────────────┬─────────────────────────┘
                  ↓

README.md

@@ -65,11 +65,11 @@ FinBot solves both problems:
      ┌───────────┐  ┌──────────────┐  ┌────────────┐  ┌──────────┐
      │  GUARDRAILS  │  │   SEMANTIC   │  │   RBAC    │  │   LLM    │
      │   (INPUT)    │  │   ROUTING    │  │RETRIEVAL  │  │  (GROQ)  │
-     │           │  │              │  │          │  │ (Mixtral)│
-     │ • Injection  │  │ • 5 Routes   │  │ • Filter  │  │ • Answer │
-     │ • Off-topic  │  │ • Collections│  │ • By Role │  │ • Cite   │
-     │ • PII        │  │ • Role Check │  │ • Qdrant  │  │ • Ground │
-     │ • Rate limit │  │              │  │          │  │          │
+     │           │  │              │  │          │  │(Llama 3.3│
+     │ • Injection  │  │ • 5 Routes   │  │ • Filter  │  │   70B)   │
+     │ • Off-topic  │  │ • Collections│  │ • By Role │  │ • Answer │
+     │ • PII        │  │ • Role Check │  │ • Qdrant  │  │ • Cite   │
+     │ • Rate limit │  │              │  │          │  │ • Ground │
      └───────────┘  └──────────────┘  └────────────┘  └──────────┘
                        │                 │
                        └────────┬────────┘
@@ -214,7 +214,7 @@ Assignment1/
 ### Prerequisites
 
 - Python 3.10+
-- OpenAI API key
+- Groq API key
 - ~500MB disk space for Qdrant
 - Modern web browser
 

app/backend/ARCHITECTURE.md

@@ -129,7 +129,7 @@ User Role + Selected Collection → Check access → Query vector store
 
 **Stage 4: LLM Generation**
 ```
-Question + Retrieved Chunks → Groq (Mixtral-8x7b-32k) → Generate answer
+Question + Retrieved Chunks → Groq (Llama 3.3 70B) → Generate answer
         Uses retrieved chunks as context (RAG)
 ```