# data_manager.py import os import json import logging from datetime import datetime, timedelta import tiktoken # --- تنظیمات مسیر فایل‌ها --- BASE_DIR = os.path.dirname(os.path.abspath(__file__)) DATA_FILE = os.path.join(BASE_DIR, "bot_data.json") LOG_FILE = os.path.join(BASE_DIR, "bot.log") # --- کش داده‌های گلوبال --- DATA = { "users": {}, "groups": {}, "banned_users": set(), "stats": { "total_messages": 0, "total_users": 0, "total_groups": 0, "avg_response_time": 0.0, "max_response_time": 0.0, "min_response_time": float('inf'), "total_responses": 0 }, "welcome_message": "سلام {user_mention}! 🤖\n\nمن یک ربات هوشمند هستم. هر سوالی دارید بپرسید.", "group_welcome_message": "سلام به همه! 🤖\n\nمن یک ربات هوشمند هستم. برای استفاده از من در گروه:\n1. مستقیم با من چت کنید\n2. یا با منشن کردن من سوال بپرسید", "goodbye_message": "کاربر {user_mention} گروه را ترک کرد. خداحافظ!", "maintenance_mode": False, "blocked_words": [], "scheduled_broadcasts": [], "bot_start_time": datetime.now().strftime('%Y-%m-%d %H:%M:%S'), "context_mode": "separate" } logger = logging.getLogger(__name__) # --- توابع کمکی --- def count_tokens(text: str) -> int: """شمارش تعداد توکن‌های متن با استفاده از tokenizer""" try: encoding = tiktoken.get_encoding("cl100k_base") return len(encoding.encode(text)) except Exception as e: logger.warning(f"Error counting tokens: {e}, using fallback") return max(1, len(text) // 4) def load_data(): """داده‌ها را از فایل JSON بارگذاری کرده و در کش گلوبال ذخیره می‌کند.""" global DATA try: if not os.path.exists(DATA_FILE): logger.info(f"فایل داده در {DATA_FILE} یافت نشد. یک فایل جدید ایجاد می‌شود.") save_data() return with open(DATA_FILE, 'r', encoding='utf-8') as f: loaded_data = json.load(f) loaded_data['banned_users'] = set(loaded_data.get('banned_users', [])) # اطمینان از وجود کلیدهای جدید if 'groups' not in loaded_data: loaded_data['groups'] = {} if 'context_mode' not in loaded_data: loaded_data['context_mode'] = 'separate' if 'group_welcome_message' not in loaded_data: loaded_data['group_welcome_message'] = "سلام به همه! 🤖\n\nمن یک ربات هوشمند هستم..." if 'total_groups' not in loaded_data.get('stats', {}): if 'stats' not in loaded_data: loaded_data['stats'] = {} loaded_data['stats']['total_groups'] = len(loaded_data.get('groups', {})) # تبدیل اعضای گروه از list به set for group_id in loaded_data.get('groups', {}): if 'members' in loaded_data['groups'][group_id]: # اگر members یک list است، آن را به set تبدیل کن if isinstance(loaded_data['groups'][group_id]['members'], list): loaded_data['groups'][group_id]['members'] = set(loaded_data['groups'][group_id]['members']) elif not isinstance(loaded_data['groups'][group_id]['members'], set): # اگر نه list است نه set، آن را set خالی کن loaded_data['groups'][group_id]['members'] = set() else: loaded_data['groups'][group_id]['members'] = set() # اطمینان از وجود context برای گروه‌های قدیمی for group_id in loaded_data.get('groups', {}): if 'context' not in loaded_data['groups'][group_id]: loaded_data['groups'][group_id]['context'] = [] # اطمینان از وجود context برای کاربران قدیمی for user_id in loaded_data.get('users', {}): if 'context' not in loaded_data['users'][user_id]: loaded_data['users'][user_id]['context'] = [] # اطمینان از وجود کلیدهای آمار پاسخگویی if 'stats' in loaded_data: stats_keys = ['avg_response_time', 'max_response_time', 'min_response_time', 'total_responses'] for key in stats_keys: if key not in loaded_data['stats']: if key == 'min_response_time': loaded_data['stats'][key] = float('inf') else: loaded_data['stats'][key] = 0.0 DATA.update(loaded_data) logger.info(f"داده‌ها با موفقیت از {DATA_FILE} بارگذاری شدند.") except json.JSONDecodeError as e: logger.error(f"خطا در خواندن JSON از {DATA_FILE}: {e}. ربات با داده‌های اولیه شروع به کار می‌کند.") except Exception as e: logger.error(f"خطای غیرمنتظره هنگام بارگذاری داده‌ها: {e}. ربات با داده‌های اولیه شروع به کار می‌کند.") def save_data(): """کش گلوبال داده‌ها را در فایل JSON ذخیره می‌کند.""" global DATA try: data_to_save = DATA.copy() data_to_save['banned_users'] = list(DATA['banned_users']) # تبدیل set اعضای گروه به list برای ذخیره JSON for group_id in data_to_save.get('groups', {}): if 'members' in data_to_save['groups'][group_id]: # اگر members یک set است، آن را به list تبدیل کن if isinstance(data_to_save['groups'][group_id]['members'], set): data_to_save['groups'][group_id]['members'] = list(data_to_save['groups'][group_id]['members']) elif not isinstance(data_to_save['groups'][group_id]['members'], list): # اگر نه set است نه list، آن را list خالی کن data_to_save['groups'][group_id]['members'] = [] with open(DATA_FILE, 'w', encoding='utf-8') as f: json.dump(data_to_save, f, indent=4, ensure_ascii=False) logger.debug(f"داده‌ها با موفقیت در {DATA_FILE} ذخیره شدند.") except Exception as e: logger.error(f"خطای مهلک: امکان ذخیره داده‌ها در {DATA_FILE} وجود ندارد. خطا: {e}") # --- توابع مدیریت کاربران --- def update_user_stats(user_id: int, user): """آمار کاربر را پس از هر پیام به‌روز کرده و داده‌ها را ذخیره می‌کند.""" global DATA now_str = datetime.now().strftime('%Y-%m-%d %H:%M:%S') user_id_str = str(user_id) if user_id_str not in DATA['users']: DATA['users'][user_id_str] = { 'first_name': user.first_name, 'username': user.username, 'first_seen': now_str, 'message_count': 0, 'context': [] } DATA['stats']['total_users'] += 1 logger.info(f"کاربر جدید ثبت شد: {user_id} ({user.first_name})") DATA['users'][user_id_str]['last_seen'] = now_str DATA['users'][user_id_str]['message_count'] += 1 DATA['stats']['total_messages'] += 1 save_data() def update_response_stats(response_time: float): """آمار زمان پاسخگویی را به‌روز می‌کند.""" global DATA if DATA['stats']['total_responses'] == 0: DATA['stats']['min_response_time'] = response_time DATA['stats']['total_responses'] += 1 # محاسبه میانگین جدید current_avg = DATA['stats']['avg_response_time'] total_responses = DATA['stats']['total_responses'] new_avg = ((current_avg * (total_responses - 1)) + response_time) / total_responses DATA['stats']['avg_response_time'] = new_avg # به‌روزرسانی حداکثر و حداقل زمان پاسخگویی if response_time > DATA['stats']['max_response_time']: DATA['stats']['max_response_time'] = response_time if response_time < DATA['stats']['min_response_time']: DATA['stats']['min_response_time'] = response_time save_data() # --- توابع مدیریت مسدودیت --- def is_user_banned(user_id: int) -> bool: """بررسی می‌کند آیا کاربر مسدود شده است یا خیر.""" return user_id in DATA['banned_users'] def ban_user(user_id: int): """کاربر را مسدود کرده و ذخیره می‌کند.""" DATA['banned_users'].add(user_id) save_data() def unban_user(user_id: int): """مسدودیت کاربر را برداشته و ذخیره می‌کند.""" DATA['banned_users'].discard(user_id) save_data() def contains_blocked_words(text: str) -> bool: """بررسی می‌کند آیا متن حاوی کلمات مسدود شده است یا خیر.""" if not DATA['blocked_words']: return False text_lower = text.lower() for word in DATA['blocked_words']: if word in text_lower: return True return False # --- توابع مدیریت کاربران و گروه‌ها --- def get_active_users(days: int) -> list: """لیست کاربران فعال در بازه زمانی مشخص را برمی‌گرداند.""" now = datetime.now() cutoff_date = now - timedelta(days=days) active_users = [] for user_id, user_info in DATA['users'].items(): if 'last_seen' in user_info: try: last_seen = datetime.strptime(user_info['last_seen'], '%Y-%m-%d %H:%M:%S') if last_seen >= cutoff_date: active_users.append(int(user_id)) except ValueError: continue return active_users def get_users_by_message_count(min_count: int) -> list: """لیست کاربران با تعداد پیام بیشتر یا مساوی مقدار مشخص را برمی‌گرداند.""" users = [] for user_id, user_info in DATA['users'].items(): if user_info.get('message_count', 0) >= min_count: users.append(int(user_id)) return users # --- توابع مدیریت context کاربران --- def add_to_user_context(user_id: int, role: str, content: str): """اضافه کردن پیام به context کاربر و محدود کردن به ۱۰۲۴ توکن""" add_to_user_context_with_reply(user_id, role, content, None) def add_to_user_context_with_reply(user_id: int, role: str, content: str, reply_info: dict = None): """اضافه کردن پیام به context کاربر با اطلاعات ریپلای""" user_id_str = str(user_id) if user_id_str not in DATA['users']: return if 'context' not in DATA['users'][user_id_str]: DATA['users'][user_id_str]['context'] = [] # اضافه کردن پیام جدید message = { 'role': role, 'content': content, 'timestamp': datetime.now().strftime('%Y-%m-%d %H:%M:%S'), 'has_reply': False } if reply_info and 'replied_text' in reply_info and reply_info['replied_text']: message['has_reply'] = True message['reply_to_user_id'] = reply_info.get('replied_user_id') message['reply_to_user_name'] = reply_info.get('replied_user_name', 'Unknown') message['reply_to_content'] = reply_info['replied_text'] # ذخیره قسمتی از متن message['is_reply_to_bot'] = reply_info.get('is_reply_to_bot', False) message['reply_timestamp'] = reply_info.get('timestamp', time.time()) DATA['users'][user_id_str]['context'].append(message) # محدود کردن context به 8192 توکن trim_user_context(user_id, max_tokens=8192) save_data() def trim_user_context(user_id: int, max_tokens: int = 8192): """کوتاه کردن context کاربر به تعداد توکن مشخص""" user_id_str = str(user_id) if user_id_str not in DATA['users'] or 'context' not in DATA['users'][user_id_str]: return context = DATA['users'][user_id_str]['context'] if not context: return # محاسبه توکن‌های کل total_tokens = sum(count_tokens(msg['content']) for msg in context) # حذف قدیمی‌ترین پیام‌ها تا زمانی که توکن‌ها زیر حد مجاز باشد while total_tokens > max_tokens and len(context) > 1: removed_message = context.pop(0) total_tokens -= count_tokens(removed_message['content']) # اگر هنوز بیشتر از حد مجاز است، از محتوای پیام‌ها کم کن if total_tokens > max_tokens and context: last_message = context[-1] content = last_message['content'] tokens = count_tokens(content) if tokens > max_tokens: context.pop() else: while tokens > (max_tokens - (total_tokens - tokens)) and content: words = content.split() if len(words) > 1: content = ' '.join(words[:-1]) else: content = content[:-1] if len(content) > 1 else '' tokens = count_tokens(content) if content: context[-1]['content'] = content else: context.pop() save_data() def get_user_context(user_id: int) -> list: """دریافت context کاربر""" user_id_str = str(user_id) if user_id_str not in DATA['users']: return [] return DATA['users'][user_id_str].get('context', []) def clear_user_context(user_id: int): """پاک کردن context کاربر""" user_id_str = str(user_id) if user_id_str in DATA['users']: if 'context' in DATA['users'][user_id_str]: DATA['users'][user_id_str]['context'] = [] save_data() logger.info(f"Context cleared for user {user_id}") def get_context_summary(user_id: int) -> str: """خلاصه‌ای از context کاربر""" context = get_user_context(user_id) if not context: return "بدون تاریخچه" total_messages = len(context) total_tokens = sum(count_tokens(msg['content']) for msg in context) # تعداد ریپلای‌ها reply_count = sum(1 for msg in context if msg.get('has_reply', False)) # نمایش آخرین پیام last_message = context[-1] if context else {} last_content = last_message.get('content', '')[:50] if len(last_message.get('content', '')) > 50: last_content += "..." return f"{total_messages} پیام ({total_tokens} توکن) - {reply_count} ریپلای - آخرین: {last_message.get('role', '')}: {last_content}" def get_context_for_api(user_id: int) -> list: """فرمت context برای ارسال به API""" context = get_user_context(user_id) api_context = [] for msg in context: api_context.append({ 'role': msg['role'], 'content': msg['content'] }) return api_context def get_context_token_count(user_id: int) -> int: """تعداد کل توکن‌های context کاربر""" context = get_user_context(user_id) return sum(count_tokens(msg['content']) for msg in context) # --- توابع مدیریت گروه‌ها --- def update_group_stats(chat_id: int, chat, user_id: int = None): """آمار گروه را به‌روز کرده و داده‌ها را ذخیره می‌کند.""" global DATA now_str = datetime.now().strftime('%Y-%m-%d %H:%M:%S') chat_id_str = str(chat_id) if chat_id_str not in DATA['groups']: DATA['groups'][chat_id_str] = { 'title': chat.title if hasattr(chat, 'title') else 'Private Group', 'type': chat.type, 'first_seen': now_str, 'message_count': 0, 'members': set(), 'context': [] } DATA['stats']['total_groups'] += 1 logger.info(f"گروه جدید ثبت شد: {chat_id} ({chat.title if hasattr(chat, 'title') else 'Private'})") DATA['groups'][chat_id_str]['last_seen'] = now_str DATA['groups'][chat_id_str]['message_count'] += 1 # اضافه کردن کاربر به لیست اعضای گروه if user_id is not None: # اطمینان از اینکه members یک set است if 'members' not in DATA['groups'][chat_id_str]: DATA['groups'][chat_id_str]['members'] = set() elif isinstance(DATA['groups'][chat_id_str]['members'], list): # اگر members یک list است، آن را به set تبدیل کن DATA['groups'][chat_id_str]['members'] = set(DATA['groups'][chat_id_str]['members']) # اکنون اضافه کردن کاربر DATA['groups'][chat_id_str]['members'].add(user_id) save_data() def add_to_group_context(chat_id: int, role: str, content: str, user_name: str = None): """اضافه کردن پیام به context گروه و محدود کردن به 8192 توکن""" add_to_group_context_with_reply(chat_id, role, content, user_name, None) def add_to_group_context_with_reply(chat_id: int, role: str, content: str, user_name: str = None, reply_info: dict = None): """اضافه کردن پیام به context گروه با اطلاعات ریپلای""" chat_id_str = str(chat_id) if chat_id_str not in DATA['groups']: return if 'context' not in DATA['groups'][chat_id_str]: DATA['groups'][chat_id_str]['context'] = [] # اضافه کردن نام کاربر به محتوا اگر مشخص باشد if user_name and role == 'user': content_with_name = f"{user_name}: {content}" else: content_with_name = content # اضافه کردن پیام جدید با اطلاعات ریپلای message = { 'role': role, 'content': content_with_name if role == 'user' else content, 'timestamp': datetime.now().strftime('%Y-%m-%d %H:%M:%S'), 'user_name': user_name if role == 'user' else None, 'has_reply': False } if reply_info and 'replied_text' in reply_info and reply_info['replied_text']: message['has_reply'] = True message['reply_to_user_id'] = reply_info.get('replied_user_id') message['reply_to_user_name'] = reply_info.get('replied_user_name', 'Unknown') message['reply_to_content'] = reply_info['replied_text'] # ذخیره قسمتی از متن message['is_reply_to_bot'] = reply_info.get('is_reply_to_bot', False) message['reply_timestamp'] = reply_info.get('timestamp', time.time()) DATA['groups'][chat_id_str]['context'].append(message) # محدود کردن context به 16384 توکن trim_group_context(chat_id, max_tokens=16384) save_data() def optimize_group_context(chat_id: int): """بهینه‌سازی context گروه برای حفظ مهم‌ترین پیام‌ها""" chat_id_str = str(chat_id) if chat_id_str not in DATA['groups'] or 'context' not in DATA['groups'][chat_id_str]: return context = DATA['groups'][chat_id_str]['context'] if len(context) <= 10: return # محاسبه اهمیت هر پیام بر اساس عوامل مختلف scored_messages = [] for i, msg in enumerate(context): score = 0 # امتیاز بر اساس طول content_length = len(msg['content']) score += min(content_length / 100, 10) # امتیاز بر اساس تازگی recency = len(context) - i score += min(recency / 10, 20) # امتیاز بیشتر برای پاسخ‌های هوش مصنوعی if msg['role'] == 'assistant': score += 15 # امتیاز بیشتر برای پیام‌های دارای ریپلای (مهم‌تر هستند) if msg.get('has_reply', False): score += 10 # امتیاز منفی برای پیام‌های کوتاه و کم‌محتوا if content_length < 20: score -= 5 scored_messages.append((score, msg)) # مرتب‌سازی بر اساس امتیاز scored_messages.sort(key=lambda x: x[0], reverse=True) # حفظ 70% از پیام‌های با بالاترین امتیاز keep_count = int(len(scored_messages) * 0.7) kept_messages = [msg for _, msg in scored_messages[:keep_count]] # مرتب‌سازی مجدد بر اساس زمان kept_messages.sort(key=lambda x: x.get('timestamp', '')) DATA['groups'][chat_id_str]['context'] = kept_messages save_data() logger.info(f"Optimized group {chat_id} context: {len(context)} -> {len(kept_messages)} messages") def trim_group_context(chat_id: int, max_tokens: int = 16384): """کوتاه کردن context گروه به تعداد توکن مشخص""" chat_id_str = str(chat_id) if chat_id_str not in DATA['groups'] or 'context' not in DATA['groups'][chat_id_str]: return context = DATA['groups'][chat_id_str]['context'] if not context: return # محاسبه توکن‌های کل total_tokens = sum(count_tokens(msg['content']) for msg in context) # اگر تعداد توکن‌ها بیش از حد مجاز است، ابتدا بهینه‌سازی کن if total_tokens > max_tokens * 1.5: optimize_group_context(chat_id) context = DATA['groups'][chat_id_str]['context'] total_tokens = sum(count_tokens(msg['content']) for msg in context) # حذف قدیمی‌ترین پیام‌ها while total_tokens > max_tokens and len(context) > 1: removed_message = context.pop(0) total_tokens -= count_tokens(removed_message['content']) # اگر هنوز بیشتر از حد مجاز است، از محتوای پیام‌ها کم کن if total_tokens > max_tokens and context: last_message = context[-1] content = last_message['content'] tokens = count_tokens(content) if tokens > max_tokens: context.pop() else: while tokens > (max_tokens - (total_tokens - tokens)) and content: words = content.split() if len(words) > 1: content = ' '.join(words[:-1]) else: content = content[:-1] if len(content) > 1 else '' tokens = count_tokens(content) if content: context[-1]['content'] = content else: context.pop() save_data() def get_group_context(chat_id: int) -> list: """دریافت context گروه""" chat_id_str = str(chat_id) if chat_id_str not in DATA['groups']: return [] return DATA['groups'][chat_id_str].get('context', []) def get_context_for_api_group(chat_id: int) -> list: """فرمت context گروه برای ارسال به API""" context = get_group_context(chat_id) api_context = [] for msg in context: api_context.append({ 'role': msg['role'], 'content': msg['content'] }) return api_context def clear_group_context(chat_id: int): """پاک کردن context گروه""" chat_id_str = str(chat_id) if chat_id_str in DATA['groups']: if 'context' in DATA['groups'][chat_id_str]: DATA['groups'][chat_id_str]['context'] = [] save_data() logger.info(f"Context cleared for group {chat_id}") def get_group_context_summary(chat_id: int) -> str: """خلاصه‌ای از context گروه""" context = get_group_context(chat_id) if not context: return "بدون تاریخچه" total_messages = len(context) total_tokens = sum(count_tokens(msg['content']) for msg in context) # تعداد ریپلای‌ها reply_count = sum(1 for msg in context if msg.get('has_reply', False)) last_message = context[-1] if context else {} last_content = last_message.get('content', '')[:50] if len(last_message.get('content', '')) > 50: last_content += "..." return f"{total_messages} پیام ({total_tokens} توکن) - {reply_count} ریپلای - آخرین: {last_message.get('user_name', last_message.get('role', ''))}: {last_content}" # --- توابع ترکیبی (User + Group) --- def add_to_hybrid_context(user_id: int, chat_id: int, role: str, content: str, user_name: str = None): """ اضافه کردن پیام به context ترکیبی هم در context کاربر و هم در context گروه ذخیره می‌شود """ # ذخیره در context کاربر add_to_user_context(user_id, role, content) # ذخیره در context گروه add_to_group_context(chat_id, role, content, user_name) def add_to_hybrid_context_with_reply(user_id: int, chat_id: int, role: str, content: str, user_name: str = None, reply_info: dict = None): """ اضافه کردن پیام به context ترکیبی با اطلاعات ریپلای هم در context کاربر و هم در context گروه ذخیره می‌شود """ # ذخیره در context کاربر add_to_user_context_with_reply(user_id, role, content, reply_info) # ذخیره در context گروه add_to_group_context_with_reply(chat_id, role, content, user_name, reply_info) def get_hybrid_context_for_api(user_id: int, chat_id: int) -> list: """ دریافت context ترکیبی برای ارسال به API اولویت با context گروه است، اما از context کاربر هم استفاده می‌کند """ group_context = get_context_for_api_group(chat_id) user_context = get_context_for_api(user_id) # ترکیب context‌ها combined_context = [] # ابتدا context گروه combined_context.extend(group_context) # سپس context کاربر - فقط پیام‌های اخیر کاربر recent_user_messages = [msg for msg in user_context[-3:] if msg['role'] == 'user'] combined_context.extend(recent_user_messages) return combined_context # --- توابع مدیریت حالت context --- def get_context_mode() -> str: """دریافت حالت فعلی context""" return DATA.get('context_mode', 'separate') def set_context_mode(mode: str): """تنظیم حالت context""" valid_modes = ['separate', 'group_shared', 'hybrid'] if mode in valid_modes: DATA['context_mode'] = mode save_data() logger.info(f"Context mode changed to: {mode}") return True return False # بارگذاری اولیه داده‌ها load_data() # برای جلوگیری از خطای time در توابع import time