stmegi-parser_x.py

"""
Парсер рецептов с сайта STMEGI.COM
"""

import time
import json
import pandas as pd
from datetime import datetime
import requests
from bs4 import BeautifulSoup
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.chrome.service import Service
from webdriver_manager.chrome import ChromeDriverManager
from selenium.common.exceptions import TimeoutException


class StmegiParser:
    """Парсер рецептов с сайта STMEGI.com"""
    
    def __init__(self, headless=True):
        """Инициализация с настройками"""
        self.setup_selenium(headless)
        self.setup_requests()
        print("✅ Парсер инициализирован")
    
    def setup_selenium(self, headless):
        """Настройка Selenium для сбора ссылок"""
        options = webdriver.ChromeOptions()
        if headless:
            options.add_argument('--headless')
        options.add_argument('--no-sandbox')
        options.add_argument('--window-size=1920,1080')
        
        self.driver = webdriver.Chrome(
            service=Service(ChromeDriverManager().install()),
            options=options
        )
        
        # Java script для сбора ссылок
        self.js_get_links = """
        var links = document.querySelectorAll('a[href*="/posts/"]');
        var urls = [];
        for (var i = 0; i < links.length; i++) {
            var href = links[i].href;
            if (href && href.includes('/gorskie_evrei/posts/')) {
                urls.push(href);
            }
        }
        return [...new Set(urls)];
        """
    
    def setup_requests(self):
        """Настройка запросов + BeautifulSoup"""
        self.headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36'
        }
    
    def collect_all_links(self, url, max_clicks=50):
        """Собирает ссылки на все рецепты через Selenium"""
        print(f"🌐 Открываю: {url}")
        self.driver.get(url)
        time.sleep(3)
        
        clicks = 0
        last_count = 0
        
        while clicks < max_clicks:
            try:
                # Текущее количество ссылок
                current_links = self.driver.execute_script(self.js_get_links)
                current_count = len(current_links)
                
                # Проверяем, нужен ли ещё клик
                if clicks > 0 and current_count == last_count:
                    print("✅ Все рецепты загружены")
                    break
                
                last_count = current_count
                
                # Находим и нажимаем кнопку
                button = WebDriverWait(self.driver, 5).until(
                    EC.presence_of_element_located((By.CSS_SELECTOR, "button.btn.btn-blue.btn__load-elements"))
                )
                
                self.driver.execute_script("arguments[0].scrollIntoView({block: 'center'});", button)
                time.sleep(1)
                self.driver.execute_script("arguments[0].click();", button)
                
                clicks += 1
                print(f"🔘 Нажатие {clicks} - загружено {current_count} рецептов")
                
                # Ждём загрузки
                time.sleep(3)
                
            except TimeoutException:
                print("🏁 Кнопка не найдена - загрузка завершена")
                break
            except Exception as e:
                print(f"⚠️ Ошибка: {e}")
                break
        
        # Финальный сбор
        final_links = self.driver.execute_script(self.js_get_links)
        print(f"\n📊 Собрано {len(final_links)} ссылок за {clicks} нажатий")
        return final_links
    
    def parse_recipe(self, url):
        """Парсит 1 страницу через BeautifulSoup ОСТАНОВЛИВАЯСЬ перед мусором"""
        try:
            response = requests.get(url, headers=self.headers, timeout=10)
            soup = BeautifulSoup(response.content, 'html.parser')
        
            # Заголовок 
            title_elem = soup.select_one("h2") or soup.select_one(".article-title")
            title = title_elem.get_text(strip=True) if title_elem else "Не найден"
        
            # Дата
            date_elem = soup.select_one("time") or soup.select_one(".date")
            date = date_elem.get_text(strip=True) if date_elem else "Не указана"
        
            # Находим ОСНОВНОЙ контейнер с текстом
            content = soup.select_one("article") or soup.select_one(".article-text")
        
            if not content:
                return {
                    'url': url,
                    'title': title,
                    'date': date,
                    'text': "Текст не найден",
                    'parsed_at': datetime.now().isoformat()
                }
        
            # Удаляем мусорные блоки ИЗ HTML перед извлечением текста
            garbage_selectors = [
                ".tags",              # Блок тегов
                ".teaser",            # Рекомендации статей
                ".subscribe",         # Подписки
                ".related-news",      # Похожие новости
                ".social-links",      # Соцсети
                "[class*='ad']",      # Реклама
                "[class*='banner']",    # Баннеры
                "div.part.mn__aside",   # Вся боковая колонка  
            ]
        
            for selector in garbage_selectors:
                for garbage in content.select(selector):
                    garbage.decompose()  # удаляем элемент из HTML
        
        # Извлекаем чистый текст
            text = content.get_text(strip=True)
        
            return {
                'url': url,
                'title': title,
                'date': date,
                'text': text[:10000],
                'parsed_at': datetime.now().isoformat()
            }
        
        except Exception as e:
            print(f"❌ Ошибка парсинга {url}: {e}")
            return None
    
    def parse_all_recipes(self, links, delay=1.0): #время задержки можно поменять
        """Парсит все рецепты из списка ссылок"""
        print(f"\n📄 Начинаю парсинг {len(links)} рецептов...")
        
        recipes = []
        start_time = time.time()
        
        for i, url in enumerate(links, 1):
            if i % 10 == 0:
                elapsed = time.time() - start_time
                print(f"  Обработано {i}/{len(links)} за {elapsed:.1f} сек")
            
            recipe = self.parse_recipe(url)
            if recipe:
                recipes.append(recipe)
            
            # Пауза между запросами
            if i < len(links):
                time.sleep(delay)
        
        print(f"✅ Успешно спарсено: {len(recipes)}/{len(links)} рецептов")
        return recipes
    
    def save_results(self, recipes, prefix="stmegi_recipes"):
        """Сохраняет результаты в CSV и JSON"""
        timestamp = datetime.now().strftime('%Y%m%d_%H%M')
        
        # CSV
        csv_file = f"{prefix}_{timestamp}.csv"
        df = pd.DataFrame(recipes)
        df.to_csv(csv_file, index=False, encoding='utf-8-sig')
        
        # JSON
        json_file = f"{prefix}_{timestamp}.json"
        with open(json_file, 'w', encoding='utf-8') as f:
            json.dump(recipes, f, ensure_ascii=False, indent=2)
        
        # Ссылки
        links_file = f"{prefix}_links_{timestamp}.txt"
        with open(links_file, 'w', encoding='utf-8') as f:
            for r in recipes:
                f.write(r['url'] + '\n')
        
        print(f"\n💾 Результаты сохранены:")
        print(f"  • {csv_file} ({len(recipes)} записей)")
        print(f"  • {json_file}")
        print(f"  • {links_file}")
        
        return csv_file
    
    def run(self, start_url, max_recipes=None):
        """Запускает полный процесс парсинга"""
        print("=" * 60)
        print("🚀 ЗАПУСК ПАРСЕРА STMEGI.COM")
        print("=" * 60)
        
        start_time = time.time()
        
        # 1. Собираем ссылки
        all_links = self.collect_all_links(start_url)
        
        if max_recipes and len(all_links) > max_recipes:
            print(f"\n⚠️ Ограничиваю до {max_recipes} рецептов")
            all_links = all_links[:max_recipes]
        
        # 2. Парсим рецепты
        recipes = self.parse_all_recipes(all_links)
        
        # 3. Сохраняем
        if recipes:
            self.save_results(recipes)
        
        # 4. Статистика
        elapsed = time.time() - start_time
        print("\n" + "=" * 60)
        print("📊 ФИНАЛЬНАЯ СТАТИСТИКА")
        print("=" * 60)
        print(f"  • Всего ссылок собрано: {len(all_links)}")
        print(f"  • Успешно спарсено: {len(recipes)}")
        print(f"  • Общее время: {elapsed:.1f} сек")
        print(f"  • Скорость: {len(recipes)/elapsed:.1f} рец/сек")
        
        if recipes:
            print(f"\n📋 Пример первого рецепта:")
            first = recipes[0]
            print(f"  Заголовок: {first['title'][:60]}...")
            print(f"  Дата: {first['date']}")
            #print(f"  Категория: {first['category']}")
            print(f"  Текст: {first['text'][:100]}...")
        
        return recipes
    
    def close(self):
        """Закрывает ресурсы"""
        print("\n👋 Закрываю парсер...")
        self.driver.quit()


def main():
    """Точка входа"""
    
    # Конфигурация
    START_URL = "https://stmegi.com/gorskie_evrei/kukhnya/"
    MAX_RECIPES = None  # Поставить число, если нужен лимит, но пока на сайте их всего 42
    HEADLESS = True  # False для отладки
    
    try:
        # Создаем и запускаем парсер
        parser = StmegiParser(headless=HEADLESS)
        results = parser.run(START_URL, max_recipes=MAX_RECIPES)
        parser.close()
        
        if results:
            print(f"\n🎉 Парсинг успешно завершен!")
        else:
            print(f"\n⚠️ Данные не собраны")
        
        input("\nНажмите Enter для выхода...")
        
    except KeyboardInterrupt:
        print("\n\n⚠️ Прервано пользователем")
    except Exception as e:
        print(f"\n❌ Ошибка: {e}")
        import traceback
        traceback.print_exc()
        input("\nНажмите Enter для выхода...")


if __name__ == "__main__":
    main()