Update stmegi-parser_x.py

stmegi-parser_x.py

@@ -1,297 +1,296 @@
-"""
-Парсер рецептов с сайта STMEGI.COM
-"""
-
-import time
-import json
-import pandas as pd
-from datetime import datetime
-import requests
-from bs4 import BeautifulSoup
-from selenium import webdriver
-from selenium.webdriver.common.by import By
-from selenium.webdriver.support.ui import WebDriverWait
-from selenium.webdriver.support import expected_conditions as EC
-from selenium.webdriver.chrome.service import Service
-from webdriver_manager.chrome import ChromeDriverManager
-from selenium.common.exceptions import TimeoutException
-
-
-class StmegiParser:
-    """Парсер рецептов с сайта STMEGI.com"""
-    
-    def __init__(self, headless=True):
-        """Инициализация с настройками"""
-        self.setup_selenium(headless)
-        self.setup_requests()
-        print("✅ Парсер инициализирован")
-    
-    def setup_selenium(self, headless):
-        """Настройка Selenium для сбора ссылок"""
-        options = webdriver.ChromeOptions()
-        if headless:
-            options.add_argument('--headless')
-        options.add_argument('--no-sandbox')
-        options.add_argument('--window-size=1920,1080')
-        
-        self.driver = webdriver.Chrome(
-            service=Service(ChromeDriverManager().install()),
-            options=options
-        )
-        
-        # Java script для сбора ссылок
-        self.js_get_links = """
-        var links = document.querySelectorAll('a[href*="/posts/"]');
-        var urls = [];
-        for (var i = 0; i < links.length; i++) {
-            var href = links[i].href;
-            if (href && href.includes('/gorskie_evrei/posts/')) {
-                urls.push(href);
-            }
-        }
-        return [...new Set(urls)];
-        """
-    
-    def setup_requests(self):
-        """Настройка запросов + BeautifulSoup"""
-        self.headers = {
-            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36'
-        }
-    
-    def collect_all_links(self, url, max_clicks=50):
-        """Собирает ВСЕ ссылки на рецепты через Selenium"""
-        print(f"🌐 Открываю: {url}")
-        self.driver.get(url)
-        time.sleep(3)
-        
-        clicks = 0
-        last_count = 0
-        
-        while clicks < max_clicks:
-            try:
-                # Текущее количество ссылок
-                current_links = self.driver.execute_script(self.js_get_links)
-                current_count = len(current_links)
-                
-                # Проверяем, нужен ли ещё клик
-                if clicks > 0 and current_count == last_count:
-                    print("✅ Все рецепты загружены")
-                    break
-                
-                last_count = current_count
-                
-                # Находим и нажимаем кнопку
-                button = WebDriverWait(self.driver, 5).until(
-                    EC.presence_of_element_located((By.CSS_SELECTOR, "button.btn.btn-blue.btn__load-elements"))
-                )
-                
-                self.driver.execute_script("arguments[0].scrollIntoView({block: 'center'});", button)
-                time.sleep(1)
-                self.driver.execute_script("arguments[0].click();", button)
-                
-                clicks += 1
-                print(f"🔘 Нажатие {clicks} - загружено {current_count} рецептов")
-                
-                # Ждём загрузки
-                time.sleep(3)
-                
-            except TimeoutException:
-                print("🏁 Кнопка не найдена - загрузка завершена")
-                break
-            except Exception as e:
-                print(f"⚠️ Ошибка: {e}")
-                break
-        
-        # Финальный сбор
-        final_links = self.driver.execute_script(self.js_get_links)
-        print(f"\n📊 Собрано {len(final_links)} ссылок за {clicks} нажатий")
-        return final_links
-    
-    def parse_recipe(self, url):
-        """Парсит 1 страницу через BeautifulSoup ОСТАНОВЛИВАЯСЬ перед мусором"""
-        try:
-            response = requests.get(url, headers=self.headers, timeout=10)
-            soup = BeautifulSoup(response.content, 'html.parser')
-        
-            # Заголовок 
-            title_elem = soup.select_one("h2") or soup.select_one(".article-title")
-            title = title_elem.get_text(strip=True) if title_elem else "Не найден"
-        
-            # Дата
-            date_elem = soup.select_one("time") or soup.select_one(".date")
-            date = date_elem.get_text(strip=True) if date_elem else "Не указана"
-        
-            # Находим ОСНОВНОЙ контейнер с текстом
-            content = soup.select_one("article") or soup.select_one(".article-text")
-        
-            if not content:
-                return {
-                    'url': url,
-                    'title': title,
-                    'date': date,
-                    'text': "Текст не найден",
-                    'parsed_at': datetime.now().isoformat()
-                }
-        
-            # Удаляем мусорные блоки ИЗ HTML ДО извлечения текста
-            # Ищем и удаляем блоки, которые содержат мусор
-            garbage_selectors = [
-                ".tags",              # Блок тегов
-                ".teaser",            # Рекомендации статей
-                ".subscribe",         # Подписки
-                ".related-news",      # Похожие новости
-                ".social-links",      # Соцсети
-                "[class*='ad']",      # Реклама
-                "[class*='banner']",    # Баннеры
-                "div.part.mn__aside",   # Вся боковая колонка  
-            ]
-        
-            for selector in garbage_selectors:
-                for garbage in content.select(selector):
-                    garbage.decompose()  # УДАЛЯЕМ элемент из HTML
-        
-        # ТОЛЬКО ТЕПЕРЬ извлекаем чистый текст
-            text = content.get_text(strip=True)
-        
-            return {
-                'url': url,
-                'title': title,
-                'date': date,
-                'text': text[:10000],
-                'parsed_at': datetime.now().isoformat()
-            }
-        
-        except Exception as e:
-            print(f"❌ Ошибка парсинга {url}: {e}")
-            return None
-    
-    def parse_all_recipes(self, links, delay=1.0): #время задержки можно поменять
-        """Парсит все рецепты из списка ссылок"""
-        print(f"\n📄 Начинаю парсинг {len(links)} рецептов...")
-        
-        recipes = []
-        start_time = time.time()
-        
-        for i, url in enumerate(links, 1):
-            if i % 10 == 0:
-                elapsed = time.time() - start_time
-                print(f"  Обработано {i}/{len(links)} за {elapsed:.1f} сек")
-            
-            recipe = self.parse_recipe(url)
-            if recipe:
-                recipes.append(recipe)
-            
-            # Пауза между запросами
-            if i < len(links):
-                time.sleep(delay)
-        
-        print(f"✅ Успешно спарсено: {len(recipes)}/{len(links)} рецептов")
-        return recipes
-    
-    def save_results(self, recipes, prefix="stmegi_recipes"):
-        """Сохраняет результаты в CSV и JSON"""
-        timestamp = datetime.now().strftime('%Y%m%d_%H%M')
-        
-        # CSV
-        csv_file = f"{prefix}_{timestamp}.csv"
-        df = pd.DataFrame(recipes)
-        df.to_csv(csv_file, index=False, encoding='utf-8-sig')
-        
-        # JSON
-        json_file = f"{prefix}_{timestamp}.json"
-        with open(json_file, 'w', encoding='utf-8') as f:
-            json.dump(recipes, f, ensure_ascii=False, indent=2)
-        
-        # Ссылки
-        links_file = f"{prefix}_links_{timestamp}.txt"
-        with open(links_file, 'w', encoding='utf-8') as f:
-            for r in recipes:
-                f.write(r['url'] + '\n')
-        
-        print(f"\n💾 Результаты сохранены:")
-        print(f"  • {csv_file} ({len(recipes)} записей)")
-        print(f"  • {json_file}")
-        print(f"  • {links_file}")
-        
-        return csv_file
-    
-    def run(self, start_url, max_recipes=None):
-        """Запускает полный процесс парсинга"""
-        print("=" * 60)
-        print("🚀 ЗАПУСК ПАРСЕРА STMEGI.COM")
-        print("=" * 60)
-        
-        start_time = time.time()
-        
-        # 1. Собираем ссылки
-        all_links = self.collect_all_links(start_url)
-        
-        if max_recipes and len(all_links) > max_recipes:
-            print(f"\n⚠️ Ограничиваю до {max_recipes} рецептов")
-            all_links = all_links[:max_recipes]
-        
-        # 2. Парсим рецепты
-        recipes = self.parse_all_recipes(all_links)
-        
-        # 3. Сохраняем
-        if recipes:
-            self.save_results(recipes)
-        
-        # 4. Статистика
-        elapsed = time.time() - start_time
-        print("\n" + "=" * 60)
-        print("📊 ФИНАЛЬНАЯ СТАТИСТИКА")
-        print("=" * 60)
-        print(f"  • Всего ссылок собрано: {len(all_links)}")
-        print(f"  • Успешно спарсено: {len(recipes)}")
-        print(f"  • Общее время: {elapsed:.1f} сек")
-        print(f"  • Скорость: {len(recipes)/elapsed:.1f} рец/сек")
-        
-        if recipes:
-            print(f"\n📋 Пример первого рецепта:")
-            first = recipes[0]
-            print(f"  Заголовок: {first['title'][:60]}...")
-            print(f"  Дата: {first['date']}")
-            #print(f"  Категория: {first['category']}")
-            print(f"  Текст: {first['text'][:100]}...")
-        
-        return recipes
-    
-    def close(self):
-        """Закрывает ресурсы"""
-        print("\n👋 Закрываю парсер...")
-        self.driver.quit()
-
-
-def main():
-    """Точка входа"""
-    
-    # Конфигурация
-    START_URL = "https://stmegi.com/gorskie_evrei/kukhnya/"
-    MAX_RECIPES = None  # Поставить число, если нужен лимит, но оп ка на сайте их всего 42
-    HEADLESS = True  # False для отладки
-    
-    try:
-        # Создаем и запускаем парсер
-        parser = StmegiParser(headless=HEADLESS)
-        results = parser.run(START_URL, max_recipes=MAX_RECIPES)
-        parser.close()
-        
-        if results:
-            print(f"\n🎉 Парсинг успешно завершен!")
-        else:
-            print(f"\n⚠️ Данные не собраны")
-        
-        input("\nНажмите Enter для выхода...")
-        
-    except KeyboardInterrupt:
-        print("\n\n⚠️ Прервано пользователем")
-    except Exception as e:
-        print(f"\n❌ Ошибка: {e}")
-        import traceback
-        traceback.print_exc()
-        input("\nНажмите Enter для выхода...")
-
-
-if __name__ == "__main__":
+"""
+Парсер рецептов с сайта STMEGI.COM
+"""
+
+import time
+import json
+import pandas as pd
+from datetime import datetime
+import requests
+from bs4 import BeautifulSoup
+from selenium import webdriver
+from selenium.webdriver.common.by import By
+from selenium.webdriver.support.ui import WebDriverWait
+from selenium.webdriver.support import expected_conditions as EC
+from selenium.webdriver.chrome.service import Service
+from webdriver_manager.chrome import ChromeDriverManager
+from selenium.common.exceptions import TimeoutException
+
+
+class StmegiParser:
+    """Парсер рецептов с сайта STMEGI.com"""
+    
+    def __init__(self, headless=True):
+        """Инициализация с настройками"""
+        self.setup_selenium(headless)
+        self.setup_requests()
+        print("✅ Парсер инициализирован")
+    
+    def setup_selenium(self, headless):
+        """Настройка Selenium для сбора ссылок"""
+        options = webdriver.ChromeOptions()
+        if headless:
+            options.add_argument('--headless')
+        options.add_argument('--no-sandbox')
+        options.add_argument('--window-size=1920,1080')
+        
+        self.driver = webdriver.Chrome(
+            service=Service(ChromeDriverManager().install()),
+            options=options
+        )
+        
+        # Java script для сбора ссылок
+        self.js_get_links = """
+        var links = document.querySelectorAll('a[href*="/posts/"]');
+        var urls = [];
+        for (var i = 0; i < links.length; i++) {
+            var href = links[i].href;
+            if (href && href.includes('/gorskie_evrei/posts/')) {
+                urls.push(href);
+            }
+        }
+        return [...new Set(urls)];
+        """
+    
+    def setup_requests(self):
+        """Настройка запросов + BeautifulSoup"""
+        self.headers = {
+            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36'
+        }
+    
+    def collect_all_links(self, url, max_clicks=50):
+        """Собирает ссылки на все рецепты через Selenium"""
+        print(f"🌐 Открываю: {url}")
+        self.driver.get(url)
+        time.sleep(3)
+        
+        clicks = 0
+        last_count = 0
+        
+        while clicks < max_clicks:
+            try:
+                # Текущее количество ссылок
+                current_links = self.driver.execute_script(self.js_get_links)
+                current_count = len(current_links)
+                
+                # Проверяем, нужен ли ещё клик
+                if clicks > 0 and current_count == last_count:
+                    print("✅ Все рецепты загружены")
+                    break
+                
+                last_count = current_count
+                
+                # Находим и нажимаем кнопку
+                button = WebDriverWait(self.driver, 5).until(
+                    EC.presence_of_element_located((By.CSS_SELECTOR, "button.btn.btn-blue.btn__load-elements"))
+                )
+                
+                self.driver.execute_script("arguments[0].scrollIntoView({block: 'center'});", button)
+                time.sleep(1)
+                self.driver.execute_script("arguments[0].click();", button)
+                
+                clicks += 1
+                print(f"🔘 Нажатие {clicks} - загружено {current_count} рецептов")
+                
+                # Ждём загрузки
+                time.sleep(3)
+                
+            except TimeoutException:
+                print("🏁 Кнопка не найдена - загрузка завершена")
+                break
+            except Exception as e:
+                print(f"⚠️ Ошибка: {e}")
+                break
+        
+        # Финальный сбор
+        final_links = self.driver.execute_script(self.js_get_links)
+        print(f"\n📊 Собрано {len(final_links)} ссылок за {clicks} нажатий")
+        return final_links
+    
+    def parse_recipe(self, url):
+        """Парсит 1 страницу через BeautifulSoup ОСТАНОВЛИВАЯСЬ перед мусором"""
+        try:
+            response = requests.get(url, headers=self.headers, timeout=10)
+            soup = BeautifulSoup(response.content, 'html.parser')
+        
+            # Заголовок 
+            title_elem = soup.select_one("h2") or soup.select_one(".article-title")
+            title = title_elem.get_text(strip=True) if title_elem else "Не найден"
+        
+            # Дата
+            date_elem = soup.select_one("time") or soup.select_one(".date")
+            date = date_elem.get_text(strip=True) if date_elem else "Не указана"
+        
+            # Находим ОСНОВНОЙ контейнер с текстом
+            content = soup.select_one("article") or soup.select_one(".article-text")
+        
+            if not content:
+                return {
+                    'url': url,
+                    'title': title,
+                    'date': date,
+                    'text': "Текст не найден",
+                    'parsed_at': datetime.now().isoformat()
+                }
+        
+            # Удаляем мусорные блоки ИЗ HTML перед извлечением текста
+            garbage_selectors = [
+                ".tags",              # Блок тегов
+                ".teaser",            # Рекомендации статей
+                ".subscribe",         # Подписки
+                ".related-news",      # Похожие новости
+                ".social-links",      # Соцсети
+                "[class*='ad']",      # Реклама
+                "[class*='banner']",    # Баннеры
+                "div.part.mn__aside",   # Вся боковая колонка  
+            ]
+        
+            for selector in garbage_selectors:
+                for garbage in content.select(selector):
+                    garbage.decompose()  # удаляем элемент из HTML
+        
+        # Извлекаем чистый текст
+            text = content.get_text(strip=True)
+        
+            return {
+                'url': url,
+                'title': title,
+                'date': date,
+                'text': text[:10000],
+                'parsed_at': datetime.now().isoformat()
+            }
+        
+        except Exception as e:
+            print(f"❌ Ошибка парсинга {url}: {e}")
+            return None
+    
+    def parse_all_recipes(self, links, delay=1.0): #время задержки можно поменять
+        """Парсит все рецепты из списка ссылок"""
+        print(f"\n📄 Начинаю парсинг {len(links)} рецептов...")
+        
+        recipes = []
+        start_time = time.time()
+        
+        for i, url in enumerate(links, 1):
+            if i % 10 == 0:
+                elapsed = time.time() - start_time
+                print(f"  Обработано {i}/{len(links)} за {elapsed:.1f} сек")
+            
+            recipe = self.parse_recipe(url)
+            if recipe:
+                recipes.append(recipe)
+            
+            # Пауза между запросами
+            if i < len(links):
+                time.sleep(delay)
+        
+        print(f"✅ Успешно спарсено: {len(recipes)}/{len(links)} рецептов")
+        return recipes
+    
+    def save_results(self, recipes, prefix="stmegi_recipes"):
+        """Сохраняет результаты в CSV и JSON"""
+        timestamp = datetime.now().strftime('%Y%m%d_%H%M')
+        
+        # CSV
+        csv_file = f"{prefix}_{timestamp}.csv"
+        df = pd.DataFrame(recipes)
+        df.to_csv(csv_file, index=False, encoding='utf-8-sig')
+        
+        # JSON
+        json_file = f"{prefix}_{timestamp}.json"
+        with open(json_file, 'w', encoding='utf-8') as f:
+            json.dump(recipes, f, ensure_ascii=False, indent=2)
+        
+        # Ссылки
+        links_file = f"{prefix}_links_{timestamp}.txt"
+        with open(links_file, 'w', encoding='utf-8') as f:
+            for r in recipes:
+                f.write(r['url'] + '\n')
+        
+        print(f"\n💾 Результаты сохранены:")
+        print(f"  • {csv_file} ({len(recipes)} записей)")
+        print(f"  • {json_file}")
+        print(f"  • {links_file}")
+        
+        return csv_file
+    
+    def run(self, start_url, max_recipes=None):
+        """Запускает полный процесс парсинга"""
+        print("=" * 60)
+        print("🚀 ЗАПУСК ПАРСЕРА STMEGI.COM")
+        print("=" * 60)
+        
+        start_time = time.time()
+        
+        # 1. Собираем ссылки
+        all_links = self.collect_all_links(start_url)
+        
+        if max_recipes and len(all_links) > max_recipes:
+            print(f"\n⚠️ Ограничиваю до {max_recipes} рецептов")
+            all_links = all_links[:max_recipes]
+        
+        # 2. Парсим рецепты
+        recipes = self.parse_all_recipes(all_links)
+        
+        # 3. Сохраняем
+        if recipes:
+            self.save_results(recipes)
+        
+        # 4. Статистика
+        elapsed = time.time() - start_time
+        print("\n" + "=" * 60)
+        print("📊 ФИНАЛЬНАЯ СТАТИСТИКА")
+        print("=" * 60)
+        print(f"  • Всего ссылок собрано: {len(all_links)}")
+        print(f"  • Успешно спарсено: {len(recipes)}")
+        print(f"  • Общее время: {elapsed:.1f} сек")
+        print(f"  • Скорость: {len(recipes)/elapsed:.1f} рец/сек")
+        
+        if recipes:
+            print(f"\n📋 Пример первого рецепта:")
+            first = recipes[0]
+            print(f"  Заголовок: {first['title'][:60]}...")
+            print(f"  Дата: {first['date']}")
+            #print(f"  Категория: {first['category']}")
+            print(f"  Текст: {first['text'][:100]}...")
+        
+        return recipes
+    
+    def close(self):
+        """Закрывает ресурсы"""
+        print("\n👋 Закрываю парсер...")
+        self.driver.quit()
+
+
+def main():
+    """Точка входа"""
+    
+    # Конфигурация
+    START_URL = "https://stmegi.com/gorskie_evrei/kukhnya/"
+    MAX_RECIPES = None  # Поставить число, если нужен лимит, но пока на сайте их всего 42
+    HEADLESS = True  # False для отладки
+    
+    try:
+        # Создаем и запускаем парсер
+        parser = StmegiParser(headless=HEADLESS)
+        results = parser.run(START_URL, max_recipes=MAX_RECIPES)
+        parser.close()
+        
+        if results:
+            print(f"\n🎉 Парсинг успешно завершен!")
+        else:
+            print(f"\n⚠️ Данные не собраны")
+        
+        input("\nНажмите Enter для выхода...")
+        
+    except KeyboardInterrupt:
+        print("\n\n⚠️ Прервано пользователем")
+    except Exception as e:
+        print(f"\n❌ Ошибка: {e}")
+        import traceback
+        traceback.print_exc()
+        input("\nНажмите Enter для выхода...")
+
+
+if __name__ == "__main__":
     main()