Upload 5 files

Added code, dataset and additional info

README_additional.md

@@ -0,0 +1,86 @@
+# Парсинг рецептов горско-еврейской кухни с сайта STMEGI.com
+
+## Проект парсера для рецептов с сайта
+Проект представляет собой парсер для сбора рецептов национальной кухни горских евреев с сайта [STMEGI.com](https://stmegi.com) — информационного портала еврейской общины. Собранные данные включают традиционные рецепты, их описания и метаданные, представляющие культурологическую ценность. Все права на рецепты принадлежат авторам рецептов и сайту. Сбор производился в исключительно образовательных и исследовательских целях. Выбор темы обусловлен многолетним участием в проекте по изучению горско-еврейских общин, в который, в том числе, входит раздел про разделение рецептов традиционых блюд по регионам т.н. "общины исхода" общины.
+
+**Дата парсинга: 21.12.2025**
+**Количество рецептов: 42**
+
+## Собранные данные
+
+### Источник данных
+- **Сайт:** [STMEGI.com - Раздел "Кухня"](https://stmegi.com/gorskie_evrei/kukhnya/)
+- **Период публикаций: 18.03.2016 - по сегодняшний день**
+
+### Структура данных
+Каждый рецепт содержит следующие поля:
+
+| Поле | Описание | Пример |
+|------|----------|---------|
+| `url` | Ссылка на оригинальную статью | `https://stmegi.com/.../pertesh-na-shavuot/` |
+| `title` | Название блюда | "Пертеш на Шавуот" |
+| `date` | Дата публикации | "2.06.2022 11:02" | 
+| `text` | Полный текст рецепта | "Главное блюдо на Шавуот – «Пертеш» – лаваши..." |
+| `parsed_at` | Время сбора данных | "2024-12-16T14:30:45" |
+**- категория конкретно на этом сайте не несет смысловой нагрузки, поэтому в финальном коде ее удалила*
+
+### Примеры рецептов
+1. **Пертеш на Шавуот** - традиционные лаваши с молочной начинкой
+2. **Хасидо с лавашом на праздник Пурим** - праздничное блюдо
+3. **Рыба по-мароккански** - пример кулинарного влияния
+
+## 🛠 Техническая реализация
+
+### Архитектура парсера
+Использован **гибридный подход** т.к. постоянно возникала проблема с кномкой "Показать еще", после нажатия которой страницу требовалось еще прокрутить вниз для повторного нажатия (то, что сейчас код работает верно, проверено вручную через подсчет рецептов). Для сбора ссылок использоавн Java script, который собирает ссылки непосредственно в браузере. Для удаления ненужного контента из тектса рецептов (новости, реклама) использован дополнительный блок:
+
+Парсер (stmegi_final_parser.py)
+├── Этап 1: Сбор ссылок (Selenium)
+│ ├── Открытие страницы с динамическим контентом
+│ ├── Нажатие кнопки "Показать ещё" в цикле
+│ └── Извлечение ссылок на рецепты
+│
+├── Этап 2: Парсинг данных (BeautifulSoup)
+│ ├── Многопоточная загрузка страниц
+│ ├── Извлечение структурированных данных
+│ └── Обработка ошибок для каждого рецепта
+│
+└── Этап 3: Сохранение результатов
+├── Экспорт в CSV (для анализа)
+├── Экспорт в JSON (структурированные данные)
+└── Сохранение списка ссылок
+
+Запуск парсера:
+python stmegi-parser_x.py
+
+## Этические и правовые аспекты
+
+Перед началом парсинга был проанализирован файл `robots.txt` сайта:
+
+- `Disallow: /*PAGEN` - учтено в алгоритме (пагинация реализована через нажатие кнопки, а не параметры URL)
+- Основной контент (`/gorskie_evrei/posts/`) доступен для индексации
+- Парсер **не нарушает** установленные сайтом ограничения
+
+### Правила использования данных
+1.  **Учебная цель** — данные собраны исключительно для выполнения учебного проекта.
+2.  **Некоммерческое использование** — коммерческое использование данных запрещено.
+3.  **Атрибуция** — при любом использовании или ссылке на данные обязательна ссылка на источник — STMEGI.com.
+4.  **Уважение к серверу** — в алгоритм парсера заложены задержки между запросами для снижения нагрузки: 1 секунда между загрузкой рецептов, при обнаружении проблем с сервером парсер завершает работу. (при использовании кода     def parse_all_recipes(self, links, delay=1.0) время задержки можно при необходимости поменять)
+
+### Исследовательский потенциал
+Собранный датасет представляет ценность для междисциплинарных исследований и может быть использован для кулинарных исследований, лингвистического анализа, а в случае с автором - для исследования связи разнообразных рецептов, ингредиентов и терминов с географическим происхождением группы, породившей рецепт, и кухнями их соседей.
+
+### Использование ИИ
+При выполнении проекта использовался DeepSeek для консультаций по архитектуре парсера, структуре документации, отладки отдельных компонентов кода (особенно поиск проблем с промоткой страницы).
+Основная логика и реализация выполнены самостоятельно, ИИ использовался как вспомогательный инструмент.
+
+### Авторские права
+Исходные тексты рецептов: Принадлежат STMEGI.com и авторам статей
+Код парсера: Открытый код для учебных целей
+Собранные данные: Только для исследовательских и учебных целей
+
+### Контакты и ссылки
+Студент: Фоменко Елена
+Курс: Анализ данных
+Дата сдачи: 22 декабря 2025
+Публикация: 

requirements.txt

@@ -0,0 +1,3 @@
+selenium>=4.15.0
+pandas>=2.1.0
+webdriver-manager>=4.0.0

stmegi-parser_x.py

@@ -0,0 +1,297 @@
+"""
+Парсер рецептов с сайта STMEGI.COM
+"""
+
+import time
+import json
+import pandas as pd
+from datetime import datetime
+import requests
+from bs4 import BeautifulSoup
+from selenium import webdriver
+from selenium.webdriver.common.by import By
+from selenium.webdriver.support.ui import WebDriverWait
+from selenium.webdriver.support import expected_conditions as EC
+from selenium.webdriver.chrome.service import Service
+from webdriver_manager.chrome import ChromeDriverManager
+from selenium.common.exceptions import TimeoutException
+
+
+class StmegiParser:
+    """Парсер рецептов с сайта STMEGI.com"""
+    
+    def __init__(self, headless=True):
+        """Инициализация с настройками"""
+        self.setup_selenium(headless)
+        self.setup_requests()
+        print("✅ Парсер инициализирован")
+    
+    def setup_selenium(self, headless):
+        """Настройка Selenium для сбора ссылок"""
+        options = webdriver.ChromeOptions()
+        if headless:
+            options.add_argument('--headless')
+        options.add_argument('--no-sandbox')
+        options.add_argument('--window-size=1920,1080')
+        
+        self.driver = webdriver.Chrome(
+            service=Service(ChromeDriverManager().install()),
+            options=options
+        )
+        
+        # Java script для сбора ссылок
+        self.js_get_links = """
+        var links = document.querySelectorAll('a[href*="/posts/"]');
+        var urls = [];
+        for (var i = 0; i < links.length; i++) {
+            var href = links[i].href;
+            if (href && href.includes('/gorskie_evrei/posts/')) {
+                urls.push(href);
+            }
+        }
+        return [...new Set(urls)];
+        """
+    
+    def setup_requests(self):
+        """Настройка запросов + BeautifulSoup"""
+        self.headers = {
+            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36'
+        }
+    
+    def collect_all_links(self, url, max_clicks=50):
+        """Собирает ВСЕ ссылки на рецепты через Selenium"""
+        print(f"🌐 Открываю: {url}")
+        self.driver.get(url)
+        time.sleep(3)
+        
+        clicks = 0
+        last_count = 0
+        
+        while clicks < max_clicks:
+            try:
+                # Текущее количество ссылок
+                current_links = self.driver.execute_script(self.js_get_links)
+                current_count = len(current_links)
+                
+                # Проверяем, нужен ли ещё клик
+                if clicks > 0 and current_count == last_count:
+                    print("✅ Все рецепты загружены")
+                    break
+                
+                last_count = current_count
+                
+                # Находим и нажимаем кнопку
+                button = WebDriverWait(self.driver, 5).until(
+                    EC.presence_of_element_located((By.CSS_SELECTOR, "button.btn.btn-blue.btn__load-elements"))
+                )
+                
+                self.driver.execute_script("arguments[0].scrollIntoView({block: 'center'});", button)
+                time.sleep(1)
+                self.driver.execute_script("arguments[0].click();", button)
+                
+                clicks += 1
+                print(f"🔘 Нажатие {clicks} - загружено {current_count} рецептов")
+                
+                # Ждём загрузки
+                time.sleep(3)
+                
+            except TimeoutException:
+                print("🏁 Кнопка не найдена - загрузка завершена")
+                break
+            except Exception as e:
+                print(f"⚠️ Ошибка: {e}")
+                break
+        
+        # Финальный сбор
+        final_links = self.driver.execute_script(self.js_get_links)
+        print(f"\n📊 Собрано {len(final_links)} ссылок за {clicks} нажатий")
+        return final_links
+    
+    def parse_recipe(self, url):
+        """Парсит 1 страницу через BeautifulSoup ОСТАНОВЛИВАЯСЬ перед мусором"""
+        try:
+            response = requests.get(url, headers=self.headers, timeout=10)
+            soup = BeautifulSoup(response.content, 'html.parser')
+        
+            # Заголовок 
+            title_elem = soup.select_one("h2") or soup.select_one(".article-title")
+            title = title_elem.get_text(strip=True) if title_elem else "Не найден"
+        
+            # Дата
+            date_elem = soup.select_one("time") or soup.select_one(".date")
+            date = date_elem.get_text(strip=True) if date_elem else "Не указана"
+        
+            # Находим ОСНОВНОЙ контейнер с текстом
+            content = soup.select_one("article") or soup.select_one(".article-text")
+        
+            if not content:
+                return {
+                    'url': url,
+                    'title': title,
+                    'date': date,
+                    'text': "Текст не найден",
+                    'parsed_at': datetime.now().isoformat()
+                }
+        
+            # Удаляем мусорные блоки ИЗ HTML ДО извлечения текста
+            # Ищем и удаляем блоки, которые содержат мусор
+            garbage_selectors = [
+                ".tags",              # Блок тегов
+                ".teaser",            # Рекомендации статей
+                ".subscribe",         # Подписки
+                ".related-news",      # Похожие новости
+                ".social-links",      # Соцсети
+                "[class*='ad']",      # Реклама
+                "[class*='banner']",    # Баннеры
+                "div.part.mn__aside",   # Вся боковая колонка  
+            ]
+        
+            for selector in garbage_selectors:
+                for garbage in content.select(selector):
+                    garbage.decompose()  # УДАЛЯЕМ элемент из HTML
+        
+        # ТОЛЬКО ТЕПЕРЬ извлекаем чистый текст
+            text = content.get_text(strip=True)
+        
+            return {
+                'url': url,
+                'title': title,
+                'date': date,
+                'text': text[:10000],
+                'parsed_at': datetime.now().isoformat()
+            }
+        
+        except Exception as e:
+            print(f"❌ Ошибка парсинга {url}: {e}")
+            return None
+    
+    def parse_all_recipes(self, links, delay=1.0): #время задержки можно поменять
+        """Парсит все рецепты из списка ссылок"""
+        print(f"\n📄 Начинаю парсинг {len(links)} рецептов...")
+        
+        recipes = []
+        start_time = time.time()
+        
+        for i, url in enumerate(links, 1):
+            if i % 10 == 0:
+                elapsed = time.time() - start_time
+                print(f"  Обработано {i}/{len(links)} за {elapsed:.1f} сек")
+            
+            recipe = self.parse_recipe(url)
+            if recipe:
+                recipes.append(recipe)
+            
+            # Пауза между запросами
+            if i < len(links):
+                time.sleep(delay)
+        
+        print(f"✅ Успешно спарсено: {len(recipes)}/{len(links)} рецептов")
+        return recipes
+    
+    def save_results(self, recipes, prefix="stmegi_recipes"):
+        """Сохраняет результаты в CSV и JSON"""
+        timestamp = datetime.now().strftime('%Y%m%d_%H%M')
+        
+        # CSV
+        csv_file = f"{prefix}_{timestamp}.csv"
+        df = pd.DataFrame(recipes)
+        df.to_csv(csv_file, index=False, encoding='utf-8-sig')
+        
+        # JSON
+        json_file = f"{prefix}_{timestamp}.json"
+        with open(json_file, 'w', encoding='utf-8') as f:
+            json.dump(recipes, f, ensure_ascii=False, indent=2)
+        
+        # Ссылки
+        links_file = f"{prefix}_links_{timestamp}.txt"
+        with open(links_file, 'w', encoding='utf-8') as f:
+            for r in recipes:
+                f.write(r['url'] + '\n')
+        
+        print(f"\n💾 Результаты сохранены:")
+        print(f"  • {csv_file} ({len(recipes)} записей)")
+        print(f"  • {json_file}")
+        print(f"  • {links_file}")
+        
+        return csv_file
+    
+    def run(self, start_url, max_recipes=None):
+        """Запускает полный процесс парсинга"""
+        print("=" * 60)
+        print("🚀 ЗАПУСК ПАРСЕРА STMEGI.COM")
+        print("=" * 60)
+        
+        start_time = time.time()
+        
+        # 1. Собираем ссылки
+        all_links = self.collect_all_links(start_url)
+        
+        if max_recipes and len(all_links) > max_recipes:
+            print(f"\n⚠️ Ограничиваю до {max_recipes} рецептов")
+            all_links = all_links[:max_recipes]
+        
+        # 2. Парсим рецепты
+        recipes = self.parse_all_recipes(all_links)
+        
+        # 3. Сохраняем
+        if recipes:
+            self.save_results(recipes)
+        
+        # 4. Статистика
+        elapsed = time.time() - start_time
+        print("\n" + "=" * 60)
+        print("📊 ФИНАЛЬНАЯ СТАТИСТИКА")
+        print("=" * 60)
+        print(f"  • Всего ссылок собрано: {len(all_links)}")
+        print(f"  • Успешно спарсено: {len(recipes)}")
+        print(f"  • Общее время: {elapsed:.1f} сек")
+        print(f"  • Скорость: {len(recipes)/elapsed:.1f} рец/сек")
+        
+        if recipes:
+            print(f"\n📋 Пример первого рецепта:")
+            first = recipes[0]
+            print(f"  Заголовок: {first['title'][:60]}...")
+            print(f"  Дата: {first['date']}")
+            #print(f"  Категория: {first['category']}")
+            print(f"  Текст: {first['text'][:100]}...")
+        
+        return recipes
+    
+    def close(self):
+        """Закрывает ресурсы"""
+        print("\n👋 Закрываю парсер...")
+        self.driver.quit()
+
+
+def main():
+    """Точка входа"""
+    
+    # Конфигурация
+    START_URL = "https://stmegi.com/gorskie_evrei/kukhnya/"
+    MAX_RECIPES = None  # Поставить число, если нужен лимит, но оп ка на сайте их всего 42
+    HEADLESS = True  # False для отладки
+    
+    try:
+        # Создаем и запускаем парсер
+        parser = StmegiParser(headless=HEADLESS)
+        results = parser.run(START_URL, max_recipes=MAX_RECIPES)
+        parser.close()
+        
+        if results:
+            print(f"\n🎉 Парсинг успешно завершен!")
+        else:
+            print(f"\n⚠️ Данные не собраны")
+        
+        input("\nНажмите Enter для выхода...")
+        
+    except KeyboardInterrupt:
+        print("\n\n⚠️ Прервано пользователем")
+    except Exception as e:
+        print(f"\n❌ Ошибка: {e}")
+        import traceback
+        traceback.print_exc()
+        input("\nНажмите Enter для выхода...")
+
+
+if __name__ == "__main__":
+    main()

stmegi_recipes_links_20251222_1059.txt

@@ -0,0 +1,42 @@
+https://stmegi.com/gorskie_evrei/posts/98937/pertesh-na-shavuot/
+https://stmegi.com/gorskie_evrei/posts/68122/khasido-s-lavashom-na-prazdnik-purim-omunu/
+https://stmegi.com/gorskie_evrei/posts/64654/ryba-po-marokkanski/
+https://stmegi.com/gorskie_evrei/posts/64194/dem-turshchi-samyy-navaristyy-sup/
+https://stmegi.com/gorskie_evrei/posts/64035/kuskus-po-marokkanski/
+https://stmegi.com/gorskie_evrei/posts/63806/kurinyy-sup-s-beloy-fasolyu/
+https://stmegi.com/gorskie_evrei/posts/63575/nukhorush-merdzhumeki-chechevichnaya-pokhlebka/
+https://stmegi.com/gorskie_evrei/posts/58755/fadi-shiri-na-shavuot-asalte/
+https://stmegi.com/gorskie_evrei/posts/133920/tvorchestvo-i-vera-khumy-nakhshunovoy-abramovoy/
+https://stmegi.com/gorskie_evrei/posts/133855/bilal-bunyadzade-semya-kak-krepost-naroda/
+https://stmegi.com/gorskie_evrei/posts/133819/15-letnyaya-daliya-izrailova-pokorila-izrailtyan-svoim-golosom/
+https://stmegi.com/gorskie_evrei/posts/57292/gefilte-fish-na-pesakh/
+https://stmegi.com/gorskie_evrei/posts/55987/gotovim-k-purimu-khomentashen/
+https://stmegi.com/gorskie_evrei/posts/55045/pirog-s-sukhofruktami-na-tu-bi-shvat/
+https://stmegi.com/gorskie_evrei/posts/54604/shomokuftey-bebei-ne-prosto-kotlety/
+https://stmegi.com/gorskie_evrei/posts/54436/gitob-bebei/
+https://stmegi.com/gorskie_evrei/posts/54351/khashlama-/
+https://stmegi.com/gorskie_evrei/posts/54161/giney-pokhlei/
+https://stmegi.com/gorskie_evrei/posts/53491/kukhnya-gorskikh-evreev-gitob-bebei/
+https://stmegi.com/gorskie_evrei/posts/53254/kukhnya-gorskikh-evreev-khashlama/
+https://stmegi.com/gorskie_evrei/posts/53015/kukhnya-gorskikh-evreev-osh-kyudui-khanukoi/
+https://stmegi.com/gorskie_evrei/posts/52770/kukhnya-gorskikh-evreev-osh-turshchi-govorme/
+https://stmegi.com/gorskie_evrei/posts/52512/kukhnya-gorskikh-evreev-vostochnyy-salat-iz-baklazhanov/
+https://stmegi.com/gorskie_evrei/posts/52308/kukhnya-gorskikh-evreev-inger/
+https://stmegi.com/gorskie_evrei/posts/52032/kukhnya-gorskikh-evreev-zharkoy-arsii/
+https://stmegi.com/gorskie_evrei/posts/51254/kukhnya-gorskikh-evreev-tara/
+https://stmegi.com/gorskie_evrei/posts/50823/kukhnya-gorskikh-evreev-prazdnichnaya-khala/
+https://stmegi.com/gorskie_evrei/posts/50579/kukhnya-gorskikh-evreev-germe-osh/
+https://stmegi.com/gorskie_evrei/posts/49995/kukhnya-gorskikh-evreev-traditsionnyy-gorsko-evreyskiy-khashil/
+https://stmegi.com/gorskie_evrei/posts/49992/kukhnya-gorskikh-evreev-khalivo-garebechi/
+https://stmegi.com/gorskie_evrei/posts/49830/kukhnya-gorskikh-evreev-buglama-iz-myasa/
+https://stmegi.com/gorskie_evrei/posts/49573/kukhnya-gorskikh-evreev-letniy-sup-dugromoch/
+https://stmegi.com/gorskie_evrei/posts/49354/kukhnya-gorskikh-evreev-dushpere-ili-kurze/
+https://stmegi.com/gorskie_evrei/posts/49150/kukhnya-gorskikh-evreev-savzi-govorme-zelenoe-zharkoe-k-shabatu/
+https://stmegi.com/gorskie_evrei/posts/48920/kukhnya-gorskikh-evreev-net-khamina-net-shabata/
+https://stmegi.com/gorskie_evrei/posts/48703/kukhnya-gorskikh-evreev-gaylye-k-shabatu/
+https://stmegi.com/gorskie_evrei/posts/48504/kukhnya-gorskikh-evreev-yarpagi-k-shabatu/
+https://stmegi.com/gorskie_evrei/posts/48372/kukhnya-gorskikh-evreev-eshkene/
+https://stmegi.com/gorskie_evrei/posts/48189/kukhnya-gorskikh-evreev-khoyagusht/
+https://stmegi.com/gorskie_evrei/posts/44952/rubrika-evreyskaya-kukhnya-ushi-amana2041/
+https://stmegi.com/gorskie_evrei/posts/44953/rubrika-evreyskaya-kukhnya-khalva/
+https://stmegi.com/gorskie_evrei/posts/44954/ushi-amana-retsept-traditsionnykh-sladostey-na-purim/