Datasets:

AFKatz
/

Recipe-parser

Проект представляет собой парсер для сбора рецептов национальной кухни горских евреев с сайта STMEGI.com — информационного портала еврейской общины. Собранные данные включают традиционные рецепты, их описания и метаданные, представляющие культурологическую ценность. Все права на рецепты принадлежат авторам рецептов и сайту. Сбор производился в исключительно образовательных и исследовательских целях. Выбор темы обусловлен многолетним участием в проекте по изучению горско-еврейских общин, в который, в том числе, входит раздел про разделение рецептов традиционых блюд по регионам т.н. "общины исхода" общины.

Дата парсинга: 21.12.2025 Количество рецептов: 42

Собранные данные

Источник данных

Сайт: STMEGI.com - Раздел "Кухня"
Период публикаций: 18.03.2016 - по сегодняшний день

Структура данных

Каждый рецепт содержит следующие поля:

Поле	Описание	Пример
`url`	Ссылка на оригинальную статью	`https://stmegi.com/.../pertesh-na-shavuot/`
`title`	Название блюда	"Пертеш на Шавуот"
`date`	Дата публикации	"2.06.2022 11:02"
`text`	Полный текст рецепта	"Главное блюдо на Шавуот – «Пертеш» – лаваши..."
`parsed_at`	Время сбора данных	"2024-12-16T14:30:45"
*- категория конкретно на этом сайте не несет смысловой нагрузки, поэтому в финальном коде ее удалила

Примеры рецептов

Пертеш на Шавуот - традиционные лаваши с молочной начинкой
Хасидо с лавашом на праздник Пурим - праздничное блюдо
Рыба по-мароккански - пример кулинарного влияния

🛠 Техническая реализация

Архитектура парсера

Использован гибридный подход т.к. постоянно возникала проблема с кномкой "Показать еще", после нажатия которой страницу требовалось еще прокрутить вниз для повторного нажатия (то, что сейчас код работает верно, проверено вручную через подсчет рецептов). Для сбора ссылок использоавн Java script, который собирает ссылки непосредственно в браузере. Для удаления ненужного контента из тектса рецептов (новости, реклама) использован дополнительный блок:

Парсер (stmegi_final_parser.py) ├── Этап 1: Сбор ссылок (Selenium) │ ├── Открытие страницы с динамическим контентом │ ├── Нажатие кнопки "Показать ещё" в цикле │ └── Извлечение ссылок на рецепты │ ├── Этап 2: Парсинг данных (BeautifulSoup) │ ├── Многопоточная загрузка страниц │ ├── Извлечение структурированных данных │ └── Обработка ошибок для каждого рецепта │ └── Этап 3: Сохранение результатов ├── Экспорт в CSV (для анализа) ├── Экспорт в JSON (структурированные данные) └── Сохранение списка ссылок

Запуск парсера: python stmegi-parser_x.py

Этические и правовые аспекты

Перед началом парсинга был проанализирован файл robots.txt сайта:

Disallow: /*PAGEN - учтено в алгоритме (пагинация реализована через нажатие кнопки, а не параметры URL)
Основной контент (/gorskie_evrei/posts/) доступен для индексации
Парсер не нарушает установленные сайтом ограничения

Правила использования данных

Учебная цель — данные собраны исключительно для выполнения учебного проекта.
Некоммерческое использование — коммерческое использование данных запрещено.
Атрибуция — при любом использовании или ссылке на данные обязательна ссылка на источник — STMEGI.com.
Уважение к серверу — в алгоритм парсера заложены задержки между запросами для снижения нагрузки: 1 секунда между загрузкой рецептов, при обнаружении проблем с сервером парсер завершает работу. (при использовании кода def parse_all_recipes(self, links, delay=1.0) время задержки можно при необходимости поменять)

Исследовательский потенциал

Собранный датасет представляет ценность для междисциплинарных исследований и может быть использован для кулинарных исследований, лингвистического анализа, а в случае с автором - для исследования связи разнообразных рецептов, ингредиентов и терминов с географическим происхождением группы, породившей рецепт, и кухнями их соседей.

Использование ИИ

При выполнении проекта использовался DeepSeek для консультаций по архитектуре парсера, структуре документации, отладки отдельных компонентов кода (особенно поиск проблем с промоткой страницы). Основная логика и реализация выполнены самостоятельно, ИИ использовался как вспомогательный инструмент.

Авторские права

Исходные тексты рецептов: Принадлежат STMEGI.com и авторам статей Код парсера: Открытый код для учебных целей Собранные данные: Только для исследовательских и учебных целей

Контакты и ссылки

Студент: Фоменко Елена Курс: Анализ данных Дата сдачи: 22 декабря 2025 Публикация: