| --- |
| language: |
| - ru |
| task_categories: |
| - question-answering |
| - text-classification |
| tags: |
| - legal |
| - russian-law |
| - synthetic |
| - reasoning |
| pretty_name: RuLaw-ProofBench expanded |
| size_categories: |
| - n<1K |
| configs: |
| - config_name: open |
| default: true |
| data_files: |
| - split: test |
| path: data/open/test.parquet |
| - split: train |
| path: data/open/train.parquet |
| - config_name: mcq |
| data_files: |
| - split: test |
| path: data/mcq/test.parquet |
| - split: train |
| path: data/mcq/train.parquet |
| --- |
| |
| # RuLaw-ProofBench: расширенный выпуск |
|
|
| Рабочее название — RuLaw 2.0. Корпус содержит **505 тестовых вопросов |
| по 71 статьям** и **20 демонстраций**. Нормативный срез — |
| 01.01.2025. Используются только ТК РФ, СК РФ, часть первая ГК РФ и 59-ФЗ. |
| Предыдущий выпуск (194 test + 5 train) доступен по закреплённой ревизии |
| `6e753317f0a7d17c92ca243c85aa0c2ef7a7cecc`. Результаты разных выпусков |
| следует сопоставлять с явным указанием версии и протокола. |
|
|
| Автор принял фактический состав до оценки моделей. Исходная цель баланса |
| 40/30/30 не является критерием этого выпуска; реальные количества приведены |
| ниже. Проверки содержания и разделения train/test сохранены. |
|
|
| ## Протокол |
|
|
| `open` и `mcq` — представления одних случаев с общими IDs. В `open` требуется |
| короткий ответ, в `mcq` — буква одного из 2–4 вариантов. Вариант |
| «недостаточно данных» присутствует в каждом MCQ. Он обозначает несколько |
| различных выводов при допустимых уточнениях фактов, а не незнание нормы. |
| Неизвестность факта не равна его отсутствию. Если все допустимые уточнения |
| дают один результат, эталоном является этот результат. |
|
|
| | Условия | Количество | |
| | --- | ---: | |
| | Полные | 280 | |
| | Неполные, но однозначные | 125 | |
| | Неоднозначные | 100 | |
|
|
| | Область | Количество | |
| | --- | ---: | |
| | Обращения граждан, 59-ФЗ | 67 | |
| | Трудовое право | 223 | |
| | Семейное право | 114 | |
| | Гражданское право, часть первая ГК РФ | 101 | |
|
|
| Каждая статья содержит не более десяти тестовых вопросов. Состав типов |
| условий соответствует приведённой выше таблице. |
| Результаты оцениваемых моделей не использовались для отбора test. |
|
|
| ## Демонстрации |
|
|
| `train` — отдельный пул демонстраций. Он отделён от test по основным статьям, |
| нормативным зависимостям, IDs и нормализованным вопросам. Основной режим — |
| фиксированный 5-shot; поддерживается также 0-shot. Порядок основной пятёрки: |
|
|
| 1. Полные условия, «да». |
| 2. Неполные однозначные условия, «нет». |
| 3. Полные условия, «не следует из указанной нормы». |
| 4. Неполные однозначные условия, числовой ответ. |
| 5. Неоднозначные условия числового вопроса, «недостаточно данных». |
|
|
| Фиксированные IDs в этом порядке: |
|
|
| - `v2-3b3b4fa138be5488a6f9` |
| - `v2-40b5b87e704a2c16f022` |
| - `v2-f11ba975e9a6aa85ce74` |
| - `v2-53953b76036d58175e83` |
| - `v2-5d800c23c8b5407341ee` |
|
|
| Пятёрка использует пять разных статей и не менее трёх областей, не более двух |
| примеров одной области. Из допустимых наборов выбран кратчайший по суммарной |
| длине question + context в Unicode-символах; равенства разрешены по IDs. |
| Она не покрывает все возможные сочетания ответа, условий и отрасли. |
|
|
| ## Данные и оценка |
|
|
| Поля `question` и `context` содержат публичный вопрос и нормативные фрагменты. |
| Закрытый режим использует только вопрос, grounded — также контекст. |
| `answer`, `answer_unit`, `answer_label`, `record_json` и `mcq_json` содержат |
| эталон и аудиторские сведения; их нельзя передавать модели как тестовый вход. |
| `record_json` сохраняет факты, программный вывод, ссылки и связи минимальных пар. |
|
|
| Основная метрика — средняя accuracy по статьям. Дополнительно сообщаются |
| micro accuracy, ошибки формата, precision/recall и ложные ответы недостаточности, |
| результаты по типам условий, минимальным парам и происхождению случаев. |
| Интервалы сравнения моделей следует строить по статьям с проверкой устойчивости |
| при объединении статей, имеющих общие нормативные зависимости. |
|
|
| Open использует точное совпадение после ограниченной нормализации. Числа |
| записываются цифрами: целые, точные десятичные или обыкновенные дроби; для долей |
| допустимы проценты. Разрешены соответствующие единицы, включая месяцы и годы. |
| Годы и месяцы не переводятся в фиксированное количество дней. Объяснения, |
| словесные числительные, «до N», «не более N» и противоречивые ответы не извлекаются |
| и не исправляются scorer. MCQ оценивается по вероятностям показанных букв. |
|
|
| ## Построение и ограничения |
|
|
| Принятые нормативные фрагменты и ограничения применения подготовлены отдельно. |
| Построение включает две изолированные формализации, сравнение конечных миров, |
| программное вычисление эталонов, слепое решение и аудит текста. Использованы |
| `gpt-6.1-sol` и `gpt-6-astra` для разбора расхождений, effort `high`. |
| Согласие этих проверок не заменяет независимой экспертной юридической проверки. |
|
|
| Прежние случаи повторно проверены; для каждого старого ID ведётся перечень |
| сохранений и исключений. Замены на уровне статьи не выдаются за соответствие |
| вопросов один к одному. Поле `origin` различает сохранённые случаи (`retained`), |
| новые случаи (`new`) и случаи по переработанной формализации прежней статьи |
| (`revised_article`). Последние содержат `previous_article_ids`; это связь на |
| уровне статьи, а не утверждение о точном соответствии старому вопросу. |
| Префикс `v2-` исторических IDs не обозначает этот выпуск: |
| версия определяется manifest и контрольными суммами файлов. |
|
|
| Это синтетическая проверка выбранных норм и ограниченных ситуаций, а не оценка |
| всех отраслей российского права или способности давать юридические консультации. |
| Исторические результаты на прежнем корпусе и прежних промптах не являются |
| результатами этого выпуска. Для сравнения требуется новая генерация ответов. |
|
|
