language:
- ru
task_categories:
- question-answering
- text-classification
tags:
- legal
- russian-law
- synthetic
- reasoning
pretty_name: RuLaw-ProofBench expanded
size_categories:
- n<1K
configs:
- config_name: open
default: true
data_files:
- split: test
path: data/open/test.parquet
- split: train
path: data/open/train.parquet
- config_name: mcq
data_files:
- split: test
path: data/mcq/test.parquet
- split: train
path: data/mcq/train.parquet
RuLaw-ProofBench: расширенный выпуск
Рабочее название — RuLaw 2.0. Корпус содержит 505 тестовых вопросов
по 71 статьям и 20 демонстраций. Нормативный срез —
01.01.2025. Используются только ТК РФ, СК РФ, часть первая ГК РФ и 59-ФЗ.
Предыдущий выпуск (194 test + 5 train) доступен по закреплённой ревизии
6e753317f0a7d17c92ca243c85aa0c2ef7a7cecc. Результаты разных выпусков
следует сопоставлять с явным указанием версии и протокола.
Автор принял фактический состав до оценки моделей. Исходная цель баланса 40/30/30 не является критерием этого выпуска; реальные количества приведены ниже. Проверки содержания и разделения train/test сохранены.
Протокол
open и mcq — представления одних случаев с общими IDs. В open требуется
короткий ответ, в mcq — буква одного из 2–4 вариантов. Вариант
«недостаточно данных» присутствует в каждом MCQ. Он обозначает несколько
различных выводов при допустимых уточнениях фактов, а не незнание нормы.
Неизвестность факта не равна его отсутствию. Если все допустимые уточнения
дают один результат, эталоном является этот результат.
| Условия | Количество |
|---|---|
| Полные | 280 |
| Неполные, но однозначные | 125 |
| Неоднозначные | 100 |
| Область | Количество |
|---|---|
| Обращения граждан, 59-ФЗ | 67 |
| Трудовое право | 223 |
| Семейное право | 114 |
| Гражданское право, часть первая ГК РФ | 101 |
Каждая статья содержит не более десяти тестовых вопросов. Состав типов условий соответствует приведённой выше таблице. Результаты оцениваемых моделей не использовались для отбора test.
Демонстрации
train — отдельный пул демонстраций. Он отделён от test по основным статьям,
нормативным зависимостям, IDs и нормализованным вопросам. Основной режим —
фиксированный 5-shot; поддерживается также 0-shot. Порядок основной пятёрки:
- Полные условия, «да».
- Неполные однозначные условия, «нет».
- Полные условия, «не следует из указанной нормы».
- Неполные однозначные условия, числовой ответ.
- Неоднозначные условия числового вопроса, «недостаточно данных».
Фиксированные IDs в этом порядке:
v2-3b3b4fa138be5488a6f9v2-40b5b87e704a2c16f022v2-f11ba975e9a6aa85ce74v2-53953b76036d58175e83v2-5d800c23c8b5407341ee
Пятёрка использует пять разных статей и не менее трёх областей, не более двух примеров одной области. Из допустимых наборов выбран кратчайший по суммарной длине question + context в Unicode-символах; равенства разрешены по IDs. Она не покрывает все возможные сочетания ответа, условий и отрасли.
Данные и оценка
Поля question и context содержат публичный вопрос и нормативные фрагменты.
Закрытый режим использует только вопрос, grounded — также контекст.
answer, answer_unit, answer_label, record_json и mcq_json содержат
эталон и аудиторские сведения; их нельзя передавать модели как тестовый вход.
record_json сохраняет факты, программный вывод, ссылки и связи минимальных пар.
Основная метрика — средняя accuracy по статьям. Дополнительно сообщаются micro accuracy, ошибки формата, precision/recall и ложные ответы недостаточности, результаты по типам условий, минимальным парам и происхождению случаев. Интервалы сравнения моделей следует строить по статьям с проверкой устойчивости при объединении статей, имеющих общие нормативные зависимости.
Open использует точное совпадение после ограниченной нормализации. Числа записываются цифрами: целые, точные десятичные или обыкновенные дроби; для долей допустимы проценты. Разрешены соответствующие единицы, включая месяцы и годы. Годы и месяцы не переводятся в фиксированное количество дней. Объяснения, словесные числительные, «до N», «не более N» и противоречивые ответы не извлекаются и не исправляются scorer. MCQ оценивается по вероятностям показанных букв.
Построение и ограничения
Принятые нормативные фрагменты и ограничения применения подготовлены отдельно.
Построение включает две изолированные формализации, сравнение конечных миров,
программное вычисление эталонов, слепое решение и аудит текста. Использованы
gpt-6.1-sol и gpt-6-astra для разбора расхождений, effort high.
Согласие этих проверок не заменяет независимой экспертной юридической проверки.
Прежние случаи повторно проверены; для каждого старого ID ведётся перечень
сохранений и исключений. Замены на уровне статьи не выдаются за соответствие
вопросов один к одному. Поле origin различает сохранённые случаи (retained),
новые случаи (new) и случаи по переработанной формализации прежней статьи
(revised_article). Последние содержат previous_article_ids; это связь на
уровне статьи, а не утверждение о точном соответствии старому вопросу.
Префикс v2- исторических IDs не обозначает этот выпуск:
версия определяется manifest и контрольными суммами файлов.
Это синтетическая проверка выбранных норм и ограниченных ситуаций, а не оценка всех отраслей российского права или способности давать юридические консультации. Исторические результаты на прежнем корпусе и прежних промптах не являются результатами этого выпуска. Для сравнения требуется новая генерация ответов.