Blame for README.md

---
language:
- ru
task_categories:
- question-answering
- text-classification
tags:
- legal
- russian-law
- synthetic
- reasoning
pretty_name: RuLaw-ProofBench expanded
size_categories:
- n<1K
configs:
- config_name: open
  default: true
  data_files:
  - split: test
    path: data/open/test.parquet
  - split: train
    path: data/open/train.parquet
- config_name: mcq
  data_files:
  - split: test
    path: data/mcq/test.parquet
  - split: train
    path: data/mcq/train.parquet
---

# RuLaw-ProofBench: расширенный выпуск

Рабочее название — RuLaw 2.0. Корпус содержит **505 тестовых вопросов
по 71 статьям** и **20 демонстраций**. Нормативный срез —
01.01.2025. Используются только ТК РФ, СК РФ, часть первая ГК РФ и 59-ФЗ.
Предыдущий выпуск (194 test + 5 train) доступен по закреплённой ревизии
`6e753317f0a7d17c92ca243c85aa0c2ef7a7cecc`. Результаты разных выпусков
следует сопоставлять с явным указанием версии и протокола.

Автор принял фактический состав до оценки моделей. Исходная цель баланса
40/30/30 не является критерием этого выпуска; реальные количества приведены
ниже. Проверки содержания и разделения train/test сохранены.

## Протокол

`open` и `mcq` — представления одних случаев с общими IDs. В `open` требуется
короткий ответ, в `mcq` — буква одного из 2–4 вариантов. Вариант
«недостаточно данных» присутствует в каждом MCQ. Он обозначает несколько
различных выводов при допустимых уточнениях фактов, а не незнание нормы.
Неизвестность факта не равна его отсутствию. Если все допустимые уточнения
дают один результат, эталоном является этот результат.

| Условия | Количество |
| --- | ---: |
| Полные | 280 |
| Неполные, но однозначные | 125 |
| Неоднозначные | 100 |

| Область | Количество |
| --- | ---: |
| Обращения граждан, 59-ФЗ | 67 |
| Трудовое право | 223 |
| Семейное право | 114 |
| Гражданское право, часть первая ГК РФ | 101 |

Каждая статья содержит не более десяти тестовых вопросов. Состав типов
условий соответствует приведённой выше таблице.
Результаты оцениваемых моделей не использовались для отбора test.

## Демонстрации

`train` — отдельный пул демонстраций. Он отделён от test по основным статьям,
нормативным зависимостям, IDs и нормализованным вопросам. Основной режим —
фиксированный 5-shot; поддерживается также 0-shot. Порядок основной пятёрки:

1. Полные условия, «да».
2. Неполные однозначные условия, «нет».
3. Полные условия, «не следует из указанной нормы».
4. Неполные однозначные условия, числовой ответ.
5. Неоднозначные условия числового вопроса, «недостаточно данных».

Фиксированные IDs в этом порядке:

- `v2-3b3b4fa138be5488a6f9`
- `v2-40b5b87e704a2c16f022`
- `v2-f11ba975e9a6aa85ce74`
- `v2-53953b76036d58175e83`
- `v2-5d800c23c8b5407341ee`

Пятёрка использует пять разных статей и не менее трёх областей, не более двух
примеров одной области. Из допустимых наборов выбран кратчайший по суммарной
длине question + context в Unicode-символах; равенства разрешены по IDs.
Она не покрывает все возможные сочетания ответа, условий и отрасли.

## Данные и оценка

Поля `question` и `context` содержат публичный вопрос и нормативные фрагменты.
Закрытый режим использует только вопрос, grounded — также контекст.
`answer`, `answer_unit`, `answer_label`, `record_json` и `mcq_json` содержат
эталон и аудиторские сведения; их нельзя передавать модели как тестовый вход.
`record_json` сохраняет факты, программный вывод, ссылки и связи минимальных пар.

Основная метрика — средняя accuracy по статьям. Дополнительно сообщаются
micro accuracy, ошибки формата, precision/recall и ложные ответы недостаточности,
результаты по типам условий, минимальным парам и происхождению случаев.
Интервалы сравнения моделей следует строить по статьям с проверкой устойчивости
при объединении статей, имеющих общие нормативные зависимости.

Open использует точное совпадение после ограниченной нормализации. Числа
записываются цифрами: целые, точные десятичные или обыкновенные дроби; для долей
допустимы проценты. Разрешены соответствующие единицы, включая месяцы и годы.
Годы и месяцы не переводятся в фиксированное количество дней. Объяснения,
словесные числительные, «до N», «не более N» и противоречивые ответы не извлекаются
и не исправляются scorer. MCQ оценивается по вероятностям показанных букв.

## Построение и ограничения

Принятые нормативные фрагменты и ограничения применения подготовлены отдельно.
Построение включает две изолированные формализации, сравнение конечных миров,
программное вычисление эталонов, слепое решение и аудит текста. Использованы
`gpt-6.1-sol` и `gpt-6-astra` для разбора расхождений, effort `high`.
Согласие этих проверок не заменяет независимой экспертной юридической проверки.

Прежние случаи повторно проверены; для каждого старого ID ведётся перечень
сохранений и исключений. Замены на уровне статьи не выдаются за соответствие
вопросов один к одному. Поле `origin` различает сохранённые случаи (`retained`),
новые случаи (`new`) и случаи по переработанной формализации прежней статьи
(`revised_article`). Последние содержат `previous_article_ids`; это связь на
уровне статьи, а не утверждение о точном соответствии старому вопросу.
Префикс `v2-` исторических IDs не обозначает этот выпуск:
версия определяется manifest и контрольными суммами файлов.

Это синтетическая проверка выбранных норм и ограниченных ситуаций, а не оценка
всех отраслей российского права или способности давать юридические консультации.
Исторические результаты на прежнем корпусе и прежних промптах не являются
результатами этого выпуска. Для сравнения требуется новая генерация ответов.