Publish 150 verified RuLaw-ProofBench cases

METHODS.md

@@ -0,0 +1,284 @@
+# Метод построения RuLaw-ProofBench v1
+
+## Исследовательский вопрос и измеряемая величина
+
+Мы исследуем, позволяет ли ограничение задачи до следствия названного фрагмента
+закона, его формализация и независимая автоматическая реконструкция получить
+воспроизводимый синтетический набор без экспертной разметки ответов. Второй,
+эмпирически отдельный вопрос — насколько такой набор различает модели по знанию
+и локальному применению норм. Техническая приёмка не отвечает на второй вопрос.
+
+Основной режим `closed` не предоставляет норму. Вопрос сообщает акт, статью,
+части/абзацы и дату среза; поэтому оценивается знание содержания уже указанной
+нормы, а не поиск применимого закона. `grounded` предоставляет ту же задачу
+вместе с архивным текстом статьи и необходимых зависимостей. Его результат
+публикуется отдельно как контроль чтения и применения. Разность режимов
+смешивает знание, длину контекста, извлечение релевантного текста и формат ответа;
+она не является чистой причинной оценкой запоминания закона.
+
+LegalBench описывает экспертное сотрудничество при создании задач
+([Guha et al.](https://arxiv.org/abs/2308.11462)). DeonticBench предоставляет
+исполняемые представления правил и трассы
+([Dou et al.](https://arxiv.org/abs/2604.04443)). OpenExempt строит задачи на
+экспертных символьных представлениях
+([Servantez et al.](https://arxiv.org/abs/2601.13183)). Наш набор использует
+намеренно ограниченные фрагменты российских норм и открытый журнал автоматических
+проверок; он не наследует экспертную гарантию перечисленных подходов.
+
+## Источники, дата и единица отбора
+
+Зафиксирован исторический срез **01.01.2025**. Дата предложена автору задачи,
+затем принята как явно объявленное рабочее допущение; будущая смена даты требует
+отдельного выпуска и перепроверки источников. Все вопросы задают именно редакцию
+выбранной нормы на эту дату. В корпусе Трудовой и Семейный кодексы, часть первая
+Гражданского кодекса и 59-ФЗ об обращениях граждан: четыре акта и четыре области.
+
+Первичный корпус получен с `pravo.gov.ru/proxy/ips/`. Архив содержит полные
+официальные документы, метаданные, списки редакций, сравнительные снимки и
+исходные поправки. Для ТК и ГК HTML-выдача `page=all` оказалась непригодной как
+полный документ: ГК обрывался внутри статьи 185.1. Приняты полные MIME-выгрузки
+через `savertf`, фактически содержащие HTML в quoted-printable, а не RTF.
+Извлечение реализовано стандартными библиотеками Python и воспроизводится из
+байтов; контролируются окончания актов, заголовки статей, точные фрагменты и хеши.
+
+Хеш означает идентичность проверяемого текста, а не верность толкования. `rdk`
+также не равен дате вступления всего текста в силу: акты могут включать отложенные
+поправки. Поэтому отдельно сопоставлялись выбранные статьи и зависимости между
+датированным и последующим снимками и читались поправки. Например, 547-ФЗ
+меняет электронную процедуру по 59-ФЗ с 30.03.2025, что явно установлено его
+статьёй 2. На дату среза используются прежние определения. Статьи со сроками
+письменных обращений в этих снимках одинаковы. В ТК 498-ФЗ разделяет даты
+01.01.2025 и 01.03.2025; выбранные статьи он не меняет.
+
+Заявляется проверка выбранных фрагментов в точке `as_of`, **не** восстановление
+максимального интервала действия каждой полной редакции всех актов. Это явное
+уточнение исходного предложения. Детали и предел датировочного аудита находятся
+в `edition_audit.json`; источник каждой цифры доступен в архиве. Экспертной
+источниковедческой или юридической проверки не было.
+
+До генерации зарегистрированы 29 кандидатных статей. Использован целевой,
+не случайный отбор: конечные сочетания условий, числовые пределы, прямо указанные
+исключения и возможность узкого следствия. 14 статей не включены: оценочные
+условия, региональная вариативность, внешние/временные зависимости, ограниченное
+разнообразие либо использование только как зависимости. Коды отказов не
+означают, что отвергнутую статью невозможно формализовать; они отражают границы
+данного пилота. Не было искусственной отбраковки правильных задач для улучшения
+качества показателя. Все 150 финальных кандидатов приняты после правок карточек
+и формулировок; обнаруженные проблемы зарегистрированы на уровне этих карточек.
+
+## Формализация и семантика неизвестного
+
+Для каждой статьи задана карточка: предмет вывода, область, предикаты и их домены,
+буквальные фрагменты источника, упорядоченные ветви, единица ответа, исключения,
+зависимости и ограничения. Исполняемый oracle — интерпретатор небольшого
+декларативного языка равенства, строгого сравнения, конъюнкции и дизъюнкции.
+Он не вызывает LLM. Юридически значимые квалификации задаются атомарно: например,
+требование нотариального удостоверения или противоречие интересам ребёнка уже
+установлено условием. Их выведение из житейского рассказа не оценивается.
+
+Пусть C — карточка, f — неполный вектор фактов, W(C,f) — множество допустимых
+полных векторов, совпадающих со всеми известными компонентами f и удовлетворяющих
+ограничениям совместимости C. Для каждого w из W выполняется первая подходящая
+ветвь oracle. Если W пусто, запись отвергается как несовместимая. Если множество
+выводов одноэлементно, его значение становится gold; иначе gold — «недостаточно
+данных». `null` означает отсутствие прямого сообщения, `false` — установленное
+отрицание. Отсутствие сообщения может восполняться логическим следствием других
+фактов, а не обязательно делает ответ неизвестным.
+
+В proof сохранены все допустимые завершения выбранной записи, сработавшие ветви
+и множество выводов. При неизвестном ответе в трассе обязательно имеются хотя
+бы два совместимых мира с разными выводами. В корпус включены также 17 случаев
+с неизвестными фактами и одинаковым ответом во всех завершениях, чтобы простое
+правило «есть неизвестный слот — ответ неизвестен» было неверным.
+
+Перебор исчерпывающий **для заявленных конечных доменов**, не для всего российского
+права. Числовые домены содержат заданные целые возраста/сроки и граничные классы,
+в том числе n−1, n, n+1 там, где граница входит в выбранную область. Не проверяются
+выходы за явно ограниченную область, например работа совершеннолетнего вместо
+подростка в ТК 94. Карточки и финальный языковой аудит перечисляют эти ограничения.
+Для неизвестных чисел используются представители классов с одинаковой ветвью:
+например, в СК 81 все количества от трёх дают одну базовую долю. Это утверждение
+проверяется по структуре источника; код не доказывает математическую абстракцию
+произвольного нового правила автоматически.
+
+## Две реконструкции и контрпримеры
+
+Первый проход построил карточки и oracle. Отдельный агент в изолированном контексте
+прочитал только четыре исходных текста и заданные узкие области, без первых
+карточек и кода. Он сохранил собственные домены, ветви, цитаты, зависимости и
+контрпримеры. Домены второй реконструкции шире первой; `compare.py` явно
+сопоставляет названия, возрастные классы и представления ответа. Таблица не
+экспортируется из первого oracle. После сопоставления проверены все 158 полных
+и 403 допустимых полных/частичных вектора первого представления. Внутренняя
+проверка второй реконструкции охватывает 1079 комбинаций её собственных доменов.
+
+Это два прохода одной модели, способные воспроизвести общую ошибку; их нельзя
+называть двумя экспертами. После сохранения независимой реконструкции тот же
+проверяющий агент получил доступ к первому проходу для отдельного adversarial и
+языкового аудита. Эта последующая стадия не считается изолированной.
+
+Для каждой карточки предложено дополнительное обстоятельство или правило,
+способное изменить широкий исход дела, и проверено, меняет ли оно именно узкий
+ответ. Прочитаны полные выбранные статьи, перечисленные зависимости и специальные
+условия. Среди примеров — продление срока обращения, изменение доли алиментов
+судом, прекращение доверенности по другим основаниям, условия предоставления
+учебного отпуска. Найденные проблемы приводили к уточнению области и вопроса,
+а не голосованию нескольких LLM. Журнал различает контрпример к широкому вопросу
+и опровержение узкого gold. Дополнительный веб-поиск использовался для поиска
+ведомственных разъяснений и судебных материалов; он не является исчерпывающим
+поиском внешних норм. Отсутствие найденного контрпримера не доказывает полноту
+охвата законодательства.
+
+## Генерация языка и структура корпуса
+
+Все вопросы построены детерминированным `render` из карточки и слотов. Свободной
+перефразировки или LLM-генерации gold в основной части нет. В вопрос не добавляются
+случайные имена, профессии, места и бытовые детали. Общая инструкция различает
+бинарное «нет», отсутствие числового следствия и недостаточность фактов. Проверены
+и сохранность шаблона байт в байт, и его смысл отдельным автоматическим аудитом.
+
+На статью приходится 9–11 записей; финальный состав — 150. Случаи отбирались из
+правил до модельного прогона. ID зависит от статьи и канонического вектора;
+seed 555 задаёт порядок записей. Для всех пар полностью известных векторов с
+ровно одним изменённым слотом и разными gold сохранён явный ID пары. Таких пар
+101; это перекрывающиеся связи между 150 вопросами, а не ещё 202 независимых
+наблюдения. Типы вопросов могут пересекаться: минимальная пара одновременно
+может проверять границу. В поле `question_type` один основной тип, а пары
+хранятся отдельно.
+
+Проверены уникальность вопросов и ID, частота векторов, квоты и граничные точки.
+Проведена ограниченная лексическая сверка с закреплёнными 846 вопросами
+LegalBench-RU: нормализация регистра/ё и сравнение словных 5-грамм. Это не
+доказательство отсутствия семантического пересечения по тем же нормам или
+контаминации обучения моделей; результаты и версия корпуса опубликованы.
+
+## Проверка проверяющей процедуры
+
+После фиксации версии валидатора созданы копии записей с девятью классами дефектов,
+по десять на класс: неверный gold, инверсия факта, удалённое отрицание, неверная
+часть статьи, дата, источник, пропущенное исключение, сдвиг границы, расширение
+области вывода до всего дела. Для исключения и границы повреждено само исполняемое
+правило, после чего заново построены согласованные gold и proof. Такие ошибки
+не обнаруживаются повторным render; их выявляет вторая реконструкция.
+
+Публикуются полная повреждённая запись, изменённая карточка при её наличии,
+применённая операция, хеш валидатора и реально сработавшие детекторы. Неизменённые
+150 записей служат контролем ложных срабатываний. Требуется обнаружение всех
+внесённых критических ошибок; в противном случае выпуск неполон. При повторении
+после исправления сохраняется прежний отчёт с пропусками. Этот эксперимент
+не оценивает частоту неизвестных юридических ошибок и не обосновывает «99% точности».
+
+Слепое сравнение прямой LLM-генерации задач с формальным конвейером не проведено:
+использованная процедура не обеспечивала скрытие происхождения черновиков и
+одинаковую независимую смысловую оценку. Поэтому сравнительные доли ошибок двух
+методов не заявляются; выполненный контроль ограничен открытыми повреждениями.
+Независимого человеческого аудита 30–50 примеров также не было.
+
+## Оценка и план проверки полезности
+
+Исходная оценка — генерация краткого открытого ответа с детерминированным scorer.
+Scorer выполняет normalized exact match по [явной грамматике](SCORING.md):
+категориальные значения, цифровые числа/дроби и совместимые единицы. Сравнение
+чисел точное, рациональное; п��едложений-алиасов и правил по статьям нет.
+Scorer не извлекает подходящее число из объяснения или противоречивого ответа.
+Словесные числительные и корректные свободные формулировки могут не распознаваться;
+это ограничение формата, а не доказательство юридической ошибки. Первичная метрика — среднее
+accuracy по статьям. Дополнительно публикуются micro accuracy, показатели по
+типам, precision/recall неизвестного ответа, точность при несущественном неизвестном
+факте, формат и доля минимальных пар с двумя верными ответами. Для неполного
+прогона явно показываются неполные пары и отсутствие полного покрытия.
+
+Для сравнения двух моделей используется парный bootstrap по **статьям**:
+разность accuracy каждой статьи, 10 000 выборок 15 статей с возвращением, seed
+555, процентильный 95% интервал. Он характеризует вариацию по выбранным кластерам,
+не случайную выборку всего права РФ. Модели сравниваются по одним и тем же ID;
+различные версии данных отвергаются. Gold-informed константные стратегии служат
+описательными ориентирами, не независимо обученными baseline-моделями.
+
+На кластере следует заранее выбрать несколько моделей разных размеров и семейств,
+заморозить версии и настройки, выполнить closed/grounded, проверить полное покрытие,
+показать интервалы разностей и стабильность результатов по статьям. Слабые
+различия, потолок, пол и выигрыш лишь за счёт формата являются отрицательными
+результатами для измерительной гипотезы. Не следует удалять вопросы по ошибкам
+сравниваемых моделей и затем оценивать их на том же откалиброванном тесте.
+
+## Дополнительная семантическая метрика
+
+По запросу после первичного пилота добавлена `llm_judge_accuracy`, отдельно от
+основной строгой оценки. Судья получает вопрос, фиксированный gold с единицей и
+ответ модели. Он не создаёт эталоны и не пересматривает закон. Задача судьи —
+эквивалентность ответа: принять падежи, перефразировки и объяснение, отклонить
+противоречия, неправильную единицу и несовместимые альтернативы. Неопределённость
+и неприменимость числового следствия различаются. Входные поля считаются данными;
+инструкции внутри проверяемого ответа должны игнорироваться.
+
+Результат — строго проверяемый JSON с булевой оценкой и краткой причиной.
+Невалидный ответ судьи, ошибка API или нарушение порядка записей останавливают
+метрику, а не превращаются в ошибку оцениваемой модели. Решения и исходные ответы
+сохраняются по ID. Усреднение снова выполняется по статьям; дополнительно
+публикуются расхождения со строгим scorer и оба верных ответа минимальной пары.
+Основной leaderboard остаётся строгим, метрики не усредняются между собой.
+
+До оценки ответов выполнена публичная калибровка: для каждой из 15 статей выбраны
+один полный случай и один с gold «недостаточно данных». Для каждого построены
+пять ответов: канонический, эквивалентный, неверное следствие, противоречие и
+попытка изменить критерий оценки. Всего 150 контролей с аналитически заданной
+меткой. Это проверка базового поведения, не слепая экспертная выборка и не
+доказательство безошибочности judge. Замена judge/промпта требует новой калибровки.
+
+Контрольный judge — `deepseek/deepseek-v4.1-flash` через OpenRouter, temperature=0,
+max_tokens=256, `reasoning.enabled=false`; режим ответов на задачи имеет лимит 96.
+Сохраняются запросы без заголовков авторизации, ответы, provider, usage и стоимость.
+Серверный alias не фиксирует веса модели; это ограничивает точное воспроизведение.
+Судья той же модели, что и оцениваемый DeepSeek, может иметь общие ошибки и
+предпочтение собственным формулировкам. Поэтому отдельно сохранён строгий результат,
+все расхождения просмотрены, и судейство не используется для изменения gold.
+
+## Дополняющая MMLU-подобная версия
+
+MCQ — детерминированная проекция тех же 150 случаев, не ещё 150 независимых
+наблюдений. Сохранены исходные ID, факты, ссылки на норму и gold; запись MCQ
+содержит хеш родителя. Вопрос сохраняет квалификации и условия неизвестности,
+но инструкция открытого ответа заменена выбором буквы. Closed и grounded
+используют один набор вариантов; grounded добавляет те же фрагменты норм.
+
+Для 70 бинарных случаев используются три взаимоисключающих варианта: да, нет,
+недостаточно данных. Для остальных 80 — четыре. Это MMLU-подобный формат, не
+строго четырёхвариантный MMLU: четвёртый бинарный вариант был бы дубликатом или
+искусственным отвлекающим ответом. Числовые и специальные варианты получаются
+из канонических следствий правил. Для большинства отвлекающих вариантов
+указан другой случай-свидетель. Единственный дополнительный тип — 60 дней в
+59-ФЗ 12: смешение исходных 30 дней с продлением из части 2, явно исключённым
+условием задачи. Он обозначен в метаданных и не является альтернативным gold.
+
+Варианты уникальны, один точно равен родительскому gold. UNKNOWN/OUTSIDE включаются
+единообразно для соответствующей статьи, а не только когда это правильный ответ.
+Выбор и перестановка детерминированы seed555, без ответов моделей. Позиции gold
+сбалансированы внутри групп: для четырёх вариантов по 20 A/B/C/D, для трёх 24/23/23.
+Проверяется побайтовое соответствие повторной сборке и неизменность родителя.
+
+Оценка — `calculate_tokens_proba` по показанным буквам, assistant-prefill «Ответ:»
+без завершающего пробела. Обработка пробельных вариантов токена остаётся в общем
+continuation-механизме LLMTF. Выбирается максимальная вероятность; равенство
+разрешается первой буквой и отдельно учитывается. Неверные/пустые вероятности
+дают ошибку выполнения. Затем выбранное каноническое значение оценивается по
+исходному gold; LLM-судья не нужен. Метрика — macro accuracy по статьям; шанс
+равномерного случайного выбора —28,89%, а не 25%. Zero-shot сохраняется.
+
+Foundational legal YAML использует `mcq_closed`, Instruct — исходный открытый
+`closed`; все четыре задачи доступны явно. Эти форматы меняют условия измерения:
+MCQ даёт подсказку набором вариантов и может измерять узнавание. Нельзя смешивать
+open/MCQ в одном ранжировании, считать их независимыми тестами или приписывать
+весь выигрыш юридическим знаниям. Устойчивость к новым перестановкам вариантов и
+перефразировкам остаётся отдельным исследованием.
+
+## Граница надёжности
+
+Проверяемая цепочка: официальный снимок → выбранный фрагмент и зависимости →
+две реконструкции → конечные миры → gold/proof → контролируемый русский вопрос →
+аудит → отрицательные контрольные примеры → зафиксированный scorer. Каждый
+переход оставляет открытый артефакт. Самые слабые переходы — полнота правовой
+области и перенос естественного текста в предикаты — поддержаны повторными
+автоматическими проходами и источниками, но не формально доказаны относительно
+всего права и не проверены экспертами. Именно это ограничение должно сопровождать
+любую публикацию результатов.

PILOT_RESULTS.md

@@ -0,0 +1,54 @@
+# Qwen3.5: сравнение размеров на RuLaw-ProofBench
+
+По 150 вопросов без нормы и с нормой. Zero-shot, temperature=0, reasoning выключен.
+Метрика — accuracy с равным весом каждой из 15 статей. Судья во всех случаях — DeepSeek V4.1 Flash.
+
+| Модель | Запуск | Без нормы: scorer | Без нормы: judge | С нормой: scorer | С нормой: judge |
+|---|---|---:|---:|---:|---:|
+| Qwen3.5-2B | local vLLM | 33.94% | 35.94% | 37.60% | 40.93% |
+| Qwen3.5-9B | OpenRouter | 35.64% | 36.31% | 60.81% | 70.14% |
+| Qwen3.5-27B | OpenRouter | 47.46% | 48.13% | 82.05% | 87.38% |
+
+## Разности и неопределённость
+
+Парный bootstrap по статьям: 10 000 повторов, seed=555. Интервал относится к выбранным 15 статьям, а не ко всему праву РФ.
+
+| Сравнение | Режим | Метрика | Разность, п.п. | 95% интервал, п.п. |
+|---|---|---|---:|---|
+| 9B_minus_2B | closed | scorer | 1.70 | [-11.63; 15.11] |
+| 9B_minus_2B | closed | judge | 0.37 | [-13.33; 14.07] |
+| 9B_minus_2B | grounded | scorer | 23.21 | [12.55; 36.00] |
+| 9B_minus_2B | grounded | judge | 29.21 | [17.88; 41.88] |
+| 27B_minus_9B | closed | scorer | 11.82 | [1.33; 23.33] |
+| 27B_minus_9B | closed | judge | 11.82 | [1.33; 23.33] |
+| 27B_minus_9B | grounded | scorer | 21.24 | [11.91; 31.33] |
+| 27B_minus_9B | grounded | judge | 17.24 | [8.30; 27.00] |
+| 27B_minus_2B | closed | scorer | 13.52 | [4.48; 23.11] |
+| 27B_minus_2B | closed | judge | 12.19 | [2.19; 22.49] |
+| 27B_minus_2B | grounded | scorer | 44.45 | [32.30; 56.61] |
+| 27B_minus_2B | grounded | judge | 46.45 | [35.33; 57.72] |
+
+## Условия и ограничения
+
+- 2B — ранее выполненный локальный vLLM-прогон; новых локальных запусков нет. 9B и 27B — новые вызовы OpenRouter. Сравнения с 2B включают различия backend, шаблона и возможной точности весов.
+- 2B и 4B отсутствуют в сохранённом каталоге OpenRouter. 4B в таблицу не включена.
+- Scorer один: [normalized exact match](SCORING.md). Его грамматика не менялась по результатам 9B/27B. Judge сравнивает с фиксированным gold; решения всех моделей проверяются одним промптом.
+- Правильная свободная формулировка может не распознаться scorer. Список расхождений по ID, точность по статьям, неизвестным фактам и формату —в `summary.json`; ответы и объяснения judge —в JSONL/JSON рядом.
+- Проверены полные уникальные ID, исходные вопросы/gold/правила, соответствие судейских решений ответам и нулевые reported reasoning tokens у принятых API-ответов.
+- API alias не закрепляет веса или квантование. Фактические провайдеры, токены, finish_reason и стоимость сохранены в запросах. Это не независимая экспертная валидация gold и не сравнение нескольких модельных семейств.
+
+## Вывод по этому эксперименту
+
+27B превосходит 9B при одном способе запуска через OpenRouter: без нормы разность обеих метрик 11,82 п.п. с интервалом [1,33;23,33], с нормой — 21,24 п.п. по scorer и 17,24 п.п. по judge; интервалы также выше нуля. Это положительное свидетельство различающей способности на выбранных статьях.
+Между 2B и 9B без нормы устойчивого различия не видно: интервалы обеих разностей включают ноль. С нормой различие значительно больше. Набор различает применение предоставленного правила убедительнее, чем соседние уровни закрытого знания в этой паре. Смешение локального/API исполнения у 2B дополнительно ограничивает вывод.
+
+При просмотре всех 24 расхождений новых API-прогонов найдена ошибка judge: ответ 9B без нормы на `gk_186-62c320fe2a4f` «...на срок до одного года» зачтён как эталонный фиксированный срок «1 год». В��рхняя граница здесь не равна точному сроку; это противоречит уже заданному критерию judge. В таблице сохранён исходный вердикт, без ручной поправки. Остальные 23 расхождения —однозначные формулировки ничтожности/срока и верхних пределов, не входящие в грамматику scorer. Калибровка 150/150 не гарантирует отсутствие ошибок судьи на новых ответах.
+
+Новые API-затраты, включая judge: $0.109252; HTTP completions: 931. Старый локальный 2B и его ранее выполненный judge сюда не входят.
+
+```bash
+python -m dev.tools.rulaw_openrouter report --output dev/rulaw_proofbench_diagnostics/qwen35_openrouter
+python -m dev.rulaw_proofbench_diagnostics.replay
+```
+
+Обе команды используют сохранённые ответы и не требуют ключа или новых API-вызовов.

README.md

@@ -0,0 +1,107 @@
+---
+language:
+- ru
+task_categories:
+- question-answering
+- text-classification
+tags:
+- legal
+- russian-law
+- synthetic
+pretty_name: RuLaw-ProofBench
+size_categories:
+- n<1K
+configs:
+- config_name: open
+  default: true
+  data_files:
+  - split: test
+    path: data/open/test.parquet
+- config_name: mcq
+  data_files:
+  - split: test
+    path: data/mcq/test.parquet
+---
+
+# RuLaw-ProofBench
+
+Синтетический русскоязычный набор для оценки знания и локального применения
+норм российского права на **01.01.2025**. Текущий выпуск: **150 тестовых
+примеров по 15 статьям четырёх актов**. Это узкий формальный benchmark,
+а не оценка способности разрешать произвольные юридические дела.
+
+## Загрузка
+
+```python
+from datasets import load_dataset
+
+open_test = load_dataset("RefalMachine/RuLaw-ProofBench", "open", split="test")
+mcq_test = load_dataset("RefalMachine/RuLaw-ProofBench", "mcq", split="test")
+```
+
+Для воспроизводимого сравнения указывайте `revision` — полный hash Hub-коммита.
+LLMTF загружает Parquet из этого репозитория по закреплённой revision и проверяет
+SHA-256 файла. Локальные примеры не подменяют опубликованные данные.
+
+## Два представления одного теста
+
+- `open`: короткий открытый ответ; `answer` содержит эталон.
+- `mcq`: те же ID и факты, варианты в `choices`, правильная буква в `answer_label`.
+  У бинарных случаев три варианта, у остальных четыре. Случайный выбор —28,89%.
+
+Это не независимые выборки. `context` содержит норму и необходимые зависимости:
+в closed-режиме он **не передаётся модели**, в grounded-режиме добавляется перед
+вопросом. `record_json` хранит исходные типизированные факты, proof и связи
+минимальных пар без потери структуры. `mcq_json` сохраняет канонические варианты
+и привязку к исходному вопросу. Эти поля служат проверке данных, не входу модели.
+
+В этом пилоте нет обучающего split или демонстраций. Все150 вопросов относятся
+к test; примеры из test нельзя использовать как few-shot для той же оценки.
+
+## Построение и обоснование надёжности
+
+Официальные снимки норм → явно ограниченные правила → две автоматические
+реконструкции → перебор совместимых фактов → эталон и proof → контролируемая
+русская формулировка → проверка источников, исключений и границ → фиксация хешей.
+403 полных/частичных вектора согласованы между реконструкциями;90 контрольных
+повреждений обнаружены. Юристов и независимой человеческой экспертизы не было.
+Эти проверки обосновывают воспроизводимость конструкции, а не юридическую
+безошибочность или полноту охвата права РФ.
+
+Полная [методика](METHODS.md), [грамматика scorer](SCORING.md),
+[пилотное сравнение Qwen3.5](PILOT_RESULTS.md).
+
+## Метрики
+
+Основная детерминированная метрика — normalized exact match с усреднением
+accuracy по статьям. Она использует общую грамматику коротких ответов, без
+модельных фраз-алиасов. Дополнительная метрика — LLM-судья эквивалентности
+фиксированному gold. Судья не создаёт и не исправляет юридические эталоны.
+Для MCQ выбирается вариант с максимальной вероятностью буквы и проверяется
+его точное совпадение с эталоном; судья не нужен.
+
+Нераспознанный scorer ответ может быть семантически верным. Судья тоже может
+ошибаться; в пилоте сохранены его исходные решения и отмечена найденная ошибка.
+Открытые и MCQ-результаты нельзя смешивать в один рейтинг.
+
+## Материалы проверки
+
+- `manifest.json`: состав публикации и SHA-256 файлов.
+- `audit/construction.tar.gz`: первичные источники, формальные правила, проверки,
+  реконструкции, proof, контролируемые повреждения и код сборки.
+- `audit/pilot_results.tar.gz`: сохранённые модельные ответы, API-запросы без
+  авторизационных заголовков, судейские решения и код воспроизведения таблиц.
+
+Архивы содержат пути от корня LLMTF-проекта. Извлекать их следует в отдельный
+рабочий каталог. Текущие метрики воспроизводятся из ответов; поля старого
+логгера в сырых журналах не являются самостоятельной метрикой.
+
+## Ограничения
+
+Открытый синтетический набор узок и может попасть в обучение будущих моделей.
+Правовые квалификации в условиях заданы заранее. Unknown-случаи проверяют также
+следование формальным условиям, не только память о норме. Минимальные пары и
+случаи одной статьи зависимы; статистические сравнения выполняются по статьям.
+Методика развивалась после пилота и не является слепой предварительной регистрацией.
+Пилотные результаты нельзя переносить на будущие расширенные выпуски без нового
+прогона. Отдельная лицензия на производный набор пока не объявлена.

SCORING.md

@@ -0,0 +1,80 @@
+# Детерминированная оценка RuLaw-ProofBench
+
+Метрика: **normalized exact match**. Реализация:
+[`scoring.py`](code/scoring.py).
+
+Это **точное совпадение после ограниченной нормализации**, а не оценка смыслового
+сходства. За вопрос начисляется 1 либо 0; итог — среднее accuracy по статьям.
+`format_valid` отдельно показывает, распознался ли ответ. Нераспознанный ответ
+получает 0 этой метрики, что само по себе не доказывает смысловую ошибку.
+
+## Полный контракт
+
+1. Unicode NFKC, нижний регистр, `ё → е`, свёртка пробелов, удаление внешних кавычек
+   и точек. Внутренняя пунктуация, отрицания и слова не удаляются.
+2. Категории: `да`, `нет`, `ничтожна`, `до отмены`; специальные ответы:
+   `недостаточно данных`, `не следует из указанной нормы`. Требуется вся строка,
+   а не вхождение правильного фрагмента. Для годичного срока принимаются `1 год`
+   и `год`, включая математически равную цифровую запись числа перед `год`.
+3. Количества записываются цифрами. Допустимы целое, десятичное число с точкой или
+   запятой и обыкновенная дробь. Единицу можно опустить или указать в принятой
+   форме: день/дня/дней; для календарных дней также соответствующая форма с
+   «календарный»; час/часа/часов; для часов в неделю также «в неделю».
+   Явно неверная единица не отбрасывается и делает ответ нераспознанным.
+4. Для доли дополнительно разрешены проценты и отдельный Unicode-символ дроби.
+   Числа сравниваются как точные рациональные значения: `1/4`, `2/8`, `0,25`,
+   `25%`, `¼` равны. `0,333` не равно `1/3`; округления и допуска нет.
+   Слитные смешанные Unicode-дроби вроде `17½` отклоняются, чтобы нормализация
+   не превратила их ошибочно в `171/2`.
+5. Других правил нет. Словесные числительные, синонимы категорий, «до N»,
+   «не более N», вводные слова, префикс «Ответ:» и полные предложения не
+   распознаются. Нельзя извлечь подходящее число из объяснения или выбрать
+   правильную часть противоречивого ответа.
+
+| Вход | Тип | Результат |
+|---|---|---|
+| `«ДА».` | категория | `да` |
+| `17,50 часов в неделю` | часы в неделю | `17.5` |
+| `35/2 часа в неделю` | часы в неделю | `17.5` |
+| `2/8`, `25%` | доля | `1/4` |
+| `5 часов` | дни | не распознан |
+| `не да`, `да, но нет` | категория | не распознан |
+| `Год со дня совершения` | срок | не распознан |
+| `Доверенность сохраняет силу в течение года со дня ее совершения` | срок | не распознан |
+
+Эта грамматика намеренно не является полным пониманием русского языка. В частности,
+«пять дней» может быть семантически верным, но не входит в цифровой формат.
+Такое ограничение одинаково для любого числа, статьи и модели. Оно должно
+раскрываться вместе с результатом, а не маскироваться под юридическую ошибку.
+
+Для сохранения сопоставимости прежних запусков вопросы не менялись: они требуют
+короткий ответ, но не во всех случаях явно запрещают словесную запись числа.
+Поэтому пересчёт сохранённых ответов — анализ чувствительности к протоколу оценки,
+а не новый слепой модельный эксперимент. Перед б��дущим выпуском можно явно
+включить грамматику в общую инструкцию; это потребует версии промпта и нового
+запуска всех сравниваемых моделей. В текущем выпуске инструкция не переписывалась.
+
+## Почему без мягкого пословного сходства
+
+Числовая ошибка, неверная единица или отрицание могут менять юридический вывод
+при почти одинаковом тексте. Пословный F1 или edit distance дали бы таким ответам
+высокий балл, не имеющий ясного юридического смысла. Частичные баллы не используются.
+Для содержательно эквивалентных свободных формулировок существует отдельная
+`llm_judge_accuracy`; для MCQ — точное совпадение выбранного варианта.
+
+## Проверки и фиксация
+
+Parser получает только текст и тип единицы. Он не получает имя модели, номер
+статьи или правильное значение; сравнение с gold выполняется после разбора.
+Числовые правила проверяются на диапазоне 0–99 и дробях, включая значения,
+которых нет в корпусе. Все канонические эталоны и MCQ-значения распознаются.
+
+В проекте используется один scorer. Его hash входит в provenance задачи,
+поэтому кэш с другой реализацией не считается результатом текущего расчёта.
+Все публикуемые таблицы пересчитываются одним текущим кодом из сохранённых ответов.
+
+Грамматика сформулирована после знакомства с пилотными результатами; это не
+независимая предварительная регистрация. Перед новой сравнительной серией
+её следует зафиксировать. Расширения требуют обоснования общим правилом,
+тестов на значения вне корпуса и пересчёта всех моделей, а не добавления
+одной фразы отдельной модели в алиасы.

audit/construction.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:25bc6a347a0fb2c88e1806f86f9f6370f332cee8989b0c57e2e2ec7d60a4b7ad
+size 2617362

audit/pilot_results.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b3a511841805878b7a2b4cebd91611b1aa50ebc1d91309105a3126ff289e1ced
+size 6388558

code/scoring.py

@@ -0,0 +1,124 @@
+"""Normalized exact match under a small, model-independent answer grammar.
+
+No sentence aliases, answer extraction, article-specific rules or fuzzy matching.
+See dev/rulaw_proofbench/SCORING.md for the complete accepted grammar.
+"""
+from collections import defaultdict
+from fractions import Fraction
+import re
+import unicodedata
+
+UNKNOWN = 'недостаточно данных'
+SCORER_NAME = 'normalized_exact_match'
+CATEGORIES = frozenset({'да', 'нет', 'ничтожна', 'до отмены'})
+SPECIAL = frozenset({UNKNOWN, 'не следует из указанной нормы'})
+UNITS = {
+    'days': r'(?:день|дня|дней)',
+    'calendar_days': r'(?:календарный день|календарных дня|календарных дней|день|дня|дней)',
+    'hours': r'(?:час|часа|часов)',
+    'hours_per_week': r'(?:час|часа|часов)(?: в неделю)?',
+}
+NUMBER = r'(?:[0-9]+(?:\.[0-9]+)?|[0-9]+\s*/\s*[0-9]+)'
+
+
+def normalize_text(text):
+    if not isinstance(text, str):
+        return None
+    # Reject adjoining mixed vulgar fractions: Unicode normalization would turn
+    # e.g. a whole number immediately followed by ½ into a different fraction.
+    if re.search(r'[0-9][¼½¾⅐⅑⅒⅓⅔⅕⅖⅗⅘⅙⅚⅛⅜⅝⅞]', text):
+        return None
+    value = unicodedata.normalize('NFKC', text).casefold().replace('ё', 'е').replace('⁄', '/')
+    value = ' '.join(value.split()).strip(' «»"\'.')
+    return value
+
+
+def _number(value):
+    if re.fullmatch(NUMBER, value) is None:
+        return None
+    try:
+        return Fraction(value.replace(' ', ''))
+    except (ValueError, ZeroDivisionError):
+        return None
+
+
+def _decimal(value):
+    # Exact finite decimal, without floating-point tolerance or rounding.
+    denominator = value.denominator
+    twos = fives = 0
+    while denominator % 2 == 0:
+        denominator //= 2
+        twos += 1
+    while denominator % 5 == 0:
+        denominator //= 5
+        fives += 1
+    if denominator != 1:
+        return str(value)
+    places = max(twos, fives)
+    scaled = value.numerator * 2 ** (places - twos) * 5 ** (places - fives)
+    if not places:
+        return str(scaled)
+    digits = str(scaled).zfill(places + 1)
+    return (digits[:-places] + '.' + digits[-places:]).rstrip('0').rstrip('.')
+
+
+def parse_answer(text, unit):
+    value = normalize_text(text)
+    if not value:
+        return None
+    if value in SPECIAL:
+        return value
+    if unit == 'none':
+        if value in CATEGORIES:
+            return value
+        # A singular unqualified unit denotes one unit; no prose is extracted.
+        if value == 'год':
+            return '1 год'
+        match = re.fullmatch(r'(.+?)\s*год', value)
+        if match and _number(match[1].replace(',', '.')) == 1:
+            return '1 год'
+        return None
+    if unit == 'fraction':
+        percent = value.endswith('%')
+        number = _number((value[:-1].strip() if percent else value).replace(',', '.'))
+        return str(number / 100 if percent else number) if number is not None else None
+    if unit in UNITS:
+        value = re.sub(r'\s*' + UNITS[unit] + r'$', '', value).replace(',', '.')
+        number = _number(value)
+        return _decimal(number) if number is not None else None
+    return None
+
+
+def score(sample,prediction):
+    parsed=parse_answer(prediction,sample['gold']['unit'])
+    return dict(id=sample['id'],article_key=sample['article_key'],question_type=sample['question_type'],
+                gold=sample['gold']['value'],prediction=parsed,correct=parsed==sample['gold']['value'],
+                format_valid=parsed is not None,pair_ids=sample['pair_ids'],
+                unknown_but_determinate=sample['unknown_but_determinate'])
+
+
+def aggregate(records):
+    if not records:raise ValueError('Empty RuLaw-ProofBench evaluation')
+    if len({r['id'] for r in records})!=len(records):raise ValueError('Duplicate RuLaw-ProofBench result IDs')
+    groups=defaultdict(list); types=defaultdict(list); pairs=defaultdict(list)
+    for r in records:
+        groups[r['article_key']].append(r);types[r['question_type']].append(r)
+        for pid in r['pair_ids']:pairs[pid].append(r)
+    acc=lambda rs:sum(r['correct'] for r in rs)/len(rs)
+    by_article={a:dict(count=len(rs),accuracy=acc(rs)) for a,rs in sorted(groups.items())}
+    macro=sum(x['accuracy'] for x in by_article.values())/len(by_article)
+    true_unknown=sum(r['gold']==UNKNOWN for r in records)
+    predicted_unknown=sum(r['prediction']==UNKNOWN for r in records)
+    correct_unknown=sum(r['gold']==UNKNOWN and r['prediction']==UNKNOWN for r in records)
+    complete=[rs for rs in pairs.values() if len(rs)==2]
+    invariant=[r for r in records if r['unknown_but_determinate']]
+    return macro,dict(primary='article_macro_accuracy',articles=by_article,micro_accuracy=acc(records),
+        by_type={t:dict(count=len(rs),accuracy=acc(rs)) for t,rs in types.items()},
+        format_valid_rate=sum(r['format_valid'] for r in records)/len(records),
+        insufficient=dict(gold_count=true_unknown,predicted_count=predicted_unknown,correct=correct_unknown,
+                          precision=correct_unknown/predicted_unknown if predicted_unknown else None,
+                          recall=correct_unknown/true_unknown if true_unknown else None),
+        unknown_but_determinate=dict(count=len(invariant),accuracy=acc(invariant) if invariant else None),
+        minimal_pairs=dict(complete=len(complete),partial=sum(len(rs)==1 for rs in pairs.values()),
+                           both_correct=sum(all(r['correct'] for r in rs) for rs in complete)/len(complete) if complete else None),
+        evaluated_count=len(records))

data/mcq/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:952735750c9be9016678c6eb629824918ebe405c81dc71a4348b5c220f36b518
+size 117334

data/open/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:94c36a9e86b1913d9438a1be3ba6d18ecc6c35dc70f8d1a2bcb96c656b8b7f21
+size 75812

manifest.json

@@ -0,0 +1,29 @@
+{
+  "dataset_name": "RuLaw-ProofBench",
+  "repository": "RefalMachine/RuLaw-ProofBench",
+  "as_of": "2025-01-01",
+  "test_count": 150,
+  "demonstration_count": 0,
+  "article_count": 15,
+  "files": {
+    "data/open/test.parquet": {
+      "sha256": "94c36a9e86b1913d9438a1be3ba6d18ecc6c35dc70f8d1a2bcb96c656b8b7f21",
+      "rows": 150
+    },
+    "data/mcq/test.parquet": {
+      "sha256": "952735750c9be9016678c6eb629824918ebe405c81dc71a4348b5c220f36b518",
+      "rows": 150
+    },
+    "audit/construction.tar.gz": {
+      "sha256": "25bc6a347a0fb2c88e1806f86f9f6370f332cee8989b0c57e2e2ec7d60a4b7ad"
+    },
+    "audit/pilot_results.tar.gz": {
+      "sha256": "b3a511841805878b7a2b4cebd91611b1aa50ebc1d91309105a3126ff289e1ced"
+    },
+    "code/scoring.py": {
+      "sha256": "5598e97a0c661fe567d70ea5557ec63f40b3adbda0253368a028cc8453dc8852"
+    }
+  },
+  "expert_review": false,
+  "construction_validation": "construction_validated"
+}