Publish 300 verified RuLaw-ProofBench cases

METHODS.md

@@ -1,284 +1,178 @@
-# Метод построения RuLaw-ProofBench v1
-
-## Исследовательский вопрос и измеряемая величина
-
-Мы исследуем, позволяет ли ограничение задачи до следствия названного фрагмента
-закона, его формализация и независимая автоматическая реконструкция получить
-воспроизводимый синтетический набор без экспертной разметки ответов. Второй,
-эмпирически отдельный вопрос — насколько такой набор различает модели по знанию
-и локальному применению норм. Техническая приёмка не отвечает на второй вопрос.
-
-Основной режим `closed` не предоставляет норму. Вопрос сообщает акт, статью,
-части/абзацы и дату среза; поэтому оценивается знание содержания уже указанной
-нормы, а не поиск применимого закона. `grounded` предоставляет ту же задачу
-вместе с архивным текстом статьи и необходимых зависимостей. Его результат
-публикуется отдельно как контроль чтения и применения. Разность режимов
-смешивает знание, длину контекста, извлечение релевантного текста и формат ответа;
-она не является чистой причинной оценкой запоминания закона.
-
-LegalBench описывает экспертное сотрудничество при создании задач
-([Guha et al.](https://arxiv.org/abs/2308.11462)). DeonticBench предоставляет
-исполняемые представления правил и трассы
-([Dou et al.](https://arxiv.org/abs/2604.04443)). OpenExempt строит задачи на
-экспертных символьных представлениях
-([Servantez et al.](https://arxiv.org/abs/2601.13183)). Наш набор использует
-намеренно ограниченные фрагменты российских норм и открытый журнал автоматических
-проверок; он не наследует экспертную гарантию перечисленных подходов.
-
-## Источники, дата и единица отбора
-
-Зафиксирован исторический срез **01.01.2025**. Дата предложена автору задачи,
-затем принята как явно объявленное рабочее допущение; будущая смена даты требует
-отдельного выпуска и перепроверки источников. Все вопросы задают именно редакцию
-выбранной нормы на эту дату. В корпусе Трудовой и Семейный кодексы, часть первая
-Гражданского кодекса и 59-ФЗ об обращениях граждан: четыре акта и четыре области.
-
-Первичный корпус получен с `pravo.gov.ru/proxy/ips/`. Архив содержит полные
-официальные документы, метаданные, списки редакций, сравнительные снимки и
-исходные поправки. Для ТК и ГК HTML-выдача `page=all` оказалась непригодной как
-полный документ: ГК обрывался внутри статьи 185.1. Приняты полные MIME-выгрузки
-через `savertf`, фактически содержащие HTML в quoted-printable, а не RTF.
-Извлечение реализовано стандартными библиотеками Python и воспроизводится из
-байтов; контролируются окончания актов, заголовки статей, точные фрагменты и хеши.
-
-Хеш означает идентичность проверяемого текста, а не верность толкования. `rdk`
-также не равен дате вступления всего текста в силу: акты могут включать отложенные
-поправки. Поэтому отдельно сопоставлялись выбранные статьи и зависимости между
-датированным и последующим снимками и читались поправки. Например, 547-ФЗ
-меняет электронную процедуру по 59-ФЗ с 30.03.2025, что явно установлено его
-статьёй 2. На дату среза используются прежние определения. Статьи со сроками
-письменных обращений в этих снимках одинаковы. В ТК 498-ФЗ разделяет даты
-01.01.2025 и 01.03.2025; выбранные статьи он не меняет.
-
-Заявляется проверка выбранных фрагментов в точке `as_of`, **не** восстановление
-максимального интервала действия каждой полной редакции всех актов. Это явное
-уточнение исходного предложения. Детали и предел датировочного аудита находятся
-в `edition_audit.json`; источник каждой цифры доступен в архиве. Экспертной
-источниковедческой или юридической проверки не было.
-
-До генерации зарегистрированы 29 кандидатных статей. Использован целевой,
-не случайный отбор: конечные сочетания условий, числовые пределы, прямо указанные
-исключения и возможность узкого следствия. 14 статей не включены: оценочные
-условия, региональная вариативность, внешние/временные зависимости, ограниченное
-разнообразие либо использование только как зависимости. Коды отказов не
-означают, что отвергнутую статью невозможно формализовать; они отражают границы
-данного пилота. Не было искусственной отбраковки правильных задач для улучшения
-качества показателя. Все 150 финальных кандидатов приняты после правок карточек
-и формулировок; обнаруженные проблемы зарегистрированы на уровне этих карточек.
-
-## Формализация и семантика неизвестного
-
-Для каждой статьи задана карточка: предмет вывода, область, предикаты и их домены,
-буквальные фрагменты источника, упорядоченные ветви, единица ответа, исключения,
-зависимости и ограничения. Исполняемый oracle — интерпретатор небольшого
-декларативного языка равенства, строгого сравнения, конъюнкции и дизъюнкции.
-Он не вызывает LLM. Юридически значимые квалификации задаются атомарно: например,
-требование нотариального удостоверения или противоречие интересам ребёнка уже
-установлено условием. Их выведение из житейского рассказа не оценивается.
-
-Пусть C — карточка, f — неполный вектор фактов, W(C,f) — множество допустимых
-полных векторов, совпадающих со всеми известными компонентами f и удовлетворяющих
-ограничениям совместимости C. Для каждого w из W выполняется первая подходящая
-ветвь oracle. Если W пусто, запись отвергается как несовместимая. Если множество
-выводов одноэлементно, его значение становится gold; иначе gold — «недостаточно
-данных». `null` означает отсутствие прямого сообщения, `false` — установленное
-отрицание. Отсутствие сообщения может восполняться логическим следствием других
-фактов, а не обязательно делает ответ неизвестным.
-
-В proof сохранены все допустимые завершения выбранной записи, сработавшие ветви
-и множество выводов. При неизвестном ответе в трассе обязательно имеются хотя
-бы два совместимых мира с разными выводами. В корпус включены также 17 случаев
-с неизвестными фактами и одинаковым ответом во всех завершениях, чтобы простое
-правило «есть неизвестный слот — ответ неизвестен» было неверным.
-
-Перебор исчерпывающий **для заявленных конечных доменов**, не для всего российского
-права. Числовые домены содержат заданные целые возраста/сроки и граничные классы,
-в том числе n−1, n, n+1 там, где граница входит в выбранную область. Не проверяются
-выходы за явно ограниченную область, например работа совершеннолетнего вместо
-подростка в ТК 94. Карточки и финальный языковой аудит перечисляют эти ограничения.
-Для неизвестных чисел используются представители классов с одинаковой ветвью:
-например, в СК 81 все количества от трёх дают одну базовую долю. Это утверждение
-проверяется по структуре источника; код не доказывает математическую абстракцию
-произвольного нового правила автоматически.
-
-## Две реконструкции и контрпримеры
-
-Первый проход построил карточки и oracle. Отдельный агент в изолированном контексте
-прочитал только четыре исходных текста и заданные узкие области, без первых
-карточек и кода. Он сохранил собственные домены, ветви, цитаты, зависимости и
-контрпримеры. Домены второй реконструкции шире первой; `compare.py` явно
-сопоставляет названия, возрастные классы и представления ответа. Таблица не
-экспортируется из первого oracle. После сопоставления проверены все 158 полных
-и 403 допустимых полных/частичных вектора первого представления. Внутренняя
-проверка второй реконструкции охватывает 1079 комбинаций её собственных доменов.
-
-Это два прохода одной модели, способные воспроизвести общую ошибку; их нельзя
-называть двумя экспертами. После сохранения независимой реконструкции тот же
-проверяющий агент получил доступ к первому проходу для отдельного adversarial и
-языкового аудита. Эта последующая стадия не считается изолированной.
-
-Для каждой карточки предложено дополнительное обстоятельство или правило,
-способное изменить широкий исход дела, и проверено, меняет ли оно именно узкий
-ответ. Прочитаны полные выбранные статьи, перечисленные зависимости и специальные
-условия. Среди примеров — продление срока обращения, изменение доли алиментов
-судом, прекращение доверенности по другим основаниям, условия предоставления
-учебного отпуска. Найденные проблемы приводили к уточнению области и вопроса,
-а не голосованию нескольких LLM. Журнал различает контрпример к широкому вопросу
-и опровержение узкого gold. Дополнительный веб-поиск использовался для поиска
-ведомственных разъяснений и судебных материалов; он не является исчерпывающим
-поиском внешних норм. Отсутствие найденного контрпримера не доказывает полноту
-охвата законодательства.
-
-## Генерация языка и структура корпуса
-
-Все вопросы построены детерминированным `render` из карточки и слотов. Свободной
-перефразировки или LLM-генерации gold в основной части нет. В вопрос не добавляются
-случайные имена, профессии, места и бытовые детали. Общая инструкция различает
-бинарное «нет», отсутствие числового следствия и недостаточность фактов. Проверены
-и сохранность шаблона байт в байт, и его смысл отдельным автоматическим аудитом.
-
-На статью приходится 9–11 записей; финальный состав — 150. Случаи отбирались из
-правил до модельного прогона. ID зависит от статьи и канонического вектора;
-seed 555 задаёт порядок записей. Для всех пар полностью известных векторов с
-ровно одним изменённым слотом и разными gold сохранён явный ID пары. Таких пар
-101; это перекрывающиеся связи между 150 вопросами, а не ещё 202 независимых
-наблюдения. Типы вопросов могут пересекаться: минимальная пара одновременно
-может проверять границу. В поле `question_type` один основной тип, а пары
-хранятся отдельно.
-
-Проверены уникальность вопросов и ID, частота векторов, квоты и граничные точки.
-Проведена ограниченная лексическая сверка с закреплёнными 846 вопросами
-LegalBench-RU: нормализация регистра/ё и сравнение словных 5-грамм. Это не
-доказательство отсутствия семантического пересечения по тем же нормам или
-контаминации обучения моделей; результаты и версия корпуса опубликованы.
-
-## Проверка проверяющей процедуры
-
-После фиксации версии валидатора созданы копии записей с девятью классами дефектов,
-по десять на класс: неверный gold, инверсия факта, удалённое отрицание, неверная
-часть статьи, дата, источник, пропущенное исключение, сдвиг границы, расширение
-области вывода до всего дела. Для исключения и границы повреждено само исполняемое
-правило, после чего заново построены согласованные gold и proof. Такие ошибки
-не обнаруживаются повторным render; их выявляет вторая реконструкция.
-
-Публикуются полная повреждённая запись, изменённая карточка при её наличии,
-применённая операция, хеш валидатора и реально сработавшие детекторы. Неизменённые
-150 записей служат контролем ложных срабатываний. Требуется обнаружение всех
-внесённых критических ошибок; в противном случае выпуск неполон. При повторении
-после исправления сохраняется прежний отчёт с пропусками. Этот эксперимент
-не оценивает частоту неизвестных юридических ошибок и не обосновывает «99% точности».
-
-Слепое сравнение прямой LLM-генерации задач с формальным конвейером не проведено:
-использованная процедура не обеспечивала скрытие происхождения черновиков и
-одинаковую независимую смысловую оценку. Поэтому сравнительные доли ошибок двух
-методов не заявляются; выполненный контроль ограничен открытыми повреждениями.
-Независимого человеческого аудита 30–50 примеров также не было.
-
-## Оценка и план проверки полезности
-
-Исходная оценка — генерация краткого открытого ответа с детерминированным scorer.
-Scorer выполняет normalized exact match по [явной грамматике](SCORING.md):
-категориальные значения, цифровые числа/дроби и совместимые единицы. Сравнение
-чисел точное, рациональное; ��редложений-алиасов и правил по статьям нет.
-Scorer не извлекает подходящее число из объяснения или противоречивого ответа.
-Словесные числительные и корректные свободные формулировки могут не распознаваться;
-это ограничение формата, а не доказательство юридической ошибки. Первичная метрика — среднее
-accuracy по статьям. Дополнительно публикуются micro accuracy, показатели по
-типам, precision/recall неизвестного ответа, точность при несущественном неизвестном
-факте, формат и доля минимальных пар с двумя верными ответами. Для неполного
-прогона явно показываются неполные пары и отсутствие полного покрытия.
-
-Для сравнения двух моделей используется парный bootstrap по **статьям**:
-разность accuracy каждой статьи, 10 000 выборок 15 статей с возвращением, seed
-555, процентильный 95% интервал. Он характеризует вариацию по выбранным кластерам,
-не случайную выборку всего права РФ. Модели сравниваются по одним и тем же ID;
-различные версии данных отвергаются. Gold-informed константные стратегии служат
-описательными ориентирами, не независимо обученными baseline-моделями.
-
-На кластере следует заранее выбрать несколько моделей разных размеров и семейств,
-заморозить версии и настройки, выполнить closed/grounded, проверить полное покрытие,
-показать интервалы разностей и стабильность результатов по статьям. Слабые
-различия, потолок, пол и выигрыш лишь за счёт формата являются отрицательными
-результатами для измерительной гипотезы. Не следует удалять вопросы по ошибкам
-сравниваемых моделей и затем оценивать их на том же откалиброванном тесте.
-
-## Дополнительная семантическая метрика
-
-По запросу после первичного пилота добавлена `llm_judge_accuracy`, отдельно от
-основной строгой оценки. Судья получает вопрос, фиксированный gold с единицей и
-ответ модели. Он не создаёт эталоны и не пересматривает закон. Задача судьи —
-эквивалентность ответа: принять падежи, перефразировки и объяснение, отклонить
-противоречия, неправильную единицу и несовместимые альтернативы. Неопределённость
-и неприменимость числового следствия различаются. Входные поля считаются данными;
-инструкции внутри проверяемого ответа должны игнорироваться.
-
-Результат — строго проверяемый JSON с булевой оценкой и краткой причиной.
-Невалидный ответ судьи, ошибка API или нарушение порядка записей останавливают
-метрику, а не превращаются в ошибку оцениваемой модели. Решения и исходные ответы
-сохраняются по ID. Усреднение снова выполняется по статьям; дополнительно
-публикуются расхождения со строгим scorer и оба верных ответа минимальной пары.
-Основной leaderboard остаётся строгим, метрики не усредняются между собой.
-
-До оценки ответов выполнена публичная калибровка: для каждой из 15 статей выбраны
-один полный случай и один с gold «недостаточно данных». Для каждого построены
-пять ответов: канонический, эквивалентный, неверное следствие, противоречие и
-попытка изменить критерий оценки. Всего 150 контролей с аналитически заданной
-меткой. Это проверка базового поведения, не слепая экспертная выборка и не
-доказательство безошибочности judge. Замена judge/промпта требует новой калибровки.
-
-Контрольный judge — `deepseek/deepseek-v4.1-flash` через OpenRouter, temperature=0,
-max_tokens=256, `reasoning.enabled=false`; режим ответов на задачи имеет лимит 96.
-Сохраняются запросы без заголовков авторизации, ответы, provider, usage и стоимость.
-Серверный alias не фиксирует веса модели; это ограничивает точное воспроизведение.
-Судья той же модели, что и оцениваемый DeepSeek, может иметь общие ошибки и
-предпочтение собственным формулировкам. Поэтому отдельно сохранён строгий результат,
-все расхождения просмотрены, и судейство не используется для изменения gold.
-
-## Дополняющая MMLU-подобная версия
-
-MCQ — детерминированная проекция тех же 150 случаев, не ещё 150 независимых
-наблюдений. Сохранены исходные ID, факты, ссылки на норму и gold; запись MCQ
-содержит хеш родителя. Вопрос сохраняет квалификации и условия неизвестности,
-но инструкция открытого ответа заменена выбором буквы. Closed и grounded
-используют один набор вариантов; grounded добавляет те же фрагменты норм.
-
-Для 70 бинарных случаев используются три взаимоисключающих варианта: да, нет,
-недостаточно данных. Для остальных 80 — четыре. Это MMLU-подобный формат, не
-строго четырёхвариантный MMLU: четвёртый бинарный вариант был бы дубликатом или
-искусственным отвлекающим ответом. Числовые и специальные варианты получаются
-из канонических следствий правил. Для большинства отвлекающих вариантов
-указан другой случай-свидетель. Единственный дополнительный тип — 60 дней в
-59-ФЗ 12: смешение исходных 30 дней с продлением из части 2, явно исключённым
-условием задачи. Он обозначен в метаданных и не является альтернативным gold.
-
-Варианты уникальны, один точно равен родительскому gold. UNKNOWN/OUTSIDE включаются
-единообразно для соответствующей статьи, а не только когда это правильный ответ.
-Выбор и перестановка детерминированы seed555, без ответов моделей. Позиции gold
-сбалансированы внутри групп: для четырёх вариантов по 20 A/B/C/D, для трёх 24/23/23.
-Проверяется побайтовое соответствие повторной сборке и неизменность родителя.
-
-Оценка — `calculate_tokens_proba` по показанным буквам, assistant-prefill «Ответ:»
-без завершающего пробела. Обработка пробельных вариантов токена остаётся в общем
-continuation-механизме LLMTF. Выбирается максимальная вероятность; равенство
-разрешается первой буквой и отдельно учитывается. Неверные/пустые вероятности
-дают ошибку выполнения. Затем выбранное каноническое значение оценивается по
-исходному gold; LLM-судья не нужен. Метрика — macro accuracy по статьям; шанс
-равномерного случайного выбора —28,89%, а не 25%. Zero-shot сохраняется.
-
-Foundational legal YAML использует `mcq_closed`, Instruct — исходный открытый
-`closed`; все четыре задачи доступны явно. Эти форматы меняют условия измерения:
-MCQ даёт подсказку набором вариантов и может измерять узнавание. Нельзя смешивать
-open/MCQ в одном ранжировании, считать их независимыми тестами или приписывать
-весь выигрыш юридическим знаниям. Устойчивость к новым перестановкам вариантов и
-перефразировкам остаётся отдельным исследованием.
-
-## Граница надёжности
-
-Проверяемая цепочка: официальный снимок → выбранный фрагмент и зависимости →
-две реконструкции → конечные миры → gold/proof → контролируемый русский вопрос →
-аудит → отрицательные контрольные примеры → зафиксированный scorer. Каждый
-переход оставляет открытый артефакт. Самые слабые переходы — полнота правовой
-области и перенос естественного текста в предикаты — поддержаны повторными
-автоматическими проходами и источниками, но не формально доказаны относительно
-всего права и не проверены экспертами. Именно это ограничение должно сопровождать
-любую публикацию результатов.
+# Построение и границы надёжности RuLaw-ProofBench
+
+## Что измеряется
+
+Набор проверяет знание и применение прямо названных положений российского права
+на 01.01.2025. Условия сообщают необходимые правовые квалификации: например,
+что форма сделки обязательна по закону или что сведения составляют охраняемую
+тайну. Модель не должна устанавливать эти квалификации по доказательствам.
+Ответ относится к выбранному фрагменту, а не к окончательному исходу дела.
+
+Тест содержит 300 вопросов по 30 статьям ТК РФ, СК РФ, первой части ГК РФ и
+59-ФЗ. Первоначальные 150 вопросов сохранены; добавлены 15 новых статей по
+10 вопросов. Это расширяет охват норм, а не только количество перефразировок.
+Тестовые статьи: ТК 67,79,92,93,94,122,124,126,128,173;
+СК 19,35,57,62,81; ГК 26,28,37,186,211,214,227,229,234;
+59-ФЗ 5,6,7,8,11,12. В старом пилоте отдельные статьи имеют 9 или 11 вопросов,
+поэтому основной показатель усредняется сначала внутри статьи, затем по статьям.
+
+В split `train` находятся ровно 5 демонстраций: ТК115, ТК267, СК56, ГК32, ГК33.
+Они не входят в 300 тестовых примеров, их статьи не встречаются среди тестовых
+статей или объявленных зависимостей. Проверяются также пересечения ID и вопросов.
+Это предотвращает прямое раскрытие тестовой нормы демонстрацией, но не исключает
+общих правовых понятий и корреляций между нормами.
+
+## Источники и дата
+
+Основой служат полные официальные выгрузки pravo.gov.ru: исходные HTML/MIME,
+детерминированно извлечённый текст, URL, номера редакций, локаторы и SHA-256.
+Проверяются полнота документа, повторное извлечение и точные цитаты.
+Фрагменты зависимых статей сохраняются вместе с основной нормой.
+
+Номер редакции не трактуется как единая дата вступления всех положений кодекса
+в силу. Сопоставляются выбранные фрагменты основного и сравнительного снимка,
+читаются применимые поправки и их переходные положения. Совпадение двух текстов
+само по себе недостаточно для проверки даты. В расширении одинаковы 18 полных
+статей из 20; в 59-ФЗ6/7 совпадают выбранные части при различии других частей.
+Изменения 547-ФЗ этих соседних частей вступают в силу 30.03.2025.
+
+Дополнительно сохранены оригиналы 90-ФЗ/2006, 421-ФЗ/2013, 391-ФЗ/2015,
+457-ФЗ/2015, 430-ФЗ/2019, 273-ФЗ/2022, 310-ФЗ/2022, 268-ФЗ/2024,
+исходный 5-ФЗ/1994 и официальные карточки публикаций. Применяются сроки именно
+нужных положений, с проверкой исключений. Когда достаточно установить действие
+к 2025 году, используется документированная верхняя граница вступления в силу
+по публикации в «Российской газете». Она не выдаётся за точную первую дату.
+Проверка ограничена выбранными положениями и их областью применения; максимальные
+интервалы действия всех норм или юридическая актуальность целых кодексов не заявляются.
+
+## Формализация и эталон
+
+Для каждой статьи вручную задаётся карточка: область вопроса, исключения,
+предикаты с конечными доменами, допустимые сочетания фактов, приоритетные ветви,
+единица ответа, цитаты-основания и зависимости. Это работа модели и разработчика,
+а не экспертная юридическая разметка. Карточка ограничивает интерпретацию вопроса.
+
+Каждый конкретный вопрос задаёт вектор фактов. Для отсутствующих фактов
+перебираются все допустимые заполнения конечного домена. Если все заполнения
+дают одно следствие, оно становится gold; если следствия различаются — gold
+«недостаточно данных». Неизвестный факт не заменяется ложью. Несовместимые
+заполнения исключаются явно; вектор без совместимых заполнений отвергается.
+Если запрошенное числовое следствие выбранной нормы не устанавливается,
+используется отдельный ответ «не следует из указанной нормы».
+
+`proof` хранит заполнения, сработавшие ветви и множество исходов; gold связан
+с хешем карточки. ID образуется из ID правила и хеша канонического вектора.
+Порядок детерминирован seed=555. Отбор задаётся явными списками векторов:
+границы, исключения, неизвестность с неоднозначным и с однозначным результатом.
+Это целевой набор стрессовых микрослучаев, не случайная выборка реальных дел.
+
+Сохраняются все выбранные пары полных фактов одной статьи, отличающиеся одним
+предикатом и имеющие разные gold. В расширенном тесте 164 такие минимальные пары.
+Повторное использование вопросов между открытым и MCQ-форматом не увеличивает
+число независимых наблюдений.
+
+## Независимая реконструкция и языковой аудит
+
+Отдельный изолированный проход получает официальные источники, но не первичные
+новые карточки и gold. Он строит собственные функции и именованные схемы фактов.
+Затем явный адаптер сопоставляет схемы и именно запрошенные следствия.
+Для пилота проверены 158 полных миров и 403 всех допустимых полных/частичных
+вектора; для 15 новых тестовых и 5 демонстрационных статей — ещё 171 и 483.
+Полные миры входят в число всех векторов: эти числа нельзя складывать внутри
+одного прохода. Итого проверено 886 допустимых полных/частичных векторов.
+
+Оба прохода выполнены автоматическими агентами той же модели. Разделение
+контекста уменьшает прямое копирование реализации, но не устраняет общие
+модельные ошибки. При сверке частичных фактов используется первичный перебор
+допустимых миров: отдельно необходим аудит полноты доменов и ограничений.
+
+После сверки проводится неслепой поиск контрпримеров по всем новым вопросам.
+История находок сохраняется. В частности, исправлены:
+
+- возраст ребёнка сейчас не подменяет возраст при усыновлении: временные
+  обстоятельства сужены так, чтобы не пересекать порог между событиями;
+- разрешение начать работу отделено от факта её начала;
+- круг адресатов переадресации явно ограничен, чтобы не скрыть учреждения с
+  публично значимыми функциями внутри отрицательной ветви;
+- сообщённые юридически установленные факты отделены от неизвестных.
+
+Эти находки показывают, почему совпадение двух программ не доказывает
+эквивалентность вопроса юридической норме. Финальная приёмка проверяет хеши
+просмотренных карточек и генератора; изменение формулировок требует повторного
+аудита, а не автоматического обновления отметки о проверке.
+
+## Контролируемые повреждения
+
+Пилот содержит 90 повреждений, расширение — ещё 90: по 10 для неверного gold,
+инверсии условия, удаления отрицания, неверного локатора, даты, источника,
+расширения области вывода, удаления исключения и изменения числовой границы.
+Все обнаружены; чистые записи новых статей и демонстраций не отвергнуты.
+При повреждении правила согласованно пересоздаются текст, proof и gold;
+такие случаи должны быть пойманы независимой реконструкцией, а не лишь хешем.
+
+Это проверка чувствительности валидатора к известным видам повреждений,
+не оценка доли неизвестных юридических ошибок. Набор повреждений открыт и
+не является слепым сравнением с произвольной LLM-генерацией.
+
+## Открытые ответы, MCQ и few-shot
+
+Открытая версия задаёт короткий ответ. Основная метрика — нормализованное полное
+совпадение по [общей грамматике](SCORING.md): регистр, Unicode, пробелы,
+совместимые единицы, точные числовые значения и дроби. Нет модельных фраз-алиасов,
+поиска правильного слова внутри предложения или настроек по статье.
+Дополнительный LLM-судья оценивает семантическую эквивалентность вопросу и gold;
+ему не передаются модель-автор или решение детерминированного scorer.
+Судья может ошибаться и не создаёт юридических эталонов.
+
+MCQ использует те же факты и gold. У бинарных вопросов варианты «да», «нет»,
+«недостаточно данных»; у остальных четыре различных канонических следствия.
+Дистракторы берутся из исходов той же карточки. Для 59-ФЗ12 сохранена явно
+помеченная путаница с продлением (30+30). При нехватке числовых исходов добавляются
+рациональные числовые возмущения; они помечены как искусственные дистракторы,
+а не как якобы предусмотрен��ые законом ветви. Правильный вариант единственен
+и связан с gold родителя. Позиции букв балансируются детерминированно.
+
+В тесте 210 вопросов с тремя и 90 с четырьмя вариантами. Случайный выбор:
+30,83% micro-accuracy. Foundational получает все 5 фиксированных train-примеров
+в одном порядке; Instruct — 0. Демонстрации включают числовые ответы, да/нет и
+недостаточность данных. MCQ-продолжение заканчивается префиксом `Ответ:` без
+конечного пробела; варианты букв обрабатывает общий контракт LLMTF.
+Результат выбирается по максимальной вероятности буквы; равные максимумы
+разрешаются порядком вариантов и отдельно учитываются в отчёте.
+
+Те же 300 test-ID используются при любом разрешённом k от 0 до 5. Демонстрации
+не сокращаются из-за длины контекста. Вероятности должны быть конечными,
+неотрицательными и иметь ненулевую массу хотя бы у одного варианта.
+
+## Публикация и воспроизведение
+
+HF содержит конфигурации `open`/`mcq`, splits `test`/`train`, читаемый README,
+Parquet и архивы построения/результатов. Публичные столбцы проверяются против
+полных `record_json` и `mcq_json`; `context` содержит только текст норм и обычные
+названия актов. Закрытый режим не передаёт context, proof или gold модели.
+Grounded передаёт context и измеряет чтение нормы отдельно от памяти о ней.
+
+Runtime загружает публичные файлы по полному HF commit hash и сверяет SHA-256;
+незаметного перехода к локальным данным нет. Provenance включает пин, хеши кода,
+режим, scorer и настройки судьи. Сборка и приёмка отделены от обычной оценки.
+Исторические отчёты и исходные ответы хранятся в архиве; старые сохранённые
+поля метрик не подменяют пересчёт текущим scorer.
+
+## Что остаётся ограничением
+
+Проверки обосновывают трассируемость источников, воспроизводимость эталона,
+согласованность конечной формализации и устойчивость к указанным повреждениям.
+Они не устанавливают юридическую безошибочность, полноту права РФ или качество
+свободной юридической консультации. Набор открыт и может попасть в обучение.
+Шаблонный язык и сообщения о правовых квалификациях упрощают часть задачи.
+
+Вопросы одной статьи зависимы. Основной показатель — macro-accuracy по статьям;
+микроточность, валидность формата, типы вопросов и минимальные пары — диагностики.
+Для сравнения моделей нужен парный bootstrap по статьям, а не по вопросам.
+Открытый и MCQ-результаты, closed и grounded, разные режимы thinking и число
+демонстраций должны сообщаться отдельно. Единого общего legal-агрегата нет.
+
+Пилотное сравнение моделей относится к прежним 150 примерам и прежним prompts.
+Расширение и более понятные подписи в context требуют нового прогона; прежние
+значения не являются эмпирическим подтверждением качества набора из 300 вопросов.
+Методика развивалась после пилота, поэтому это не слепая предварительная регистрация.

README.md

@@ -17,17 +17,21 @@ configs:
   data_files:
   - split: test
     path: data/open/test.parquet
+  - split: train
+    path: data/open/train.parquet
 - config_name: mcq
   data_files:
   - split: test
     path: data/mcq/test.parquet
+  - split: train
+    path: data/mcq/train.parquet
 ---
 
 # RuLaw-ProofBench
 
 Синтетический русскоязычный набор для оценки знания и локального применения
-норм российского права на **01.01.2025**. Текущий выпуск: **150 тестовых
-примеров по 15 статьям четырёх актов**. Это узкий формальный benchmark,
+норм российского права на **01.01.2025**. Текущий выпуск: **300 тестовых
+примеров по 30 статьям четырёх актов** и **5 отдельных демонстраций**. Это узкий формальный benchmark,
 а не оценка способности разрешать произвольные юридические дела.
 
 ## Загрузка
@@ -47,7 +51,7 @@ SHA-256 файла. Локальные примеры не подменяют о
 
 - `open`: короткий открытый ответ; `answer` содержит эталон.
 - `mcq`: те же ID и факты, варианты в `choices`, правильная буква в `answer_label`.
-  У бинарных случаев три варианта, у остальных четыре. Случайный выбор —28,89%.
+  У бинарных случаев три варианта, у остальных четыре. Случайный выбор — 30.83% micro-accuracy.
 
 Это не независимые выборки. `context` содержит норму и необходимые зависимости:
 в closed-режиме он **не передаётся модели**, в grounded-режиме добавляется перед
@@ -55,16 +59,22 @@ SHA-256 файла. Локальные примеры не подменяют о
 минимальных пар без потери структуры. `mcq_json` сохраняет канонические варианты
 и привязку к исходному вопросу. Эти поля служат проверке данных, не входу модели.
 
-В этом пилоте нет обучающего split или демонстраций. Все150 вопросов относятся
-к test; примеры из test нельзя использовать как few-shot для той же оценки.
+`test` целиком используется для оценки и не уменьшается при добавлении few-shot.
+`train`, если он присутствует, содержит фиксированные демонстрации по отдельным
+статьям: нет пересечения ID, вопросов, тестовых статей и их зависимостей.
+LLMTF Foundational использует все 5 демонстраций расширенного выпуска; Instruct
+использует 0. Запрошенное число демонстраций не сокращается при нехватке контекста:
+такой запуск завершается ошибкой. Примеры из test не используются как few-shot.
 
 ## Построение и обоснование надёжности
 
 Официальные снимки норм → явно ограниченные правила → две автоматические
 реконструкции → перебор совместимых фактов → эталон и proof → контролируемая
 русская формулировка → проверка источников, исключений и границ → фиксация хешей.
-403 полных/частичных вектора согласованы между реконструкциями;90 контрольных
-повреждений обнаружены. Юристов и независимой человеческой экспертизы не было.
+Пилот: 403 полных/частичных вектора, 90 контрольных повреждений. Расширение:
+ещё 483 вектора по 15 новым тестовым и 5 демонстрационным статьям, ещё 90 повреждений.
+Для расширения отдельно проверены источники, даты и языковые контрпримеры.
+Юристов и независимой человеческой экспертизы не было.
 Эти проверки обосновывают воспроизводимость конструкции, а не юридическую
 безошибочность или полноту охвата права РФ.
 
@@ -103,5 +113,5 @@ accuracy по статьям. Она использует общую грамм
 следование формальным условиям, не только память о норме. Минимальные пары и
 случаи одной статьи зависимы; статистические сравнения выполняются по статьям.
 Методика развивалась после пилота и не является слепой предварительной регистрацией.
-Пилотные результаты нельзя переносить на будущие расширенные выпуски без нового
+Пилотные результаты на 150 вопросах нельзя переносить на расширенные выпуски без нового
 прогона. Отдельная лицензия на производный набор пока не объявлена.

audit/construction.tar.gz

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:cf10989d7a2bc15bbed9507fe3dc9da043a6120c22d7883699e6f3263b5a44ec
-size 2680852
+oid sha256:ee917f7279e6d68cfc2fd161f4d6348df0e363fc85540aba7d3d111284f8cbef
+size 3259986

data/mcq/test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:69bb7116bd58adbac4bd3bfc887ae86cab37b095614520e2c0f02a81e7e9d151
-size 117258
+oid sha256:815895c5cc87a867329f8eb5b8f0f53d1dc73c4ac71b03a58ca1fe84c8205d2c
+size 199573

data/mcq/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3c2a348e03d12675b5035306f0b07312c8459fa776cf6ef75357230684b544e7
+size 41841

data/open/test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:84df3f3c9e9ebee4fb4bdd1d28ff9dc6bd3e7123b713ad919d4f294122968809
-size 75736
+oid sha256:e34cc5111e4eb7b7ae72f3901c196b9482340fcbffc123307252b329528dab1f
+size 126823

data/open/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:54ce169e91cbfb1f0691e2560d08d47087947e623d80a18b65e0c48c5851554b
+size 28624

manifest.json

@@ -2,20 +2,28 @@
   "dataset_name": "RuLaw-ProofBench",
   "repository": "RefalMachine/RuLaw-ProofBench",
   "as_of": "2025-01-01",
-  "test_count": 150,
-  "demonstration_count": 0,
-  "article_count": 15,
+  "test_count": 300,
+  "demonstration_count": 5,
+  "article_count": 30,
   "files": {
     "data/open/test.parquet": {
-      "sha256": "84df3f3c9e9ebee4fb4bdd1d28ff9dc6bd3e7123b713ad919d4f294122968809",
-      "rows": 150
+      "sha256": "e34cc5111e4eb7b7ae72f3901c196b9482340fcbffc123307252b329528dab1f",
+      "rows": 300
+    },
+    "data/open/train.parquet": {
+      "sha256": "54ce169e91cbfb1f0691e2560d08d47087947e623d80a18b65e0c48c5851554b",
+      "rows": 5
     },
     "data/mcq/test.parquet": {
-      "sha256": "69bb7116bd58adbac4bd3bfc887ae86cab37b095614520e2c0f02a81e7e9d151",
-      "rows": 150
+      "sha256": "815895c5cc87a867329f8eb5b8f0f53d1dc73c4ac71b03a58ca1fe84c8205d2c",
+      "rows": 300
+    },
+    "data/mcq/train.parquet": {
+      "sha256": "3c2a348e03d12675b5035306f0b07312c8459fa776cf6ef75357230684b544e7",
+      "rows": 5
     },
     "audit/construction.tar.gz": {
-      "sha256": "cf10989d7a2bc15bbed9507fe3dc9da043a6120c22d7883699e6f3263b5a44ec"
+      "sha256": "ee917f7279e6d68cfc2fd161f4d6348df0e363fc85540aba7d3d111284f8cbef"
     },
     "audit/pilot_results.tar.gz": {
       "sha256": "b3a511841805878b7a2b4cebd91611b1aa50ebc1d91309105a3126ff289e1ced"