Replace with verified two-stage dataset; keep README and data only

METHODS.md

@@ -1,212 +0,0 @@
-# Построение и границы надёжности RuLaw-ProofBench
-
-## Что измеряется
-
-Набор проверяет знание и применение прямо названных положений российского права
-на 01.01.2025. Условия сообщают необходимые правовые квалификации: например,
-что форма сделки обязательна по закону или что сведения составляют охраняемую
-тайну. Модель не должна устанавливать эти квалификации по доказательствам.
-Ответ относится к выбранному фрагменту, а не к окончательному исходу дела.
-
-Тест содержит 300 вопросов по 30 статьям ТК РФ, СК РФ, первой части ГК РФ и
-59-ФЗ. Первоначальные 150 вопросов сохранены; добавлены 15 новых статей по
-10 вопросов. Это расширяет охват норм, а не только количество перефразировок.
-Тестовые статьи: ТК 67,79,92,93,94,122,124,126,128,173;
-СК 19,35,57,62,81; ГК 26,28,37,186,211,214,227,229,234;
-59-ФЗ 5,6,7,8,11,12. В старом пилоте отдельные статьи имеют 9 или 11 вопросов,
-поэтому основной показатель усредняется сначала внутри статьи, затем по статьям.
-
-В split `train` находятся ровно 5 демонстраций: ТК115, ТК267, СК56, ГК32, ГК33.
-Они не входят в 300 тестовых примеров, их статьи не встречаются среди тестовых
-статей или объявленных зависимостей. Проверяются также пересечения ID и вопросов.
-Это предотвращает прямое раскрытие тестовой нормы демонстрацией, но не исключает
-общих правовых понятий и корреляций между нормами.
-
-## Источники и дата
-
-Дата 01.01.2025 выбрана автоматическим исполнителем при сборке как единый
-исторический срез. Исходный протокол требовал зафиксировать `as_of`, но не
-предписывал этот день. Специального научного основания именно для него нет;
-это не дата актуальности законодательства сегодня, публикации датасета или
-граница знаний оцениваемых моделей. Смена даты потребует повторной проверки
-применимых редакций и эталонов, а не только замены поля в вопросах.
-
-Основой служат полные официальные выгрузки pravo.gov.ru: исходные HTML/MIME,
-детерминированно извлечённый текст, URL, номера редакций, локаторы и SHA-256.
-Проверяются полнота документа, повторное извлечение и точные цитаты.
-Фрагменты зависимых статей сохраняются вместе с основной нормой.
-
-Номер редакции не трактуется как единая дата вступления всех положений кодекса
-в силу. Сопоставляются выбранные фрагменты основного и сравнительного снимка,
-читаются применимые поправки и их переходные положения. Совпадение двух текстов
-само по себе недостаточно для проверки даты. В расширении одинаковы 18 полных
-статей из 20; в 59-ФЗ6/7 совпадают выбранные части при различии других частей.
-Изменения 547-ФЗ этих соседних частей вступают в силу 30.03.2025.
-
-Дополнительно сохранены оригиналы 90-ФЗ/2006, 421-ФЗ/2013, 391-ФЗ/2015,
-457-ФЗ/2015, 430-ФЗ/2019, 273-ФЗ/2022, 310-ФЗ/2022, 268-ФЗ/2024,
-исходный 5-ФЗ/1994 и официальные карточки публикаций. Применяются сроки именно
-нужных положений, с проверкой исключений. Когда достаточно установить действие
-к 2025 году, используется документированная верхняя граница вступлени�� в силу
-по публикации в «Российской газете». Она не выдаётся за точную первую дату.
-Проверка ограничена выбранными положениями и их областью применения; максимальные
-интервалы действия всех норм или юридическая актуальность целых кодексов не заявляются.
-
-По сохранённым результатам аудита приняты все использованные фрагменты, включая
-необходимые отсылки. Содержательный вывод о применимости делает автоматический
-агент при чтении документов. Валидатор затем проверяет согласованность дат,
-ссылок, цитат и хешей с этими материалами; он не восстанавливает самостоятельно
-полную историю законодательства. Поэтому ошибка чтения или толкования исходного
-документа возможна даже при успешном выполнении всех программных проверок.
-
-## Формализация и эталон
-
-Для каждой статьи вручную задаётся карточка: область вопроса, исключения,
-предикаты с конечными доменами, допустимые сочетания фактов, приоритетные ветви,
-единица ответа, цитаты-основания и зависимости. Это работа модели и разработчика,
-а не экспертная юридическая разметка. Карточка ограничивает интерпретацию вопроса.
-
-Каждый конкретный вопрос задаёт значения юридически значимых признаков:
-например, возраст, наличие согласия и известность обстоятельства.
-Такую комбинацию в коде называют «вектором фактов»; это не эмбеддинг.
-Для отсутствующих фактов
-перебираются все допустимые заполнения конечного домена. Если все заполнения
-дают одно следствие, оно становится gold; если следствия различаются — gold
-«недостаточно данных». Неизвестный факт не заменяется ложью. Несовместимые
-заполнения исключаются явно; набор условий без совместимых заполнений отвергается.
-Если запрошенное числовое следствие выбранной нормы не устанавливается,
-используется отдельный ответ «не следует из указанной нормы».
-
-`proof` хранит заполнения, сработавшие ветви и множество исходов; gold связан
-с хешем карточки. ID образуется из ID правила и хеша канонически записанных условий.
-Порядок детерминирован seed=555. Отбор задаётся явными списками комбинаций условий:
-границы, исключения, неизвестность с неоднозначным и с однозначным результатом.
-Это целевой набор стрессовых микрослучаев, не случайная выборка реальных дел.
-
-Сохраняются все выбранные пары полных фактов одной статьи, отличающиеся одним
-предикатом и имеющие разные gold. В расширенном тесте 164 такие минимальные пары.
-Повторное использование вопросов между открытым и MCQ-форматом не увеличивает
-число независимых наблюдений.
-
-## Независимая реконструкция и языковой аудит
-
-Отдельный изолированный проход получает официальные источники, но не первичные
-новые карточки и gold. Он строит собственные функции и именованные схемы фактов.
-Затем явный адаптер сопоставляет схемы и именно запрошенные следствия.
-Для пилота проверены 158 комбинаций с полностью известными условиями и
-403 допустимые комбинации с учётом неизвестных условий; для 15 новых тестовых
-и 5 демонстрационных статей — ещё 171 и 483 соответственно. Полностью заданные
-условия входят в общее число: эти числа нельзя складывать внутри одного
-прохода. Итого проверено 886 допустимых комбинаций условий. Это проверка
-программных правил, а не число вопросов в датасете.
-
-Оба прохода выполнены автоматическими агентами той же модели. Разделение
-контекста уменьшает прямое копирование реализации, но не устраняет общие
-модельные ошибки. При сверке частичных фактов используется первичный перебор
-допустимых миров: отдельно необходим аудит полноты доменов и ограничений.
-
-После сверки проводится неслепой поиск контрпримеров по всем новым вопросам.
-История находок сохраняется. В частности, исправлены:
-
-- возраст ребёнка сейчас не подменяет возраст при усыновлении: временные
-  обстоятельства сужены так, чтобы не пересекать порог между событиями;
-- разрешение начать работу отделено от факта её начала;
-- круг адресатов переадресации явно ограничен, чтобы не скрыть учреждения с
-  публично значимыми функциями внутри отрицательной ветви;
-- сообщённые юридически установленные факты отделены от неизвестных.
-
-Эти находки показывают, почему совпадение двух программ не доказывает
-эквивалентность вопроса юридической норме. Финальная приёмка проверяет хеши
-просмотренных карточек и генератора; изменение формулировок требует повторного
-аудита, а не автоматического обновления отметки о проверке.
-
-## Проверка валидатора на намеренно внесённых ошибках
-
-В отдельные копии записей внесены известные ошибки: 90 для пилота и ещё 90
-для расширения. Эти копии не включаются в оценочный test или демонстрационный
-train. В каждом этапе создано по 10 примеров для неверного gold,
-инверсии условия, удаления отрицания, неверного локатора, даты, источника,
-расширения области вывода, удаления исключения и изменения числовой границы.
-Все обнаружены; чистые записи новых статей и демонстраций не отвергнуты.
-При намеренном изменении правила согласованно пересоздаются текст, proof и gold;
-такие случаи должны быть пойманы независимой реконструкцией, а не лишь хешем.
-
-Это проверка чувствительности валидатора к известным видам ошибок,
-не оценка доли неизвестных юридических ошибок. Контрольные копии открыты и
-не является слепым сравнением с произвольной LLM-генерацией.
-
-Конкретные изменения: эталон заменяется на `999`, дата — на `2030-01-01`
-в пилоте или `2099-01-01` в расширении, часть статьи — на «несуществующая
-часть 999», ID источника — на отсутствующий. В условиях инвертируется один
-булев признак без изменения остальных полей, из текста удаляется одно «не».
-В двух более сложных проверках удаляется приоритетная ветвь правила или
-увеличивается числовой порог на единицу; затем заново вычисляются ответ и
-вывод, чтобы простая сверка между полями не была достаточным детектором.
-
-Обнаружение подмены даты означает лишь, что запись не соответствует принятому
-срезу. Оно не подтверждает, что исходная редакция юридически верна на эту дату.
-Так же обнаружение ответа `999` не подтверждает правильность исходного правила.
-Результаты этого эксперимента нельзя выдавать за оценку юридической точности.
-
-## Открытые ответы, MCQ и few-shot
-
-Открытая версия задаёт короткий ответ. Основная метрика — нормализованное полное
-совпадение по [общей грамматике](SCORING.md): регистр, Unicode, пробелы,
-совместимые единицы, точные числовые значения и дроби. Нет модельных фраз-алиасов,
-поиска правильного слова внутри предложения или настроек по статье.
-Дополнительный LLM-судья оценивает семантическую эквивалентность вопросу и gold;
-ему не передаются модель-автор или решение детерминированного scorer.
-Судья может ошибаться и не создаёт юридических эталонов.
-
-MCQ использует те же факты и gold. У бинарных вопросов варианты «да», «нет»,
-«недостаточно данных»; у остальных четыре различных канонических следствия.
-Дистракторы берутся из исходов той же карточки. Для 59-ФЗ12 сохранена явно
-помеченная путаница с продлением (30+30). При нехватке числовых исходов добавляются
-рациональные числовые возмущения; они помечены как искусственные дистракторы,
-а не как якобы предусмотренные законом ветви. Правильный вариант единственен
-и связан с gold родителя. Позиции букв балансируются детерминированно.
-
-В тесте 210 вопросов с тремя и 90 с четырьмя вариантами. Случайный выбор:
-30,83% micro-accuracy. Foundational получает все 5 фиксированных train-примеров
-в одном порядке; Instruct — 0. Демонстрации включают числовые ответы, да/нет и
-недостаточность данных. MCQ-продолжение заканчивается префиксом `Ответ:` без
-конечного пробела; варианты букв обрабатывает общий контракт LLMTF.
-Результат выбирается по максимальной вероятности буквы; равные максимумы
-разрешаются порядком вариантов и отдельно учитываются в отчёте.
-
-Те же 300 test-ID используются при любом разрешённом k от 0 до 5. Демонстрации
-не сокращаются из-за длины контекста. Вероятности должны быть конечными,
-неотрицательными и иметь ненулевую массу хотя бы у одного варианта.
-
-## Публикация и воспроизведение
-
-HF содержит конфигурации `open`/`mcq`, splits `test`/`train`, читаемый README,
-Parquet и архивы построения/результатов. Публичные столбцы проверяются против
-полных `record_json` и `mcq_json`; `context` содержит только текст норм и обычные
-названия актов. Закрытый режим не передаёт context, proof или gold модели.
-Grounded передаёт context и измеряет чтение нормы отдельно от памяти о ней.
-
-Runtime загружает публичные файлы по полному HF commit hash и сверяет SHA-256;
-незаметного перехода к локальным данным нет. Provenance включает пин, хеши кода,
-режим, scorer и настройки судьи. Сборка и приёмка отделены от обычной оценки.
-Исторические отчёты и исходные ответы хр��нятся в архиве; старые сохранённые
-поля метрик не подменяют пересчёт текущим scorer.
-
-## Что остаётся ограничением
-
-Проверки обосновывают трассируемость источников, воспроизводимость эталона,
-согласованность конечной формализации и устойчивость к указанным повреждениям.
-Они не устанавливают юридическую безошибочность, полноту права РФ или качество
-свободной юридической консультации. Набор открыт и может попасть в обучение.
-Шаблонный язык и сообщения о правовых квалификациях упрощают часть задачи.
-
-Вопросы одной статьи зависимы. Основной показатель — macro-accuracy по статьям;
-микроточность, валидность формата, типы вопросов и минимальные пары — диагностики.
-Для сравнения моделей нужен парный bootstrap по статьям, а не по вопросам.
-Открытый и MCQ-результаты, closed и grounded, разные режимы thinking и число
-демонстраций должны сообщаться отдельно. Единого общего legal-агрегата нет.
-
-Пилотное сравнение моделей относится к прежним 150 примерам и прежним prompts.
-Расширение и более понятные подписи в context требуют нового прогона; прежние
-значения не являются эмпирическим подтверждением качества набора из 300 вопросов.
-Методика развивалась после пилота, поэтому это не слепая предварительная регистрация.

PILOT_RESULTS.md

@@ -1,54 +0,0 @@
-# Qwen3.5: сравнение размеров на RuLaw-ProofBench
-
-По 150 вопросов без нормы и с нормой. Zero-shot, temperature=0, reasoning выключен.
-Метрика — accuracy с равным весом каждой из 15 статей. Судья во всех случаях — DeepSeek V4.1 Flash.
-
-| Модель | Запуск | Без нормы: scorer | Без нормы: judge | С нормой: scorer | С нормой: judge |
-|---|---|---:|---:|---:|---:|
-| Qwen3.5-2B | local vLLM | 33.94% | 35.94% | 37.60% | 40.93% |
-| Qwen3.5-9B | OpenRouter | 35.64% | 36.31% | 60.81% | 70.14% |
-| Qwen3.5-27B | OpenRouter | 47.46% | 48.13% | 82.05% | 87.38% |
-
-## Разности и неопределённость
-
-Парный bootstrap по статьям: 10 000 повторов, seed=555. Интервал относится к выбранным 15 статьям, а не ко всему праву РФ.
-
-| Сравнение | Режим | Метрика | Разность, п.п. | 95% интервал, п.п. |
-|---|---|---|---:|---|
-| 9B_minus_2B | closed | scorer | 1.70 | [-11.63; 15.11] |
-| 9B_minus_2B | closed | judge | 0.37 | [-13.33; 14.07] |
-| 9B_minus_2B | grounded | scorer | 23.21 | [12.55; 36.00] |
-| 9B_minus_2B | grounded | judge | 29.21 | [17.88; 41.88] |
-| 27B_minus_9B | closed | scorer | 11.82 | [1.33; 23.33] |
-| 27B_minus_9B | closed | judge | 11.82 | [1.33; 23.33] |
-| 27B_minus_9B | grounded | scorer | 21.24 | [11.91; 31.33] |
-| 27B_minus_9B | grounded | judge | 17.24 | [8.30; 27.00] |
-| 27B_minus_2B | closed | scorer | 13.52 | [4.48; 23.11] |
-| 27B_minus_2B | closed | judge | 12.19 | [2.19; 22.49] |
-| 27B_minus_2B | grounded | scorer | 44.45 | [32.30; 56.61] |
-| 27B_minus_2B | grounded | judge | 46.45 | [35.33; 57.72] |
-
-## Условия и ограничения
-
-- 2B — ранее выполненный локальный vLLM-прогон; новых локальных запусков нет. 9B и 27B — новые вызовы OpenRouter. Сравнения с 2B включают различия backend, шаблона и возможной точности весов.
-- 2B и 4B отсутствуют в сохранённом каталоге OpenRouter. 4B в таблицу не включена.
-- Scorer один: [normalized exact match](SCORING.md). Его грамматика не менялась по результатам 9B/27B. Judge сравнивает с фиксированным gold; решения всех моделей проверяются одним промптом.
-- Правильная свободная формулировка может не распознаться scorer. Список расхождений по ID, точность по статьям, неизвестным фактам и формату —в `summary.json`; ответы и объяснения judge —в JSONL/JSON рядом.
-- Проверены полные уникальные ID, исходные вопросы/gold/правила, соответствие судейских решений ответам и нулевые reported reasoning tokens у принятых API-ответов.
-- API alias не закрепляет веса или квантование. Фактические провайдеры, токены, finish_reason и стоимость сохранены в запросах. Это не независимая экспертная валидация gold и не сравнение нескольких модельных семейств.
-
-## Вывод по этому эксперименту
-
-27B превосходит 9B при одном способе запуска через OpenRouter: без нормы разность обеих метрик 11,82 п.п. с интервалом [1,33;23,33], с нормой — 21,24 п.п. по scorer и 17,24 п.п. по judge; интервалы также выше нуля. Это положительное свидетельство различающей способности на выбранных статьях.
-Между 2B и 9B без нормы устойчивого различия не видно: интервалы обеих разностей включают ноль. С нормой различие значительно больше. Набор различает применение предоставленного правила убедительнее, чем соседние уровни закрытого знания в этой паре. Смешение локального/API исполнения у 2B дополнительно ограничивает вывод.
-
-При просмотре всех 24 расхождений новых API-прогонов найдена ошибка judge: ответ 9B без нормы на `gk_186-62c320fe2a4f` «...на срок до одного года» зачтён как эталонный фиксированный срок «1 год». В��рхняя граница здесь не равна точному сроку; это противоречит уже заданному критерию judge. В таблице сохранён исходный вердикт, без ручной поправки. Остальные 23 расхождения —однозначные формулировки ничтожности/срока и верхних пределов, не входящие в грамматику scorer. Калибровка 150/150 не гарантирует отсутствие ошибок судьи на новых ответах.
-
-Новые API-затраты, включая judge: $0.109252; HTTP completions: 931. Старый локальный 2B и его ранее выполненный judge сюда не входят.
-
-```bash
-python -m dev.tools.rulaw_openrouter report --output dev/rulaw_proofbench_diagnostics/qwen35_openrouter
-python -m dev.rulaw_proofbench_diagnostics.replay
-```
-
-Обе команды используют сохранённые ответы и не требуют ключа или новых API-вызовов.

README.md

@@ -8,6 +8,7 @@ tags:
 - legal
 - russian-law
 - synthetic
+- reasoning
 pretty_name: RuLaw-ProofBench
 size_categories:
 - n<1K
@@ -29,163 +30,120 @@ configs:
 
 # RuLaw-ProofBench
 
-Синтетический русскоязычный набор для оценки знания и локального применения
-норм российского права на **01.01.2025**. Текущий выпуск: **300 тестовых
-примеров по 30 статьям четырёх актов** и **5 отдельных демонстраций**. Это узкий формальный benchmark,
-а не оценка способности разрешать произвольные юридические дела.
+Синтетический русскоязычный датасет для проверки знания и применения отдельных
+норм российского права. Выпуск содержит **194 тестовых примера по
+27 статьям** и **5 отдельных демонстраций**. Он построен
+по конкретным положениям четырёх актов, выбранным для состояния на 01.01.2025.
+Область применения и временные условия указаны в самих вопросах.
 
 ## Загрузка
 
 ```python
 from datasets import load_dataset
 
-open_test = load_dataset("RefalMachine/RuLaw-ProofBench", "open", split="test")
-mcq_test = load_dataset("RefalMachine/RuLaw-ProofBench", "mcq", split="test")
+open_data = load_dataset("RefalMachine/RuLaw-ProofBench", "open")
+mcq_data = load_dataset("RefalMachine/RuLaw-ProofBench", "mcq")
 ```
 
-Для воспроизводимого сравнения указывайте `revision` — полный hash Hub-коммита.
-LLMTF загружает Parquet из этого репозитория по закреплённой revision и проверяет
-SHA-256 файла. Локальные примеры не подменяют опубликованные данные.
-
-## Почему указано 01.01.2025
-
-Это выбранная при сборке **единая дата правового среза**: ответы должны
-соответствовать выбранным положениям, действовавшим на этот день. Исходный
-протокол требовал зафиксировать дату, но не задавал именно 01.01.2025.
-Её выбрал автоматический исполнитель; специального научного обоснования
-именно этого дня нет. Это не дата публикации датасета, не утверждение об
-актуальности норм сегодня и не предполагаемая граница знаний моделей.
-
-Дата проверялась по источникам, а не только записывалась в вопросы:
-
-1. Сохранены официальные тексты с pravo.gov.ru, номера редакций и точные
-   фрагменты, на которых основаны ответы, включая необходимые отсылки.
-2. Выбранные фрагменты сопоставлены между редакциями; дополнительно изучены
-   применимые законы о поправках, даты вступления в силу и переходные положения.
-   Одного совпадения текстов или даты редакции всего кодекса недостаточно.
-3. Более поздние изменения не переносились на выбранную дату. Например,
-   при проверке 59-ФЗ отдельно учтено, что изменения по 547-ФЗ вступают в силу
-   30.03.2025, то есть после даты среза.
-4. Источники, цитаты и результаты проверок сохранены в `edition_audit.json`
-   и `expansion_source_review.json` внутри `audit/construction.tar.gz`.
-
-По результатам этого аудита все использованные фрагменты приняты как
-соответствующие 01.01.2025. Утверждение относится к выбранным положениям,
-необходимым отсылкам и условиям вопросов, а не ко всем нормам четырёх актов.
-
-Здесь два уровня контроля. **Содержательный вывод о действии нормы** делали
-автоматические агенты, читая документы; юрист его не подтверждал.
-**Программные проверки** сверяют дату и ссылки записи с рассмотренным правилом,
-то��ность цитат, хеши источников и наличие завершённых проверок. Они защищают
-от подмены и рассогласования материалов, но не умеют заново доказывать
-применимость любого закона на заданный день. Поэтому ошибка исходного аудита
-всё ещё возможна; совпадение SHA-256 её не исключает.
-
-## Два представления одного теста
-
-- `open`: короткий открытый ответ; `answer` содержит эталон.
-- `mcq`: те же ID и факты, варианты в `choices`, правильная буква в `answer_label`.
-  У бинарных случаев три варианта, у остальных четыре. Случайный выбор — 30.83% micro-accuracy.
-
-Это не независимые выборки. `context` содержит норму и необходимые зависимости:
-в closed-режиме он **не передаётся модели**, в grounded-режиме добавляется перед
-вопросом. `record_json` хранит исходные типизированные факты, proof и связи
-минимальных пар без потери структуры. `mcq_json` сохраняет канонические варианты
-и привязку к исходному вопросу. Эти поля служат проверке данных, не входу модели.
-
-`test` целиком используется для оценки и не уменьшается при добавлении few-shot.
-`train`, если он присутствует, содержит фиксированные демонстрации по отдельным
-статьям: нет пересечения ID, вопросов, тестовых статей и их зависимостей.
-LLMTF Foundational использует все 5 демонстраций расширенного выпуска; Instruct
-использует 0. Запрошенное число демонстраций не сокращается при нехватке контекста:
-такой запуск завершается ошибкой. Примеры из test не используются как few-shot.
-Общие legal-конфиги LLMTF включают оба режима: с текстом нормы и без него.
-В Foundational оценивается MCQ, в Instruct — и открытые ответы, и MCQ.
-
-## Построение и обоснование надёжности
-
-Для каждой нормы составлено правило с явными условиями и исключениями.
-Условия вопроса представлены как **набор значений юридически значимых
-признаков**: например, возраст, наличие согласия, известность нужного факта.
-В технических материалах такой набор назван «вектором фактов»; это не
-эмбеддинг и не отдельный вопрос датасета. Если условие неизвестно, проверяются
-все допустимые его значения: при разных ответах эталон — «недостаточно данных».
-
-Два отдельных автоматических прохода переводили источники в программные
-правила. Их результаты сверены на **886 допустимых комбинациях условий**:
-403 для пилота и ещё 483 для расширения. Учитывались как полностью заданные
-условия, так и случаи с неизвестными данными. Это проверки правил, а не
-886 тестовых вопросов. Оба прохода использовали ту же модель, поэтому
-совпадение результатов не исключает общей ошибки интерпретации закона.
-
-В отдельные копии записей намеренно внесли **180 ошибок** (90 в пилоте и 90
-в расширении): например, неверный эталон, пропущенное отрицание, неправильную
-дату или удалённое исключение. Ранее они назывались «контрольными повреждениями».
-Эти копии **не входят в test или train**; они проверяют, умеет ли валидатор
-отклонять заведомо ошибочные записи. Все 180 ошибок обнаружены. Это результат
-на заданных видах ошибок, а не доказательство отсутствия иных ошибок в наборе.
-
-Что именно менялось в контрольных копиях:
-
-| Вид ошибки | Внесённое изменение | Что должна обнаружить проверка |
-|---|---|---|
-| Неверный ответ | Эталон заменён на `999` | Ответ расходится с вычислением по правилу |
-| Изменённое условие | Один признак заменён с «да» на «нет» или наоборот, остальные поля сохранены | Условия расходятся с текстом и сохранённым выводом |
-| Пропущенное отрицание | Из вопроса удалено одно отдельное «не» | Формулировка расходится с исходными условиями |
-| Неверная часть статьи | Ссылка заменена на «несуществующая часть 999» | Ссылка расходится с рассмотренным источником |
-| Подменённая дата | `as_of` заменено на 2030 год в пилоте или 2099 год в расширении | Дата расходится с зафиксированной датой правила |
-| Несуществующий источник | ID источника заменён на отсутствующий | Запись не связана с рассмотренным документом |
-| Слишком широкий вопрос | Вывод из названной нормы заменён претензией на итог всего дела | Нарушена допустимая область вопроса |
-| Удалённое исключение | Удалена приоритетная ветвь правила; ответ и вывод пересчитаны | Вторая реализация правила даёт другой ответ |
-| Сдвинутая граница | Числовой порог правила увеличен на единицу; ответ и вывод пересчитаны | Вторая реализация правила даёт другой ответ |
-
-Подмена даты — **проверка согласованности записи**, а не эксперимент,
-подтверждающий правильность редакции на 01.01.2025. Аналогично простая замена
-эталона проверяет его связь с программой, а не правильность самой программы.
-Поэтому отдельно нужны описанный выше анализ источников и сверка правил.
-
-Затем проверялись формулировки вопросов, исключения, числовые границы и
-соответствие источникам; найденные неоднозначности исправлялись с сохранением
-журнала проверки. Для каждого ответа сохранён программный вывод (`proof`).
-Юристов и независимой человеческой экспертизы не было. Методика делает
-построение проверяемым и воспроизводимым, но не гарантирует юридическую
-безошибочность или полноту охвата права РФ.
-
-Полная [методика](METHODS.md), [грамматика scorer](SCORING.md),
-[пилотное сравнение Qwen3.5](PILOT_RESULTS.md).
-
-## Метрики
-
-Основная детерминированная метрика — normalized exact match с усреднением
-accuracy по статьям. Она использует общую грамматику коротких ответов, без
-модельных фраз-алиасов. Дополнительная метрика — LLM-судья эквивалентности
-фиксированному gold. Судья не создаёт и не исправляет юридические эталоны.
-Для MCQ выбирается вариант с максимальной вероятностью буквы и проверяется
-его точное совпадение с эталоном; судья не нужен.
-
-Нераспознанный scorer ответ может быть семантически верным. Судья тоже может
-ошибаться; в пилоте сохранены его исходные решения и отмечена найденная ошибка.
-Открытые и MCQ-результаты нельзя смешивать в один рейтинг.
-
-## Материалы проверки
-
-- `manifest.json`: состав публикации и SHA-256 файлов.
-- `audit/construction.tar.gz`: первичные источники, формальные правила, проверки,
-  реконструкции, выводы ответов (`proof`), контрольные копии с намеренными
-  ошибками и код сборки.
-- `audit/pilot_results.tar.gz`: сохранённые модельные ответы, API-запросы без
-  авторизационных заголовков, судейские решения и код воспроизведения таблиц.
-
-Архивы содержат пути от корня LLMTF-проекта. Извлекать их следует в отдельный
-рабочий каталог. Текущие метрики воспроизводятся из ответов; поля старого
-логгера в сырых журналах не являются самостоятельной метрикой.
+`open` и `mcq` — два представления одних и тех же примеров с одинаковыми ID.
+`open` требует короткий ответ; `mcq` — выбор правильной буквы из 2–4 вариантов.
+Для повторяемых экспериментов указывайте `revision` с полным ID Hub-коммита.
+
+`test` используется для оценки целиком. `train` содержит только пять
+демонстраций для few-shot, а не обучающую выборку. Его статьи, нормативные
+зависимости, вопросы и ID не пересекаются с тестовой частью.
+
+## Состав тестовой части
+
+| Источник | Примеров |
+| --- | ---: |
+| Федеральный закон № 59-ФЗ «О порядке рассмотрения обращений граждан Российской Федерации» | 40 |
+| Трудовой кодекс РФ | 47 |
+| Семейный кодекс РФ | 63 |
+| Гражданский кодекс РФ | 44 |
+
+В 93 вопросах все необходимые факты заданы. В 57 вопросах
+некоторые факты неизвестны, но все допустимые уточнения дают одинаковый ответ.
+В 44 вопросах допустимые уточнения дают разные ответы, поэтому эталон —
+«недостаточно данных».
+
+## Поля
+
+| Поле | Содержание |
+| --- | --- |
+| `id` | Идентификатор примера, общий для open и mcq |
+| `article` | Акт и статья, например `tk:140` |
+| `domain` | `administrative`, `labor`, `family` или `civil` |
+| `question` | Условие и вопрос; в mcq также перечислены варианты |
+| `answer` | Короткий эталонный ответ |
+| `answer_unit` | Единица числового ответа либо `none` |
+| `context` | Точные тексты выбранной нормы и необходимых зависимостей |
+| `source_url` | Ссылка на официальный источник |
+| `source_locator` | Выбранная часть или пункт статьи |
+| `record_json` | Исходная запись: типизированные факты, программный вывод ответа, ссылки и связи минимальных пар |
+| `choices` | Только mcq: варианты в порядке букв A–D |
+| `answer_label` | Только mcq: правильная буква |
+| `mcq_json` | Только mcq: варианты с их буквами и привязкой к исходному примеру |
+
+Отдельного столбца с датой среза нет. `record_json` сохраняет исходную запись
+без изменения её содержания; временная область также остаётся в тексте вопроса.
+
+В режиме закрытой книги передавайте модели только `question`. В режиме
+открытой книги добавляйте `context`. Поля с ответами и `record_json` не должны
+попадать в тестовый запрос к модели.
+
+## Как построен датасет
+
+Сначала подготовлены конкретные нормативные фрагменты, необходимые отсылки
+и ограничения применимости. Затем основной алгоритм работал только с этим
+зафиксированным входом:
+
+1. Модель записывала норму как правило с явными условиями и исключениями.
+2. Отдельный вызов модели независимо восстанавливал правило из тех же норм,
+   без доступа к условиям, ветвям и ответам первой версии.
+3. Модель сопоставляла признаки двух версий; программа сравнивала результаты
+   на допустимых сочетаниях фактов, включая неизвестные условия.
+4. Программа создавала вопросы, вычисляла ответы и сохраняла полный вывод.
+   Варианты MCQ выбирались из объявленных исходов правила.
+5. Модель решала вопросы без эталонов и формальных правил. Разногласия
+   отдельно разбирались; неоднозначные формулировки проходили итоговый аудит.
+6. Отклонённые вопросы удалялись. Проверялись дубликаты и разделение test/train.
+
+Основная модель — GPT-6.1 Sol, разбор разногласий — GPT-6 Astra, с запрошенным
+reasoning effort `high`. Сборка начата через OpenRouter и продолжена через
+подписочную прослойку. Во втором маршруте не поддерживаются `max_tokens` и
+принудительный JSON-формат; JSON проверяется самим построителем. Отдельные
+вызовы одной модели не являются независимой человеческой экспертизой.
+
+Целью были 300 тестовых вопросов. После содержательного отбора осталось
+194; отвергнутые статьи не добавлялись для заполнения квоты.
+Проверка перед публикацией воспроизвела итог без сети, повторно вычислила
+ответы и выводы, проверила варианты MCQ и отсутствие пересечений split.
+
+## Оценка
+
+Для открытых ответов LLMTF использует normalized exact match: нормализацию
+коротких категориальных ответов и точных чисел с учётом единиц. Основная метрика —
+средняя accuracy по статьям; micro-accuracy можно сообщать отдельно. Для MCQ
+проверяется совпадение выбранной буквы с `answer_label`.
+
+Вопросы одной статьи и минимальные пары зависимы: статистические сравнения
+следует проводить с группировкой по статьям. Открытый ответ и MCQ нельзя
+считать независимыми тестами. Старые результаты на выпусках 150 или 300
+вопросов не являются результатами этого выпуска.
 
 ## Ограничения
 
-Открытый синтетический набор узок и может попасть в обучение будущих моделей.
-Правовые квалификации в условиях заданы заранее. Unknown-случаи проверяют также
-следование формальным условиям, не только память о норме. Минимальные пары и
-случаи одной статьи зависимы; статистические сравнения выполняются по статьям.
-Методика развивалась после пилота и не является слепой предварительной регистрацией.
-Пилотные результаты на 150 вопросах нельзя переносить на расширенные выпуски без нового
-прогона. Отдельная лицензия на производный набор пока не объявлена.
+Набор проверяет узкие следствия заданных норм. Он не оценивает решение
+произвольных юридических дел, поиск всей применимой нормативной базы или
+актуальность российского права сегодня. Квалификации и часть ограничений
+задаются в условии, а неизвестность фактов трактуется формально.
+
+Автоматические проверки подтверждают согласованность записей и правил;
+они не исключают общей ошибки интерпретации нормы моделями. Независимая
+экспертиза юристами не проводилась. Пу��ликация может привести к попаданию
+примеров в обучение будущих моделей. Отдельная лицензия на производный
+набор пока не объявлена.
+
+В этом репозитории опубликованы только README и данные. Код построения
+и оценки находится в проекте [LLMTF](https://github.com/RefalMachine/llmtf_open).

SCORING.md

@@ -1,80 +0,0 @@
-# Детерминированная оценка RuLaw-ProofBench
-
-Метрика: **normalized exact match**. Реализация:
-[`scoring.py`](code/scoring.py).
-
-Это **точное совпадение после ограниченной нормализации**, а не оценка смыслового
-сходства. За вопрос начисляется 1 либо 0; итог — среднее accuracy по статьям.
-`format_valid` отдельно показывает, распознался ли ответ. Нераспознанный ответ
-получает 0 этой метрики, что само по себе не доказывает смысловую ошибку.
-
-## Полный контракт
-
-1. Unicode NFKC, нижний регистр, `ё → е`, свёртка пробелов, удаление внешних кавычек
-   и точек. Внутренняя пунктуация, отрицания и слова не удаляются.
-2. Категории: `да`, `нет`, `ничтожна`, `до отмены`; специальные ответы:
-   `недостаточно данных`, `не следует из указанной нормы`. Требуется вся строка,
-   а не вхождение правильного фрагмента. Для годичного срока принимаются `1 год`
-   и `год`, включая математически равную цифровую запись числа перед `год`.
-3. Количества записываются цифрами. Допустимы целое, десятичное число с точкой или
-   запятой и обыкновенная дробь. Единицу можно опустить или указать в принятой
-   форме: день/дня/дней; для календарных дней также соответствующая форма с
-   «календарный»; час/часа/часов; для часов в неделю также «в неделю».
-   Явно неверная единица не отбрасывается и делает ответ нераспознанным.
-4. Для доли дополнительно разрешены проценты и отдельный Unicode-символ дроби.
-   Числа сравниваются как точные рациональные значения: `1/4`, `2/8`, `0,25`,
-   `25%`, `¼` равны. `0,333` не равно `1/3`; округления и допуска нет.
-   Слитные смешанные Unicode-дроби вроде `17½` отклоняются, чтобы нормализация
-   не превратила их ошибочно в `171/2`.
-5. Других правил нет. Словесные числительные, синонимы категорий, «до N»,
-   «не более N», вводные слова, префикс «Ответ:» и полные предложения не
-   распознаются. Нельзя извлечь подходящее число из объяснения или выбрать
-   правильную часть противоречивого ответа.
-
-| Вход | Тип | Результат |
-|---|---|---|
-| `«ДА».` | категория | `да` |
-| `17,50 часов в неделю` | часы в неделю | `17.5` |
-| `35/2 часа в неделю` | часы в неделю | `17.5` |
-| `2/8`, `25%` | доля | `1/4` |
-| `5 часов` | дни | не распознан |
-| `не да`, `да, но нет` | категория | не распознан |
-| `Год со дня совершения` | срок | не распознан |
-| `Доверенность сохраняет силу в течение года со дня ее совершения` | срок | не распознан |
-
-Эта грамматика намеренно не является полным пониманием русского языка. В частности,
-«пять дней» может быть семантически верным, но не входит в цифровой формат.
-Такое ограничение одинаково для любого числа, статьи и модели. Оно должно
-раскрываться вместе с результатом, а не маскироваться под юридическую ошибку.
-
-Для сохранения сопоставимости прежних запусков вопросы не менялись: они требуют
-короткий ответ, но не во всех случаях явно запрещают словесную запись числа.
-Поэтому пересчёт сохранённых ответов — анализ чувствительности к протоколу оценки,
-а не новый слепой модельный эксперимент. Перед б��дущим выпуском можно явно
-включить грамматику в общую инструкцию; это потребует версии промпта и нового
-запуска всех сравниваемых моделей. В текущем выпуске инструкция не переписывалась.
-
-## Почему без мягкого пословного сходства
-
-Числовая ошибка, неверная единица или отрицание могут менять юридический вывод
-при почти одинаковом тексте. Пословный F1 или edit distance дали бы таким ответам
-высокий балл, не имеющий ясного юридического смысла. Частичные баллы не используются.
-Для содержательно эквивалентных свободных формулировок существует отдельная
-`llm_judge_accuracy`; для MCQ — точное совпадение выбранного варианта.
-
-## Проверки и фиксация
-
-Parser получает только текст и тип единицы. Он не получает имя модели, номер
-статьи или правильное значение; сравнение с gold выполняется после разбора.
-Числовые правила проверяются на диапазоне 0–99 и дробях, включая значения,
-которых нет в корпусе. Все канонические эталоны и MCQ-значения распознаются.
-
-В проекте используется один scorer. Его hash входит в provenance задачи,
-поэтому кэш с другой реализацией не считается результатом текущего расчёта.
-Все публикуемые таблицы пересчитываются одним текущим кодом из сохранённых ответов.
-
-Грамматика сформулирована после знакомства с пилотными результатами; это не
-независимая предварительная регистрация. Перед новой сравнительной серией
-её следует зафиксировать. Расширения требуют обоснования общим правилом,
-тестов на значения вне корпуса и пересчёта всех моделей, а не добавления
-одной фразы отдельной модели в алиасы.

audit/construction.tar.gz

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:ee917f7279e6d68cfc2fd161f4d6348df0e363fc85540aba7d3d111284f8cbef
-size 3259986

audit/pilot_results.tar.gz

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:b3a511841805878b7a2b4cebd91611b1aa50ebc1d91309105a3126ff289e1ced
-size 6388558

code/scoring.py

@@ -1,124 +0,0 @@
-"""Normalized exact match under a small, model-independent answer grammar.
-
-No sentence aliases, answer extraction, article-specific rules or fuzzy matching.
-See dev/rulaw_proofbench/SCORING.md for the complete accepted grammar.
-"""
-from collections import defaultdict
-from fractions import Fraction
-import re
-import unicodedata
-
-UNKNOWN = 'недостаточно данных'
-SCORER_NAME = 'normalized_exact_match'
-CATEGORIES = frozenset({'да', 'нет', 'ничтожна', 'до отмены'})
-SPECIAL = frozenset({UNKNOWN, 'не следует из указанной нормы'})
-UNITS = {
-    'days': r'(?:день|дня|дней)',
-    'calendar_days': r'(?:календарный день|календарных дня|календарных дней|день|дня|дней)',
-    'hours': r'(?:час|часа|часов)',
-    'hours_per_week': r'(?:час|часа|часов)(?: в неделю)?',
-}
-NUMBER = r'(?:[0-9]+(?:\.[0-9]+)?|[0-9]+\s*/\s*[0-9]+)'
-
-
-def normalize_text(text):
-    if not isinstance(text, str):
-        return None
-    # Reject adjoining mixed vulgar fractions: Unicode normalization would turn
-    # e.g. a whole number immediately followed by ½ into a different fraction.
-    if re.search(r'[0-9][¼½¾⅐⅑⅒⅓⅔⅕⅖⅗⅘⅙⅚⅛⅜⅝⅞]', text):
-        return None
-    value = unicodedata.normalize('NFKC', text).casefold().replace('ё', 'е').replace('⁄', '/')
-    value = ' '.join(value.split()).strip(' «»"\'.')
-    return value
-
-
-def _number(value):
-    if re.fullmatch(NUMBER, value) is None:
-        return None
-    try:
-        return Fraction(value.replace(' ', ''))
-    except (ValueError, ZeroDivisionError):
-        return None
-
-
-def _decimal(value):
-    # Exact finite decimal, without floating-point tolerance or rounding.
-    denominator = value.denominator
-    twos = fives = 0
-    while denominator % 2 == 0:
-        denominator //= 2
-        twos += 1
-    while denominator % 5 == 0:
-        denominator //= 5
-        fives += 1
-    if denominator != 1:
-        return str(value)
-    places = max(twos, fives)
-    scaled = value.numerator * 2 ** (places - twos) * 5 ** (places - fives)
-    if not places:
-        return str(scaled)
-    digits = str(scaled).zfill(places + 1)
-    return (digits[:-places] + '.' + digits[-places:]).rstrip('0').rstrip('.')
-
-
-def parse_answer(text, unit):
-    value = normalize_text(text)
-    if not value:
-        return None
-    if value in SPECIAL:
-        return value
-    if unit == 'none':
-        if value in CATEGORIES:
-            return value
-        # A singular unqualified unit denotes one unit; no prose is extracted.
-        if value == 'год':
-            return '1 год'
-        match = re.fullmatch(r'(.+?)\s*год', value)
-        if match and _number(match[1].replace(',', '.')) == 1:
-            return '1 год'
-        return None
-    if unit == 'fraction':
-        percent = value.endswith('%')
-        number = _number((value[:-1].strip() if percent else value).replace(',', '.'))
-        return str(number / 100 if percent else number) if number is not None else None
-    if unit in UNITS:
-        value = re.sub(r'\s*' + UNITS[unit] + r'$', '', value).replace(',', '.')
-        number = _number(value)
-        return _decimal(number) if number is not None else None
-    return None
-
-
-def score(sample,prediction):
-    parsed=parse_answer(prediction,sample['gold']['unit'])
-    return dict(id=sample['id'],article_key=sample['article_key'],question_type=sample['question_type'],
-                gold=sample['gold']['value'],prediction=parsed,correct=parsed==sample['gold']['value'],
-                format_valid=parsed is not None,pair_ids=sample['pair_ids'],
-                unknown_but_determinate=sample['unknown_but_determinate'])
-
-
-def aggregate(records):
-    if not records:raise ValueError('Empty RuLaw-ProofBench evaluation')
-    if len({r['id'] for r in records})!=len(records):raise ValueError('Duplicate RuLaw-ProofBench result IDs')
-    groups=defaultdict(list); types=defaultdict(list); pairs=defaultdict(list)
-    for r in records:
-        groups[r['article_key']].append(r);types[r['question_type']].append(r)
-        for pid in r['pair_ids']:pairs[pid].append(r)
-    acc=lambda rs:sum(r['correct'] for r in rs)/len(rs)
-    by_article={a:dict(count=len(rs),accuracy=acc(rs)) for a,rs in sorted(groups.items())}
-    macro=sum(x['accuracy'] for x in by_article.values())/len(by_article)
-    true_unknown=sum(r['gold']==UNKNOWN for r in records)
-    predicted_unknown=sum(r['prediction']==UNKNOWN for r in records)
-    correct_unknown=sum(r['gold']==UNKNOWN and r['prediction']==UNKNOWN for r in records)
-    complete=[rs for rs in pairs.values() if len(rs)==2]
-    invariant=[r for r in records if r['unknown_but_determinate']]
-    return macro,dict(primary='article_macro_accuracy',articles=by_article,micro_accuracy=acc(records),
-        by_type={t:dict(count=len(rs),accuracy=acc(rs)) for t,rs in types.items()},
-        format_valid_rate=sum(r['format_valid'] for r in records)/len(records),
-        insufficient=dict(gold_count=true_unknown,predicted_count=predicted_unknown,correct=correct_unknown,
-                          precision=correct_unknown/predicted_unknown if predicted_unknown else None,
-                          recall=correct_unknown/true_unknown if true_unknown else None),
-        unknown_but_determinate=dict(count=len(invariant),accuracy=acc(invariant) if invariant else None),
-        minimal_pairs=dict(complete=len(complete),partial=sum(len(rs)==1 for rs in pairs.values()),
-                           both_correct=sum(all(r['correct'] for r in rs) for rs in complete)/len(complete) if complete else None),
-        evaluated_count=len(records))

data/mcq/test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:815895c5cc87a867329f8eb5b8f0f53d1dc73c4ac71b03a58ca1fe84c8205d2c
-size 199573
+oid sha256:96115bf23d97d2376728124759f23c59037c84c30211ca7121854a0f4b6f2d33
+size 198087

data/mcq/train.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:3c2a348e03d12675b5035306f0b07312c8459fa776cf6ef75357230684b544e7
-size 41841
+oid sha256:adb821da7a5d5d699b322b8bb5e87f75ea39238b05f8e2d4d8203df75c7d8ddb
+size 45078

data/open/test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:e34cc5111e4eb7b7ae72f3901c196b9482340fcbffc123307252b329528dab1f
-size 126823
+oid sha256:10ea4a4bd96c4e43a1c2b337bd8ac8fdc80613623dc6d4faa293e6c71f543f71
+size 152903

data/open/train.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:54ce169e91cbfb1f0691e2560d08d47087947e623d80a18b65e0c48c5851554b
-size 28624
+oid sha256:1a8312983b136fb1c2ca9a3e4b3896755caac8fb9a5d98bf404422c2585b5e2d
+size 33010

manifest.json

@@ -1,37 +0,0 @@
-{
-  "dataset_name": "RuLaw-ProofBench",
-  "repository": "RefalMachine/RuLaw-ProofBench",
-  "as_of": "2025-01-01",
-  "test_count": 300,
-  "demonstration_count": 5,
-  "article_count": 30,
-  "files": {
-    "data/open/test.parquet": {
-      "sha256": "e34cc5111e4eb7b7ae72f3901c196b9482340fcbffc123307252b329528dab1f",
-      "rows": 300
-    },
-    "data/open/train.parquet": {
-      "sha256": "54ce169e91cbfb1f0691e2560d08d47087947e623d80a18b65e0c48c5851554b",
-      "rows": 5
-    },
-    "data/mcq/test.parquet": {
-      "sha256": "815895c5cc87a867329f8eb5b8f0f53d1dc73c4ac71b03a58ca1fe84c8205d2c",
-      "rows": 300
-    },
-    "data/mcq/train.parquet": {
-      "sha256": "3c2a348e03d12675b5035306f0b07312c8459fa776cf6ef75357230684b544e7",
-      "rows": 5
-    },
-    "audit/construction.tar.gz": {
-      "sha256": "ee917f7279e6d68cfc2fd161f4d6348df0e363fc85540aba7d3d111284f8cbef"
-    },
-    "audit/pilot_results.tar.gz": {
-      "sha256": "b3a511841805878b7a2b4cebd91611b1aa50ebc1d91309105a3126ff289e1ced"
-    },
-    "code/scoring.py": {
-      "sha256": "5598e97a0c661fe567d70ea5557ec63f40b3adbda0253368a028cc8453dc8852"
-    }
-  },
-  "expert_review": false,
-  "construction_validation": "construction_validated"
-}