Clarify legal cutoff checks and validation error examples

METHODS.md

@@ -24,6 +24,13 @@
 
 ## Источники и дата
 
+Дата 01.01.2025 выбрана автоматическим исполнителем при сборке как единый
+исторический срез. Исходный протокол требовал зафиксировать `as_of`, но не
+предписывал этот день. Специального научного основания именно для него нет;
+это не дата актуальности законодательства сегодня, публикации датасета или
+граница знаний оцениваемых моделей. Смена даты потребует повторной проверки
+применимых редакций и эталонов, а не только замены поля в вопросах.
+
 Основой служат полные официальные выгрузки pravo.gov.ru: исходные HTML/MIME,
 детерминированно извлечённый текст, URL, номера редакций, локаторы и SHA-256.
 Проверяются полнота документа, повторное извлечение и точные цитаты.
@@ -45,6 +52,13 @@
 Проверка ограничена выбранными положениями и их областью применения; максимальные
 интервалы действия всех норм или юридическая актуальность целых кодексов не заявляются.
 
+По сохранённым результатам аудита приняты все использованные фрагменты, включая
+необходимые отсылки. Содержательный вывод о применимости делает автоматический
+агент при чтении документов. Валидатор затем проверяет согласованность дат,
+ссылок, цитат и хешей с этими материалами; он не восстанавливает самостоятельно
+полную историю законодательства. Поэтому ошибка чтения или толкования исходного
+документа возможна даже при успешном выполнении всех программных проверок.
+
 ## Формализация и эталон
 
 Для каждой статьи вручную задаётся карточка: область вопроса, исключения,
@@ -52,17 +66,20 @@
 единица ответа, цитаты-основания и зависимости. Это работа модели и разработчика,
 а не экспертная юридическая разметка. Карточка ограничивает интерпретацию вопроса.
 
-Каждый конкретный вопрос задаёт вектор фактов. Для отсутствующих фактов
+Каждый конкретный вопрос задаёт значения юридически значимых признаков:
+например, возраст, наличие согласия и известность обстоятельства.
+Такую комбинацию в коде называют «вектором фактов»; это не эмбеддинг.
+Для отсутствующих фактов
 перебираются все допустимые заполнения конечного домена. Если все заполнения
 дают одно следствие, оно становится gold; если следствия различаются — gold
 «недостаточно данных». Неизвестный факт не заменяется ложью. Несовместимые
-заполнения исключаются явно; вектор без совместимых заполнений отвергается.
+заполнения исключаются явно; набор условий без совместимых заполнений отвергается.
 Если запрошенное числовое следствие выбранной нормы не устанавливается,
 используется отдельный ответ «не следует из указанной нормы».
 
 `proof` хранит заполнения, сработавшие ветви и множество исходов; gold связан
-с хешем карточки. ID образуется из ID правила и хеша канонического вектора.
-Порядок детерминирован seed=555. Отбор задаётся явными списками векторов:
+с хешем карточки. ID образуется из ID правила и хеша канонически записанных условий.
+Порядок детер��инирован seed=555. Отбор задаётся явными списками комбинаций условий:
 границы, исключения, неизвестность с неоднозначным и с однозначным результатом.
 Это целевой набор стрессовых микрослучаев, не случайная выборка реальных дел.
 
@@ -76,10 +93,12 @@
 Отдельный изолированный проход получает официальные источники, но не первичные
 новые карточки и gold. Он строит собственные функции и именованные схемы фактов.
 Затем явный адаптер сопоставляет схемы и именно запрошенные следствия.
-Для пилота проверены 158 полных миров и 403 всех допустимых полных/частичных
-вектора; для 15 новых тестовых и 5 демонстрационных статей — ещё 171 и 483.
-Полные миры входят в число всех векторов: эти числа нельзя складывать внутри
-одного прохода. Итого проверено 886 допустимых полных/частичных векторов.
+Для пилота проверены 158 комбинаций с полностью известными условиями и
+403 допустимые комбинации с учётом неизвестных условий; для 15 новых тестовых
+и 5 демонстрационных статей — ещё 171 и 483 соответственно. Полностью заданные
+условия входят в общее число: эти числа нельзя складывать внутри одного
+прохода. Итого проверено 886 допустимых комбинаций условий. Это проверка
+программных правил, а не число вопросов в датасете.
 
 Оба прохода выполнены автоматическими агентами той же модели. Разделение
 контекста уменьшает прямое копирование реализации, но не устраняет общие
@@ -101,19 +120,34 @@
 просмотренных карточек и генератора; изменение формулировок требует повторного
 аудита, а не автоматического обновления отметки о проверке.
 
-## Контролируемые повреждения
+## Проверка валидатора на намеренно внесённых ошибках
 
-Пилот содержит 90 повреждений, расширение — ещё 90: по 10 для неверного gold,
+В отдельные копии записей внесены известные ошибки: 90 для пилота и ещё 90
+для расширения. Эти копии не включаются в оценочный test или демонстрационный
+train. В каждом этапе создано по 10 примеров для неверного gold,
 инверсии условия, удаления отрицания, неверного локатора, даты, источника,
 расширения области вывода, удаления исключения и изменения числовой границы.
 Все обнаружены; чистые записи новых статей и демонстраций не отвергнуты.
-При повреждении правила согласованно пересоздаются текст, proof и gold;
+При намеренном изменении правила согласованно пересоздаются текст, proof и gold;
 такие случаи должны быть пойманы независимой реконструкцией, а не лишь хешем.
 
-Это проверка чувствительности валидатора к известным видам повреждений,
-не оценка доли неизвестных юридических ошибок. Набор повреждений открыт и
+Это проверка чувствительности валидатора к известным видам ошибок,
+не оценка доли неизвестных юридических ошибок. Контрольные копии открыты и
 не является слепым сравнением с произвольной LLM-генерацией.
 
+Конкретные изменения: эталон заменяется на `999`, дата — на `2030-01-01`
+в пилоте или `2099-01-01` в расширении, часть статьи — на «несу��ествующая
+часть 999», ID источника — на отсутствующий. В условиях инвертируется один
+булев признак без изменения остальных полей, из текста удаляется одно «не».
+В двух более сложных проверках удаляется приоритетная ветвь правила или
+увеличивается числовой порог на единицу; затем заново вычисляются ответ и
+вывод, чтобы простая сверка между полями не была достаточным детектором.
+
+Обнаружение подмены даты означает лишь, что запись не соответствует принятому
+срезу. Оно не подтверждает, что исходная редакция юридически верна на эту дату.
+Так же обнаружение ответа `999` не подтверждает правильность исходного правила.
+Результаты этого эксперимента нельзя выдавать за оценку юридической точности.
+
 ## Открытые ответы, MCQ и few-shot
 
 Открытая версия задаёт короткий ответ. Основная метрика — нормализованное полное

README.md

@@ -47,6 +47,40 @@ mcq_test = load_dataset("RefalMachine/RuLaw-ProofBench", "mcq", split="test")
 LLMTF загружает Parquet из этого репозитория по закреплённой revision и проверяет
 SHA-256 файла. Локальные примеры не подменяют опубликованные данные.
 
+## Почему указано 01.01.2025
+
+Это выбранная при сборке **единая дата правового среза**: ответы должны
+соответствовать выбранным положениям, действовавшим на этот день. Исходный
+протокол требовал зафиксировать дату, но не задавал именно 01.01.2025.
+Её выбрал автоматический исполнитель; специального научного обоснования
+именно этого дня нет. Это не дата публикации датасета, не утверждение об
+актуальности норм сегодня и не предполагаемая граница знаний моделей.
+
+Дата проверялась по источникам, а не только записывалась в вопросы:
+
+1. Сохранены официальные тексты с pravo.gov.ru, номера редакций и точные
+   фрагменты, на которых основаны ответы, включая необходимые отсылки.
+2. Выбранные фрагменты сопоставлены между редакциями; дополнительно изучены
+   применимые законы о поправках, даты вступления в силу и переходные положения.
+   Одного совпадения текстов или даты редакции всего кодекса недостаточно.
+3. Более поздние изменения не переносились на выбранную дату. Например,
+   при проверке 59-ФЗ отдельно учтено, что изменения по 547-ФЗ вступают в силу
+   30.03.2025, то есть после даты среза.
+4. Источники, цитаты и результаты проверок сохранены в `edition_audit.json`
+   и `expansion_source_review.json` внутри `audit/construction.tar.gz`.
+
+По результатам этого аудита все использованные фрагменты приняты как
+соответствующие 01.01.2025. Утверждение относится к выбранным положениям,
+необходимым отсылкам и условиям вопросов, а не ко всем нормам четырёх актов.
+
+Здесь два уровня контроля. **Содержательный вывод о действии нормы** делали
+автоматические агенты, читая документы; юрист его не подтверждал.
+**Программные проверки** сверяют дату и ссылки записи с рассмотренным правилом,
+точность цитат, хеши источников и наличие завершённых проверок. Они защищают
+от подмены и рассогласования материалов, но не умеют заново доказывать
+применимость любого закона на заданный день. Поэтому ошибка исходного аудита
+всё ещё возможна; совпадение SHA-256 её не исключает.
+
 ## Два представления одного теста
 
 - `open`: короткий открытый ответ; `answer` содержит эталон.
@@ -65,17 +99,56 @@ SHA-256 файла. Локальные примеры не подменяют о
 LLMTF Foundational использует все 5 демонстраций расширенного выпуска; Instruct
 использует 0. Запрошенное число демонстраций не сокращается при нехватке контекста:
 такой запуск завершается ошибкой. Примеры из test не используются как few-shot.
+Общие legal-конфиги LLMTF включают оба режима: с текстом нормы и без него.
+В Foundational оценивается MCQ, в Instruct — и открытые ответы, и MCQ.
 
 ## Построение и обоснование надёжности
 
-Официальные снимки норм → явно ограниченные правила → две автоматические
-реконструкции → перебор совместимых фактов → эталон и proof → контролируемая
-русская формулировка → проверка источников, исключений и границ → фиксация хешей.
-Пилот: 403 полных/частичных вектора, 90 контрольных повреждений. Расширение:
-ещё 483 вектора по 15 новым тестовым и 5 демонстрационным статьям, ещё 90 повреждений.
-Для расширения отдельно проверены источники, даты и языковые контрпримеры.
-Юристов и независимой человеческой экспертизы не было.
-Эти проверки обосновывают воспроизводимость конструкции, а не юридическую
+Для каждой нормы составлено правило с явными условиями и исключениями.
+Условия вопроса представлены как **набор значений юридически значимых
+признаков**: например, возраст, наличие согласия, известность нужного факта.
+В технических материалах такой набор назван «вектором фактов»; это не
+эмбеддинг и не отдельный вопрос датасета. Если условие неизвестно, проверяются
+все допустимые его значения: при разных ответах эталон — «недостаточно данных».
+
+Два отдельных автоматических прохода переводили источники в программные
+правила. Их результаты сверены на **886 допустимых комбинациях условий**:
+403 для пилота и ещё 483 для расширения. Учитывались как полностью заданные
+условия, так и случаи с неизвестными данными. Это проверки правил, а не
+886 тестовых вопросов. Оба прохода использовали ту же модель, поэтому
+совпадение результатов не исключает общей ошибки интерпретации закона.
+
+В отдельные копии записей намеренно внесли **180 ошибок** (90 в пилоте и 90
+в расширении): например, неверный эталон, пропущенное отрицание, неправильную
+дату или удалённое исключение. Ранее они назывались «контрольными повреждениями».
+Эти копии **не входят в test или train**; они проверяют, умеет ли валидатор
+отклонять заведомо ошибочные записи. Все 180 ошибок обнаружены. Это результат
+на заданных видах ошибок, а не доказательство отсутствия иных ошибок в наборе.
+
+Что именно менялось в контрольных копиях:
+
+| Вид ошибки | Внесённое изменение | Что должна обнаружить проверка |
+|---|---|---|
+| Неверный ответ | Эталон заменён на `999` | Ответ расходится с вычислением по правилу |
+| Изменённое условие | Один признак заменён с «да» на «нет» или наоборот, остальные поля сохранены | Условия расходятся с текстом и сохранённым выводом |
+| Пропущенное отрицание | Из вопроса удалено одно отдельное «не» | Формулировка расходится с исходными условиями |
+| Неверная часть статьи | Ссылка заменена на «несуществующая часть 999» | Ссылка расходится с рассмотренным источником |
+| Подменённая дата | `as_of` заменено на 2030 год в пилоте или 2099 год в расширении | Дата расходится с зафиксированной датой правила |
+| Несуществующий источник | ID источника заменён на отсутствующий | Запись не связана с рассмотренным документом |
+| Слишком широкий вопрос | Вывод из названной нормы заменён претензией на итог всего дела | Нарушена допустимая область вопроса |
+| Удалённое исключение | Удалена приори��етная ветвь правила; ответ и вывод пересчитаны | Вторая реализация правила даёт другой ответ |
+| Сдвинутая граница | Числовой порог правила увеличен на единицу; ответ и вывод пересчитаны | Вторая реализация правила даёт другой ответ |
+
+Подмена даты — **проверка согласованности записи**, а не эксперимент,
+подтверждающий правильность редакции на 01.01.2025. Аналогично простая замена
+эталона проверяет его связь с программой, а не правильность самой программы.
+Поэтому отдельно нужны описанный выше анализ источников и сверка правил.
+
+Затем проверялись формулировки вопросов, исключения, числовые границы и
+соответствие источникам; найденные неоднозначности исправлялись с сохранением
+журнала проверки. Для каждого ответа сохранён программный вывод (`proof`).
+Юристов и независимой человеческой экспертизы не было. Методика делает
+построение проверяемым и воспроизводимым, но не гарантирует юридическую
 безошибочность или полноту охвата права РФ.
 
 Полная [методика](METHODS.md), [грамматика scorer](SCORING.md),
@@ -98,7 +171,8 @@ accuracy по статьям. Она использует общую грамм
 
 - `manifest.json`: состав публикации и SHA-256 файлов.
 - `audit/construction.tar.gz`: первичные источники, формальные правила, проверки,
-  реконструкции, proof, контролируемые повреждения и код сборки.
+  реконструкции, выводы ответов (`proof`), контрольные копии с намеренными
+  ошибками и код сборки.
 - `audit/pilot_results.tar.gz`: сохранённые модельные ответы, API-запросы без
   авторизационных заголовков, судейские решения и код воспроизведения таблиц.