RuLaw-ProofBench: расширенный выпуск

Рабочее название — RuLaw 2.0. Корпус содержит 505 тестовых вопросов по 71 статьям и 20 демонстраций. Нормативный срез — 01.01.2025. Используются только ТК РФ, СК РФ, часть первая ГК РФ и 59-ФЗ. Предыдущий выпуск (194 test + 5 train) доступен по закреплённой ревизии 6e753317f0a7d17c92ca243c85aa0c2ef7a7cecc. Результаты разных выпусков следует сопоставлять с явным указанием версии и протокола.

Автор принял фактический состав до оценки моделей. Исходная цель баланса 40/30/30 не является критерием этого выпуска; реальные количества приведены ниже. Проверки содержания и разделения train/test сохранены.

Протокол

open и mcq — представления одних случаев с общими IDs. В open требуется короткий ответ, в mcq — буква одного из 2–4 вариантов. Вариант «недостаточно данных» присутствует в каждом MCQ. Он обозначает несколько различных выводов при допустимых уточнениях фактов, а не незнание нормы. Неизвестность факта не равна его отсутствию. Если все допустимые уточнения дают один результат, эталоном является этот результат.

Условия	Количество
Полные	280
Неполные, но однозначные	125
Неоднозначные	100

Область	Количество
Обращения граждан, 59-ФЗ	67
Трудовое право	223
Семейное право	114
Гражданское право, часть первая ГК РФ	101

Каждая статья содержит не более десяти тестовых вопросов. Состав типов условий соответствует приведённой выше таблице. Результаты оцениваемых моделей не использовались для отбора test.

Демонстрации

train — отдельный пул демонстраций. Он отделён от test по основным статьям, нормативным зависимостям, IDs и нормализованным вопросам. Основной режим — фиксированный 5-shot; поддерживается также 0-shot. Порядок основной пятёрки:

1. Полные условия, «да».
2. Неполные однозначные условия, «нет».
3. Полные условия, «не следует из указанной нормы».
4. Неполные однозначные условия, числовой ответ.
5. Неоднозначные условия числового вопроса, «недостаточно данных».

Фиксированные IDs в этом порядке:

• v2-3b3b4fa138be5488a6f9
• v2-40b5b87e704a2c16f022
• v2-f11ba975e9a6aa85ce74
• v2-53953b76036d58175e83
• v2-5d800c23c8b5407341ee

Пятёрка использует пять разных статей и не менее трёх областей, не более двух примеров одной области. Из допустимых наборов выбран кратчайший по суммарной длине question + context в Unicode-символах; равенства разрешены по IDs. Она не покрывает все возможные сочетания ответа, условий и отрасли.

Данные и оценка

Поля question и context содержат публичный вопрос и нормативные фрагменты. Закрытый режим использует только вопрос, grounded — также контекст. answer, answer_unit, answer_label, record_json и mcq_json содержат эталон и аудиторские сведения; их нельзя передавать модели как тестовый вход. record_json сохраняет факты, программный вывод, ссылки и связи минимальных пар.

Основная метрика — средняя accuracy по статьям. Дополнительно сообщаются micro accuracy, ошибки формата, precision/recall и ложные ответы недостаточности, результаты по типам условий, минимальным парам и происхождению случаев. Интервалы сравнения моделей следует строить по статьям с проверкой устойчивости при объединении статей, имеющих общие нормативные зависимости.

Open использует точное совпадение после ограниченной нормализации. Числа записываются цифрами: целые, точные десятичные или обыкновенные дроби; для долей допустимы проценты. Разрешены соответствующие единицы, включая месяцы и годы. Годы и месяцы не переводятся в фиксированное количество дней. Объяснения, словесные числительные, «до N», «не более N» и противоречивые ответы не извлекаются и не исправляются scorer. MCQ оценивается по вероятностям показанных букв.

Построение и ограничения

Принятые нормативные фрагменты и ограничения применения подготовлены отдельно. Построение включает две изолированные формализации, сравнение конечных миров, программное вычисление эталонов, слепое решение и аудит текста. Использованы gpt-6.1-sol и gpt-6-astra для разбора расхождений, effort high. Согласие этих проверок не заменяет независимой экспертной юридической проверки.

Прежние случаи повторно проверены; для каждого старого ID ведётся перечень сохранений и исключений. Замены на уровне статьи не выдаются за соответствие вопросов один к одному. Поле origin различает сохранённые случаи (retained), новые случаи (new) и случаи по переработанной формализации прежней статьи (revised_article). Последние содержат previous_article_ids; это связь на уровне статьи, а не утверждение о точном соответствии старому вопросу. Префикс v2- исторических IDs не обозначает этот выпуск: версия определяется manifest и контрольными суммами файлов.

Это синтетическая проверка выбранных норм и ограниченных ситуаций, а не оценка всех отраслей российского права или способности давать юридические консультации. Исторические результаты на прежнем корпусе и прежних промптах не являются результатами этого выпуска. Для сравнения требуется новая генерация ответов.