Цифровой помощник или угроза независимости? Верховный суд определил правила ИИ в судопроизводстве

Утверждение Концепции знаменует переход к системной стратегии цифровизации правосудия. Эта мера необходима, так как разработки ИИ-моделей для помощи судьям уже ведутся. Например, впервые в России кафедрой судебной деятельности и уголовного процесса имени профессора П.М. Давыдова УрГЮУ им. В.Ф. Яковлева разработан алгоритм помощи судьям по проверке и подготовке проектов постановлений об избрании и продлении меры пресечения по уголовному делу.

Цель определена в самой Концепции — повышение потенциала судебной системы и эффективности судов при безусловном сохранении ключевой роли судьи.

В Концепции закреплены восемь принципов: защита прав и свобод, вспомогательный характер ИИ, законность, прозрачность и объяснимость, качество и достоверность, публичный порядок и этика, конфиденциальность, технологическая независимость. Последний принцип прямо ориентирует на отечественные решения и закрытый контур. Правовая основа — Конституция, Федеральный закон от 26.07.2026 № 243-ФЗ и Национальная стратегия развития ИИ до 2030 г.

Концепция охватывает весь жизненный цикл судебного дела: интеллектуальная подача и первичная обработка документов; классификация и распределение дел; поддержка судебного заседания (протоколирование, перевод, подсказки); помощь при работе с делом (анализ доказательств, поиск практики, предупреждение об отклонении от нее, справочные рекомендации по наказанию); генерация проектов судебных актов; анализ практики; автоматизация статистики.

Наиболее чувствительны блоки 8.4.3–8.4.4 и 8.5: они вторгаются в оценку доказательств, квалификацию и назначение наказания. Концепция называет их вспомогательными, но процессуальный статус таких рекомендаций не определен.

Создается Центр судебных компетенций в сфере ИИ, внедрение будет поэтапным: «аудит процесса — пилотирование — оценка — масштабирование». Матрица рисков включает галлюцинации моделей, cистематическое смещение (bias) обучающих данных, утечки, кибератаки, снижение независимости судьи, профайлинг судей, технологическую зависимость, сопротивление сообщества, деградацию модели, подачу сгенерированных материалов с недостоверными ссылками, бюджетные риски и нарушение права на справедливое разбирательство. Предусмотрены поисковая дополненная генерация (RAG) со ссылками на источник, запрет публичных ИИ-сервисов, изолированный контур, обезличивание, журналирование взаимодействий и обязательная мотивировка отклонения ИИ-рекомендации. Это свидетельствует о зрелом подходе к риск-менеджменту.

Целевые показатели к 2030 г. — амбициозны: более 95% судей будут использовать ИИ-сервисы постоянно; сроки рассмотрения типовых дел должны сократиться на 20–30%; не менее 90% протоколов готовятся с ИИ; 30–50% проектов документов генерируются; не менее 80% проектов утверждаются без существенных правок; точность анализа доказательств — ≥ 90%; поиск релевантных актов — ≤ 3 сек.; снижение отмен и изменений судебных актов — на 15–20%; не менее 30% участников используют сервисы.

Трудности Концепции — отсутствие процессуальных гарантий:

— неясно, как сторона узнает о применении ИИ, как оспаривать его выводы и как судья должен отражать в судебном акте отклонение рекомендации ИИ;

— принцип объяснимости трудно совместим с природой больших языковых моделей. RAG повышает проверяемость ссылок, но не объясняет логику;

— сохраняется риск «автоматизационного уклона»: даже справочная рекомендация может неявно влиять на судью. Не решен вопрос ответственности за ошибку ИИ;

— качество обучения требует независимого аудита и фильтрации ошибочных решений; — сроки: обеспечение доступа всех судов к ИИ-сервисам уже во II кв. 2027 г. требует огромных ресурсов и кибербезопасности.

Концепция — взвешенный эволюционный документ, фиксирующий ИИ как помощника, а не субъект правосудия. Однако для реального внедрения необходимы изменения в процессуальные кодексы, регламенты верификации, распределение ответственности и гарантии прав сторон.

Концепция затрагивает механизм подготовки судебного решения. Поиск практики, анализ материалов и создание проектов актов влияют на то, какие обстоятельства судья заметит и какие доводы сочтет убедительными. Условием внедрения считаю сохранение самостоятельности судебного суждения и возможности проверить каждый существенный вывод алгоритма.

Автоматизация способна снизить нагрузку на судей и аппарат, особенно при кадровом дефиците. Но высвобождение времени еще не гарантирует более внимательного рассмотрения споров. Если вслед за внедрением ИИ увеличатся нормативы нагрузки, технологический выигрыш будет поглощен ростом числа дел (а именно этот сценарий является наиболее вероятным, так как с ИИ доступ к правосудию получает большее количество людей). Оценивать результат следует и по тому, получает ли судья больше времени на исследование доказательств. Проверка машинного текста требует ресурсов: найти правдоподобную ошибку бывает сложнее, чем подготовить документ.

Наиболее спорное положение Концепции находится в матрице рисков: для защиты независимости судьи предусмотрена обязательная мотивировка отклонения рекомендации ИИ. Возникает асимметрия: несогласие с машиной требует отдельного объяснения, а согласие оказывается организационно проще. Напряжение усиливает ориентир на утверждение не менее 80% проектов без существенных правок. Он не обязывает принимать предложенный текст, однако способен поощрять такое поведение при формальной оценке эффективности. Полагаю, необходимо исключить использование этого показателя для оценки конкретного судьи. Проверке подлежит обоснованность решения независимо от его совпадения с рекомендацией.

Требует конкретизации и разграничение ответственности. Ошибка судебного суждения, дефект программы и нарушение режима доступа к данным имеют разные причины и правовые последствия. Сохранение за судьей окончательного решения само по себе не освобождает оператора или разработчика от ответственности за собственные нарушения. Концепция не устанавливает исчерпывающего порядка возмещения вреда от применения судебного ИИ. Для установления причины ошибки необходимо сохранять сведения о версии системы, использованных материалах и выданном результате.

Прозрачность должна работать для участников процесса. Если ИИ неверно пересказал возражения ответчика, стороне нужна возможность обнаружить искажение и оспорить основанный на нем вывод. Фиксация взаимодействий с системой полезна, но сама по себе не определяет порядок доступа к юридически значимым результатам ее работы. Такой порядок предстоит согласовать с тайной совещания судей и защитой персональных данных. Без процедуры рассмотрения возражений технический журнал не станет полноценной процессуальной гарантией.

Предупреждения об отклонении от практики также нуждаются в ограничениях. Частота определенного решения не доказывает его правильность в новом деле. Иначе редкая, но обоснованная позиция будет восприниматься как сбой. Особенно опасен такой подход при назначении наказания, которое требует индивидуализации. Нельзя считать чисто технической и кассационную проверку: выбор применимой нормы и оценка существенности нарушения требуют правового суждения даже без переоценки доказательств.

Отечественное происхождение модели и закрытый контур снижают отдельные риски, но не устраняют их полностью. Защита должна охватывать всю цепочку обработки, включая запросы и журналы: они тоже могут содержать чувствительные сведения. Нужны разграничение доступа и контроль действий пользователей. Подлинность найденного судебного акта также недостаточна: система способна сослаться на реальный источник и ошибочно применить его к другим обстоятельствам.

Успех реформы следует измерять качеством защиты права. Для стороны в процессе результатом внедрения ИИ должно стать решение, в котором его доводы действительно рассмотрены, причины их принятия или отклонения понятно объяснены, а допущенную ошибку можно эффективно обжаловать.

Самое интересное в документе — таблица из 12 рисков с оценкой вероятности, последствий и мерами защиты в последнем приложении. Этот блок наглядно показывает, чего именно опасаются авторы и как они планируют действовать. К документу остаются два вопроса: понимают ли разработчики логику нейросети и поведение человека, доверившегося ее подсказке. Если на первый вопрос ответ утвердительный, то на второй, скорее, пока нет.

Главный риск назван прямо: галлюцинации — выдача несуществующих норм, судебных актов и цитат. Авторы верно оценивают их вероятность и ущерб как критически высокие. Документ прямо говорит о природе языковых моделей: они не помнят тексты законов, а лишь генерируют убедительную последовательность, из-за чего их ошибки выглядят как реальные цитаты с вымышленными номерами статей и реквизитами.

Защита от этого выбрана системная: публичные чат-боты под запретом, а судебный ИИ обязан генерировать ответы только на основе верифицированной базы данных с обязательными ссылками на первоисточник.

Еще один сильный шаг — работа с человеческим фактором. Вместо административного принуждения, которое обычно приводит к фиктивным отчетам, авторы выбрали добровольность. На этапе пилота судьи могут не использовать новые функции.

Самый тонкий риск матрицы – снижение независимости и инициативности судьи. С одной стороны, ИИ запрещено подставлять готовый ответ на экран «по умолчанию». С другой — судью обязывают письменно мотивировать любой отказ от рекомендаций алгоритма (согласие при этом обосновывать не требуется).

Три дополнительных риска, на которые нужно обратить внимание:

1. «Замкнутый круг» обучения. Чтобы система не деградировала, ее предполагается регулярно дообучать, а учебным материалом служит судебная практика. Через год-два она будет состоять в том числе из решений, которые система помогала писать: модель начнет учиться на собственных текстах, и в Пленум и кассацию пойдет все более однородный материал. Живое развитие права сменится искусственной однородностью и единообразием.

2. Документ как способ управлять программой. На вход системе поступают иски, жалобы и возражения сторон, и текст в таком документе может быть адресован не судье, а ИИ —встроенная фраза способна изменить поведение модели при обработке дела. Матрица знает риск кибератак на инфраструктуру и риск подложных ссылок в материалах, но обращение стороны напрямую к алгоритму через обычный процессуальный документ или «внедренный» промпт как скрытую манипуляцию не описано нигде.

3. Новый вид процессуального неравенства сторон. Целевые показатели предполагают, что к 2030 г. судебными ИИ-сервисами будут пользоваться не менее 30 % участников процесса. Про остальных семьдесят не сказано ничего. Представитель, умеющий составить документ так, чтобы ИИ верно вычленил доводы, получит преимущество, не связанное с существом спора. Исход дела может зависеть от индивидуальных ИТ-компетенций, а не от правоты стороны.

Матрица обновляется не реже раза в полугодие, и ближайшая редакция покажет, рабочий ли это инструмент или дополнение. В нынешней редакции Концепции удалось детально описать все, что касается аппаратной и программной части. Главный вызов для авторов сейчас — переключить внимание с технологий на человека, который будет с ними работать.