Все чаще при применении ИИ вероятен риск «невидимого посредничества» между компанией и клиентом: какие товары пользователь увидит первыми, какие предложения будут названы «персональными», какие условия окажутся в фокусе внимания, а какие останутся на периферии интерфейса. Формально выбор по-прежнему может делать человек, но цифровая среда, в которой этот выбор совершается, все чаще проектируется алгоритмами. Для права это означает важный сдвиг. В материале исследованы подходы к тому, как ИИ меняет поведение потребителей, какие риски возникают для бизнеса, и сделаны собственные выводы о том, почему необходимо учитывать не только правовые документы, но и дизайн цифрового продукта.
По общему правилу клиент заходит на сайт или в приложение, видит условия и сам выбирает товар, подписку, кредитный продукт, инвестиционный портфель или способ оплаты. Что может измениться с появлением ИИ?
С развитием цифровых платформ, рекомендательных систем, скоринговых моделей и генеративного ИИ интерфейс теперь может не просто показывать витрину. Он может решать, что именно попадет на экран, в каком порядке, с какой формулировкой, с какой визуальной доминантой и в какой момент. Алгоритм может определить, какой тариф будет выделен как «оптимальный», какое предложение получит заметную кнопку, какой риск будет объяснен подробно, а какой останется в сноске.
Формально пользователь продолжает нажимать кнопку сам. Фактически его решение все чаще может приниматься внутри заранее сконструированной архитектуры выбора. Поэтому для юриста сегодня важно анализировать не только содержание договора, но и цифровой сценарий, который приводит клиента к этому договору.
Как рассматривается «архитектура выбора» применительно к цифровым интерфейсам?
В цифровых интерфейсах архитектура выбора включает порядок выдачи результатов, цвет и размер кнопок, настройки по умолчанию, количество шагов до отказа, момент показа предупреждения, частоту напоминаний, формулировки согласий, алгоритмическую сортировку и персональные рекомендации.
ИИ может усилить этот эффект, потому что архитектура выбора перестает быть одинаковой для всех. Один клиент может увидеть консервативное инвестиционное предложение, другой — более рискованный продукт, третий — рассрочку, четвертый — подписку, которую система считает для него наиболее вероятной. Речь уже не о статичном интерфейсе, а о динамической среде, которая может адаптироваться под профиль пользователя, его прошлое поведение, устройство, географию, платежеспособность, историю просмотров, скорость реакции и даже вероятность отказа от покупки.
В этом смысле цифровой интерфейс может стать не витриной, а «посредником» между клиентом и рынком. И если этот «посредник» работает прежде всего на коммерческий результат платформы, а не на автономию выбора пользователя, возникает юридически значимый конфликт интересов.
Почему фокус внимания может смещаться с маркетологов, дизайнеров и разработчиков на комплексную юридическую проверку?
Юристам приходится оценивать уже не только текст договора, но и путь пользователя до заключения договора. На каком экране показали цену? Был ли ясен факт подписки? Как выглядел отказ? Была ли альтернатива визуально сопоставимой? Не был ли выбор «по умолчанию» фактически навязанным? Не скрыта ли важная информация за дополнительными раскрывающимися окнами? Не использовались ли персональные данные для воздействия на уязвимость конкретного клиента?
Именно поэтому регулирование постепенно смещается от анализа содержания продукта к анализу цифрового поведения компании. В центре внимания оказываются не только условия договора, но и интерфейс, алгоритм, логика ранжирования, система рекомендаций и дизайн пользовательского пути.
В чем может состоять принципиальная разница между обычной рекламой и алгоритмическим влиянием на выбор?
Реклама тоже воздействует на поведение, но она, как правило, воспринимается как внешнее убеждение. Пользователь понимает, что ему предлагают товар или услугу, и может критически отнестись к сообщению. Алгоритмическое влияние может действовать тоньше: это может быть порядок сортировки, метка «рекомендуем», автоматическое включение опции, упрощенный путь к согласию, усложненный путь к отказу, персональное уведомление или прогнозируемое предложение «только для вас».
Юридически здесь возникает вопрос о границе между информированием, рекламой, консультированием, навязыванием и недобросовестной практикой. Чем сложнее продукт и чем сильнее зависимость клиента от интерфейса, тем выше стандарт добросовестности, прозрачности и объяснимости.
Тогда можно ли сказать, что клиент все еще выбирает сам?
Клиент нажимает кнопку, подтверждает операцию, оформляет подписку, соглашается с условиями. Но с практической точки зрения важно другое: насколько свободным был этот выбор, если набор видимых вариантов, их порядок, эмоциональный акцент, цена отказа и объем раскрытой информации были заранее определены системой.
В цифровой экономике выбор не исчезает, но переопределяется. Он становится не единичным актом воли, а результатом взаимодействия человека с интерфейсом, алгоритмом и данными. Пользователь выбирает из того, что ему показали, в том порядке, в котором это показали, и при тех настройках по умолчанию, которые за него уже установили.
Поэтому вопрос «кто принял решение?» все чаще требует более сложного ответа.
Есть ли уже примеры, когда суды оценивали именно цифровую архитектуру выбора и интерфейса?
Показательный пример — дело Федеральной торговой комиссии (США) против американской транснациональной технологической компании (дело «Федеральной торговой комиссии против Амазон — Federal Trade Commission v. Amazon.com, Inc) 1. Согласно позиции регулятора компания использовала вводящие в заблуждение механики оформления подписки и усложняла ее отмену. Существенно, что претензия касалась не только текста условий, но и пользовательского пути: как человек попадал в подписку, какие кнопки видел, как был организован отказ и насколько понятным было списание средств.
Для темы архитектуры выбора это важное дело, которое показывает, что интерфейс перестал быть нейтральной оболочкой продукта. Если интерфейс фактически ведет пользователя к нежелательному решению или затрудняет отказ, он становится самостоятельным объектом правовой оценки.
Для российских компаний этот пример важен не потому, что американское право напрямую применяется к российским отношениям, а потому, что показывает общий тренд: регуляторы смотрят на цифровую механику как на часть потребительской практики. Нельзя больше защищаться только аргументом «условия были размещены на сайте». Вопрос может стоять шире: как именно пользователь дошел до этих условий и мог ли он реально понять последствия своего действия.
В другом деле2 с участием Федеральной торговой комиссии рассматривалась такая ситуация (дело «Федеральной торговой комиссии против Райт Эйд Корпорейшн» — Federal Trade Commission v. Rite Aid Corporation). Компания использовала систему распознавания лиц в магазинах для выявления лиц, предположительно связанных с кражами или иными нарушениями. Согласно позиции регулятора система ошибалась, а сотрудники воспринимали ее сигналы как основание для действий в отношении покупателей. В результате людей могли останавливать, просить покинуть магазин, подвергать дополнительной проверке или публичному подозрению на основании автоматизированного вывода.
Правовая проблема здесь не сводилась к технической ошибке алгоритма. Более серьезный риск состоял в том, что автоматизированный сигнал начал выполнять функцию решения. Человек формально оставался в контуре, но фактически следовал выводу системы. По итогам дела ключевым последствием стал пятилетний запрет на использование технологии распознавания лиц для целей безопасности и наблюдения, а также обязанности по внедрению защитных механизмов, контролю поставщиков и информационной безопасности.
Этот пример показывает, что «человек в контуре» сам по себе не гарантирует защиты прав потребителя. Если сотрудник не понимает ограничений модели, не проверяет результат и воспринимает алгоритмический вывод как безусловный приказ, человеческий контроль становится формальностью.
Как эти вопросы регулируются в России?
На мой взгляд, в России применяется комплексный подход: законодательство об искусственном интеллекте, персональных данных, потребительское право, финансовое регулирование, антимонопольные нормы, экспериментальные правовые режимы, регулирование Банка России, а также специальные требования к отдельным цифровым платформам.
Ключевая норма для автоматизированных решений — ст. 16 Федерального закона № 152-ФЗ «О персональных данных». Она исходит из того, что решения, основанные исключительно на автоматизированной обработке персональных данных и порождающие юридические последствия для субъекта либо иным образом затрагивающие его права и законные интересы, допускаются только при наличии предусмотренного законом основания, в том числе письменного согласия субъекта или специального федерального закона. При этом субъект должен иметь возможность получить информацию о порядке принятия решения и заявить возражение.
Для практики это означает, что компаниям важно различать простую автоматизацию и автоматизированное решение, затрагивающее права клиента. Если ИИ всего лишь сортирует новости или подбирает баннер, риски одни. Если он влияет на отказ в кредите, страховой тариф, лимит, доступ к услуге, блокировку аккаунта или иное существенное последствие, правовой стандарт существенно выше.
С 1 октября 2026 г. в России вступает в силу Федеральный закон от 31.07.2025 № 289-ФЗ «Об отдельных вопросах регулирования платформенной экономики в Российской Федерации». Этот закон важен для темы архитектуры выбора, потому что он переводит разговор о цифровых платформах из плоскости «технологический посредник» в плоскость юридически значимого участника оборота. Закон регулирует отношения между операторами посреднических цифровых платформ, их партнерами, пользователями и иными лицами при продаже товаров, выполнении работ и оказании услуг.
Этот закон формирует основу для оценки роли платформы в пользовательском выборе. Платформа не всегда является продавцом товара или исполнителем услуги, но именно она контролирует интерфейс, ранжирование, карточки товаров, правила доступа, отзывы, алгоритмы видимости, порядок взаимодействия пользователя с партнером и механизмы предъявления информации.
Каковы юридические последствия применения бизнесом ИИ-продуктов?
Роль юриста меняется. Недостаточно проверить оферту, политику конфиденциальности и пользовательское соглашение. Нужно участвовать в проектировании продукта на ранней стадии: смотреть пользовательские сценарии, макеты экранов, логику согласий, правила ранжирования, тексты уведомлений, процессы отмены, обработку возражений, работу службы поддержки и документацию модели.
Юрист должен задавать вопросы, которые раньше считались скорее продуктовыми: почему эта кнопка главная? Почему отказ находится на втором экране? Почему тариф называется «рекомендуемый»? На основании каких данных формируется персональное предложение? Как клиент узнает об автопродлении? Что произойдет, если модель ошиблась? Кто может отменить решение? Где фиксируется причина отказа? Есть ли доказательства, что интерфейс не вводит в заблуждение?
Именно на стыке права, продукта, данных и дизайна сегодня формируется реальный комплаенс цифровой компании.
Например, если речь идет о согласии на обработку персональных данных, важно не только содержание согласия, но и то, не было ли оно объединено с иными действиями, не было ли предустановлено, что пользователь мог отказаться без потери основной услуги. Если речь идет о подписке, важны ясность цены, автопродления, периода списания и порядка отмены. Если речь идет о кредитном решении, важны основания отказа, возможность пересмотра и объяснение ключевых факторов.
В цифровом продукте право реализуется не только через документы, но и через интерфейс. Поэтому юридическая экспертиза должна охватывать весь пользовательский путь.
***
Главный вывод состоит в том, что потребительский выбор больше нельзя оценивать только по финальному действию клиента. Нажатие кнопки — это лишь последний элемент цепочки. До него были сбор данных, сегментация, ранжирование, персонализация, дизайн экрана, настройки по умолчанию, тексты уведомлений и алгоритмическая рекомендация. Все это вместе может формировать цифровую среду, в которой воля клиента либо сохраняется, либо постепенно подменяется управляемым поведением.
ИИ не отменяет выбор, но меняет его природу. Клиенты по-прежнему принимают решения, однако все чаще делают это в среде, где информация может быть отфильтрована, варианты — ранжированы, а наиболее вероятное действие — уже предложено системой. Поэтому вопрос будущего заключается не в том, будет ли ИИ участвовать в принятии решений. Он уже участвует. Вопрос в другом: кто может контролировать системы, формирующие эти решения, насколько прозрачно они работают и какие гарантии позволяют клиенту не просто следовать алгоритму, а действительно выбирать.
Для бизнеса это означает необходимость перехода от формального подхода в соблюдении цифрового законодательства (комплаенса) к соблюдению законодательства (комплаенса) в вопросе архитектуры выбора. Для регуляторов — задачу выработать понятные критерии допустимого алгоритмического влияния.
1 См.: Federal Trade Commission v. Amazon.com, Inc., et al., No. 2:23-cv-00932-JHC, U.S. District Court for the Western District of Washington; Stipulated Order, September 25, 2025.
2 См. Federal Trade Commission v. Rite Aid Corporation, No. 2:23-cv-05023, U.S. District Court for the Eastern District of Pennsylvania.