На задачи, связанные с генерацией, анализом и оптимизацией программного кода, приходится значительная доля от общего объема зафиксированных взаимодействий с большими языковыми моделями (LLM). Именно поэтому тема юридических тонкостей, коллизий и возможных рисков, сопряженных с использованием ИИ-моделей для генерации кода, хоть и остается в чем-то terra incognita (неизведанная сфера) в современных правовых исследованиях, но является актуальной. В материале сформулируем конкретные проблемные вопросы, возникающие в связи с ИИ-ассистированным программированием: интеллектуальные права на код, генерируемый ИИ-агентом, безопасность пользовательских данных и пр.
В настоящее время ИИ-ассистированное программирование (AI-assited coding) следует рассматривать как один из ключевых векторов внедрения технологий искусственного интеллекта (далее — ИИ).
Указанный сегмент не только демонстрирует высокие абсолютные показатели, но и характеризуется наиболее динамичным темпом роста в сравнении с иными областями применения ИИ, что свидетельствует о том, что процессы программирования, опосредуемые ИИ-агентами, перестают быть экспериментом и превращаются в индустриальный стандарт.
Надо признать, что современный этап развития технологий ИИ характеризуется существенным опережением технологических инноваций над формированием целостного правового поля. Правовое регулирование применения ИИ-моделей, включая сферу автоматизированного программирования, находится на стадии зарождения. На международном уровне начали формироваться базовые регуляторные подходы, например «Закон об искусственном интеллекте» (AI Act), принятый в Европейском союзе. В России, несмотря на активные дискуссии и выдвижение ряда законодательных инициатив, комплексное отраслевое регулирование отношений в области ИИ пока в разработке.
В ситуации правового вакуума центральным инструментом, определяющим права и обязанности сторон (разработчика ИИ-инструмента и пользователя), становится пользовательское соглашение. Данный договор присоединения de facto устанавливает правовой режим взаимодействия, что предопределяет необходимость для пользователя сделать его скрупулезный анализ перед началом эксплуатации ИИ-агента.
Интеллектуальные права на код, генерируемый ИИ-агентом
А) Определение правообладателя сгенерированного кода
Сложившаяся на рынке практика демонстрирует тенденцию к отказу разработчиков ИИ-моделей от притязаний на интеллектуальные права на код, передавая их пользователю. Эта позиция чаще всего закреплена в пользовательских соглашениях наиболее популярных среди разработчиков инструментов.
Стоит оговориться, что данный подход не является универсальной нормой. Следовательно, для обеспечения юридической чистоты прав на разрабатываемый код пользователю необходимо тщательно изучать соответствующие разделы политик и пользовательских соглашений каждого используемого ИИ-сервиса.
Игнорирование этого этапа создает риск возникновения потенциальных претензий со стороны поставщика технологии в будущем.
Б) Риски нарушения прав третьих лиц и ответственность за код
Наиболее серьезным правовым риском, сопутствующим использованию ИИ для генерации кода, является потенциальное нарушение исключительных прав третьих лиц. В результате генерации алгоритм может воспроизводить фрагменты или существенные логические паттерны защищенного кода, что способно повлечь иск о нарушении авторских прав или условий open-source-лицензии (лицензия с открытым кодом).
Конечно, ряд ведущих вендоров декларирует принятие мер для минимизации рисков, а иногда даже предоставляет пользователям юридическую защиту (indemnification — возмещение ущерба) на случай претензий.
Но важно помнить, что и при наличии гарантий со стороны разработчика его ответственность почти всегда ограничена условиями все того же пользовательского соглашения. Ограничения, как правило, носят символический характер («условные 100 долларов») и могут быть несоизмеримы с потенциальным ущербом от потенциальных претензий со стороны правообладателей.
Таким образом, декларативные гарантии защиты пользователя зачастую нивелируются пунктами об ограничении ответственности.
В) Проблема возникновения авторского права на код, созданный с минимальным участием человека
В заключение необходимо обратиться к фундаментальной правовой проблеме: способен ли код, сгенерированный ИИ-моделью в ответ на простой, нефункциональный запрос и без последующей существенной творческой доработки человеком, считаться объектом авторского права?
Современная правовая доктрина в большинстве юрисдикций, включая Российскую Федерацию, исходит из необходимости творческого вклада человека-автора. Код, созданный автоматически, без проявления творчества, оригинальности или интеллектуальных усилий со стороны человека, может быть признан результатом действия технического устройства и не подлежать охране авторским правом.
Риски безопасности пользовательских данных
А) Риски утечки конфиденциальной информации
Эти риски связаны с самой природой взаимодействия с облачными ИИ-сервисами, которая предполагает передачу данных на сторонние серверы для обработки. Так, может произойти неконтролируемая утечка КИ через промпты (запросы), куда могут попасть персональные данные, коммерческая тайна и ноу-хау, а также служебная информация.
Б) Использование введенных данных для обучения моделей
Разработчики современных ИИ-систем заинтересованы в постоянном улучшении своих алгоритмов, для чего требуется их дообучение на новых массивах данных, включая запросы и ответы пользователей. В данном случае также нужно четко читать условия пользовательских соглашений.
Например, иногда компании-разработчики могут гарантировать, что обучение модели не будет проводиться на данных пользователя, но стопроцентную гарантию дают только при включении определенного режима (так называемого конфиденциального режима — Privacy Mode).
Конечно, это не значит, что не нужно пользоваться ИИ-моделями, но стоит прислушаться к некоторым рекомендациям:
-
проверяйте поставщиков и условия лицензий;
-
разработайте внутреннюю политику и проводите обучение сотрудников;
-
документируйте человеческий вклад (подробно фиксируйте промпты, процесс ревью (предпросмотр), доработки и интеграции кода);
-
внедряйте строгий процесс проверки кода (не доверяйте сгенерированному коду слепо, обязательно проводите вручную ревью и автоматизированное сканирование SAST (статическое тестирование безопасности приложений) и SCA (анализ композиции программного обеспечения));
-
используйте специальные промпты для безопасности данных (например, «избегай SQL-инъекций»).
***
Подводя итог, следует признать, что использование ИИ‑ассистированных инструментов программирования неизбежно сопровождается комплексом правовых рисков, связанных с репутационными потерями (комплаенс-риски).
Вместе с тем надлежащее договорное оформление отношений с поставщиками ИИ‑сервисов, выстраивание внутренней политики использования ИИ, внедрение процедур технического и юридического контроля, а также развитие правосознания разработчиков позволяют интегрировать ИИ-ассистированное программирование в хозяйственную деятельность без критического увеличения правовой неопределенности.
В этом смысле задача юристов состоит не в том, чтобы останавливать внедрение ИИ, а в том, чтобы превратить его из источника стихийных рисков в управляемый инструмент, грамотно и надежно встроенный в существующую систему правового регулирования.