Кто отвечает, когда ИИ ошибся: сломал прод, нарушил чужие права

Ответственность за ошибку модели несёт тот, кто принял её результат в работу. Сама система субъектом права не является: у неё нет ни имущества, ни обязанностей, ни способности отвечать в суде. Поэтому вопрос «как переложить падение прода на нейросеть» ответа не имеет, и разговор надо начинать с другого места — как распределить риск между людьми и компаниями, которые в цепочке есть.

Разбираем правила трех юрисдикций и то, что из них следует для договоров.

США: отвечает тот, кто подал результат

Показательный случай произошёл в суде Южного округа Нью-Йорка. В деле Mata v. Avianca юристы подали возражение со ссылками на шесть судебных решений, которых не существует: их сочинил ChatGPT. На прямой вопрос о подлинности модель подтвердила, что дела реальны, и один из юристов приложил к материалам заявление об их достоверности.

Суд наложил санкции по правилу 11, а в качестве альтернативы — в силу присущих ему полномочий, — _{5000 долларов солидарно} на обоих юристов и их фирму — и обязал их написать истцу и каждому судье, которому приписали выдуманное решение. Ключевое в мотивировке относится к любой профессии: обязанность разумной проверки лежит на том, кто подписывает документ, и инструменту она не передаётся.

Та же логика работает в разработке. Незнание о том, что в сгенерированном фрагменте был чужой охраняемый код, ответственности не снимает: на размер взыскания добросовестность повлиять может, на сам факт — нет.

Где проходит граница с поставщиком модели

Поставщик отвечает за свой продукт: за то, что модель по устройству выдаёт запрещённое, и за несоблюдение собственных обещаний в договоре. Претензии по обучающим данным он принимает на себя в той мере, в какой это следует из его договора и решений судов: практика здесь пока не устоялась. Как только результат забрали в работу, ответственность за него переходит к вам. Момент передачи и есть линия раздела, и договором её можно сдвинуть только в части денег: возместить убытки поставщик может, а отвечать перед вашим клиентом вместо вас нет. Отдельно от этого по новой европейской директиве потерпевший вправе предъявить иск производителю софта напрямую, помимо вас, в пределах вреда, который директива покрывает: жизнь и здоровье, повреждение личного имущества, уничтожение данных.

ЕС: с декабря 2026 софт становится продуктом

Директива (ЕС) 2024/2853 переписывает режим ответственности за дефектные продукты и прямо включает в понятие продукта программное обеспечение и системы ИИ. Ответственность строгая: доказывать вину производителя потерпевшему не нужно, достаточно дефекта, вреда и связи между ними.

Линия раздела — 9 декабря 2026 года: продукты, размещённые на рынке или введённые в эксплуатацию после этого дня, подпадают под новые правила, более ранние остаются под директивой 85/374/EEC. К этому же дню государства-члены обязаны перенести директиву в национальное право.

ОАЭ: новый гражданский кодекс

Здесь недавно сменилась вся база. Federal Decree-Law No. 25 of 2025 полностью заменил гражданский закон 1985 года и действует с 1 июня 2026 года. Для нашей темы существенно, что реформа, по обзорам юридических фирм, уточнила правила о причинной связи, смешанной вине и солидарной ответственности.

Практический вывод таков: схемы, написанные под старый кодекс, требуют пересмотра, перенести их в новые договоры как есть нельзя. Договоры, заключённые до 1 июня 2026 года, по общему правилу остаются под прежним кодексом, поэтому ссылки на статьи закона 1985 года стоит проверить в первую очередь.

Когда прод падает или прилетает претензия, спор между сторонами договора решается не тем, какой инструмент использовали. Суд смотрит, что написано в договоре: кто отвечал за проверку результата, каким способом её проводили и что стороны условились делать, если проверка не сработала. Если этих трёх пунктов в тексте нет, ответственность распределяется по общим правилам, а они почти всегда указывают на того, кто сдал работу клиенту.
Дыра, которую мы видим чаще всего, устроена так: договор подробно описывает, ЧТО подрядчик передаёт, и ничего не говорит о том, ЧЕМ он это сделал. Пока использование ИИ не названо в тексте прямо, для договора его как будто нет — а последствия всё равно достаются заказчику.
— Оценка Futura Digital

Как распределить риск договором

Ниже — три отношения и то, что в каждом должно быть написано.

_{Заказчик и студия-подрядчик}

• Раскрытие использования ИИ по категориям работ: общая фраза про «применение современных инструментов» здесь ничего не закрывает.

• Гарантия чистоты прав на переданные материалы.

• Обязанность передать доказательства происхождения вместе с файлами.

• Право заказчика провести аудит открытого кода до приёмки.

• Возмещение убытков при претензии третьего лица, с потолком, привязанным к стоимости работ.

_{Компания и сотрудник}

• Перечень задач, где применение моделей допустимо, и перечень данных, которые в них не уходят.

• Требование проверять вывод перед использованием и фиксировать факт проверки.

• Взыскание с работника упирается в его платёжеспособность, поэтому основную нагрузку несёт процедура: она защищает компанию раньше, чем любое взыскание.

_{Компания и поставщик ИИ-сервиса}

• Обязательства по обучению на ваших данных.

• Возмещение убытков по претензиям об интеллектуальной собственности к результату.

• Условия хранения и удаления.

• Уровень доступности сервиса, если на нём висит ваш продакшн.

• Тариф определяет объём защиты, и разница между потребительским и корпоративным планом измеряется именно этим.

Лестница ответственности внутри компании

До сих пор речь шла о том, что отвечает компания. Дальше начинается второй вопрос, который встаёт сразу за первым: компания возместила убыток — с кого она спросит внутри себя. От ответа зависит, что писать в трудовом договоре и в договоре с подрядчиком, поэтому разбираем и его. Как это устроено по праву ОАЭ:

• Работник. Трудовой закон размер ответственности не ограничивает: полный ущерб работодатель взыскивает отдельным иском.

• Подрядчик или индивидуальное предприятие. Отвечает по договору и своим имуществом.

• Руководитель. По закону о компаниях отвечает перед компанией, участниками и третьими лицами за мошенничество, злоупотребление полномочиями, нарушение закона или устава и грубую ошибку.

• Банкротство. По закону о банкротстве суд может обязать директоров и фактических управляющих лично покрыть долги компании, если активов хватает менее чем на пятую часть долгов, а суд установит бесхозяйственное управление либо действия, прямо названные в законе: рискованные коммерческие приёмы, отчуждение имущества по заниженной цене, предпочтение отдельным кредиторам в течение двух лет до неплатёжеспособности.

Из этой лестницы следует неочевидное: перекладывать риск вниз, на исполнителей, экономически бессмысленно. Взыскание с работника упирается в его платёжеспособность, поэтому реально работают предварительные меры — проверка результата и распределение риска по договорам с теми, у кого есть страховка и капитал. Это же относится к запуску продукта на внешние рынки, где к вашей цепочке добавляются требования площадок.

Коротко

Модель не отвечает ни за что, поэтому ответственность целиком распределяется между людьми и компаниями. В США она ложится на того, кто подписал результат, в ЕС с декабря 2026 года дефектный софт попадает под строгую ответственность, в ОАЭ сменился весь гражданский кодекс. Рабочий ответ на все три ситуации один: назвать применение ИИ в договорах и описать, кто проверяет результат. С этого же начинается оценка применения ИИ в продукте и разговор о запуске и поддержке игровых проектов.