Лицензирование ИИ и данных · Меморандум

Договоры с поставщиками ИИ: гарантия возмещения убытков от галлюцинаций модели

В корпоративных договорах с поставщиками ИИ начинает складываться реальное распределение ответственности применительно к галлюцинациям модели. Я рассмотрю правовые теории, которые должна охватывать гарантия возмещения убытков, стандартные позиции вендоров и положения, которых я добиваюсь на стороне заказчика.

Галлюцинация в удобном для практикующих юристов определении -- это вывод ИИ-модели, утверждающий нечто не соответствующее действительности. Правовые последствия зависят от того, что пользователь делает с ложным утверждением. Если пользователь -- потребитель, полагающийся на персонального чатбота, то последствия ограничены его доверием. Если пользователь -- бизнес, развёртывающий модель в рабочем процессе, производящем обращённые к клиентам результаты, последствия накапливаются: диффамация, недобросовестная реклама, профессиональная халатность, ответственность за дефектный продукт, договорное введение в заблуждение, нарушение нормативных требований и деликтные требования третьих лиц, доверявших результату.

Три дела, определившие мой подход к составлению договоров в последний год. Дело Mata v. Avianca, где юрист подал процессуальный документ с вымышленными ссылками на дела и был привлечён к ответственности, иска к вендору не породило, но наглядно показало, что пользователь, а не вендор, несёт непосредственный профессиональный риск. Дело авиакомпании Air Canada 2024 года (решение трибунала) возложило на развёртывавший бизнес ответственность за ложные утверждения, сделанные его чатботом клиентского обслуживания. Дело Walters v. OpenAI о диффамации, прекращённое судом первой инстанции штата Джорджия, стало первым известным иском о диффамации против провайдера языковой модели. Эти дела не образуют целостной доктрины, однако изменили переговорную позицию вендоров.

Правовые теории, которые должна охватывать гарантия возмещения убытков

• Диффамация. Если результат модели утверждает ложный факт о реальном лице, развёртывающий бизнес может столкнуться с требованием о диффамации. Раздел 230 Закона о порядочности в сфере коммуникаций, 47 U.S.C. раздел 230, может применяться или не применяться; судебная практика не урегулировала вопрос о том, является ли вывод ИИ контентом третьей стороны по смыслу раздела 230(c)(1). Первоначальный проект вендора, как правило, не касается диффамации. Заказчику следует добиваться её включения.
• Недобросовестная реклама / UCL. Если результат модели делает ложные утверждения, которые развёртывающий бизнес использует в маркетинговых материалах, возможны требования по разделу 5 Закона ФТК, Cal. Bus. & Prof. Code раздел 17500 и UCL раздел 17200. Гарантия возмещения убытков должна это охватывать.
• Профессиональная халатность. При развёртывании в юридической, медицинской, финансовой или иной профессиональной сфере галлюцинации могут повлечь ответственность за халатность перед клиентами. Профессионал, а не вендор, несёт обязанность заботы, однако гарантия возмещения убытков позволяет перенести убытки обратно на вендора, если галлюцинация стала непосредственной причиной.
• Договорное введение в заблуждение. Если развёртывающий бизнес использует модель для общения с клиентами и модель делает ложное заверение, на которое полагается клиент, у развёртывающего бизнеса могут возникнуть требования о введении в заблуждение или о формировании договора. Дело Air Canada -- пример.
• Нормативные нарушения. Отраслевые регуляторные режимы (HIPAA для здравоохранения, GLBA для финансов, COPPA для детских данных, ECOA для кредита, FCRA для потребительских отчётов) накладывают обязательства на регулируемые субъекты. Модель, производящая вывод, нарушающий отраслевые требования, создаёт риски для регулируемого субъекта.

Стандартные позиции вендоров в 2026 году

Большинство корпоративных поставщиков ИИ теперь предусматривают какую-либо форму гарантии возмещения убытков, однако структура различается. Чаще всего встречаются следующие паттерны:

1. Гарантия только по IP. Вендор возмещает убытки по требованиям о нарушении прав IP, вытекающим из результатов модели (как правило, с исключениями по промтам заказчика, данным обучения заказчика и требованиям, связанным с комбинированием). Риски, связанные с галлюцинациями и не относящиеся к IP, не покрываются.
2. Гарантия по IP плюс ограниченная гарантия за галлюцинации. Вендор возмещает убытки по требованиям в области IP и добавляет ограниченную гарантию за требования, связанные с галлюцинациями, как правило, с ограничением по сфере использования (заказчик должен внедрить конкретные защитные меры) и лимитом (нередко стандартный лимит ответственности, иногда суперлимит).
3. Полная гарантия за результаты с ограничениями по использованию. Вендор возмещает убытки по всем требованиям третьих сторон, вытекающим из результатов модели, при условии соблюдения заказчиком оговорённых ограничений по использованию. Лимит, как правило, стандартный или суперлимит.

Подход через ограничения по использованию -- операционный механизм, на котором сошлись вендоры. Вендор готов возмещать убытки, если заказчик внедрил рекомендованные защитные меры. Заказчик готов внедрять защитные меры, если гарантия реальна. Предмет переговоров -- что считается достаточными защитными мерами.

Формулировки на стороне заказчика

Для юриста на стороне заказчика положения, которых я добиваюсь:

• Гарантия, охватывающая все требования третьих сторон, вытекающие из результатов. Не только IP. Диффамация, недобросовестная реклама, ответственность за дефектный продукт, профессиональная халатность, нормативные нарушения.
• Формулировка ограничений по использованию в виде обязательства разумных усилий, а не строгого соответствия. Заказчик не может гарантировать, что каждое развёртывание будет соответствовать всем защитным мерам. Гарантия не должна прекращаться из-за единичного нарушения мер.
• Исключения из гарантии -- узкие и конкретные. Вендоры будут запрашивать исключения по изменённым заказчиком промтам, настроенным заказчиком моделям, использованию вне задокументированной сферы применения. Каждое из них разумно по существу и опасно при широкой редакции.
• Отдельный суперлимит по галлюцинациям. Общий лимит ответственности слишком мал для существенного риска галлюцинаций. Суперлимит в три-пять годовых сборов с сохранением ответственности при умышленном нарушении -- к чему я стремлюсь.
• Механизм контроля над защитой. Заказчик, как правило, хочет, чтобы вендор осуществлял защиту, но с разумным участием заказчика в урегулировании и в позициях, занимаемых в судебном процессе.

Защита на стороне вендора

Для юриста на стороне вендора разумные позиции:

• Ограничить гарантию ошибками вывода, вызванными вендором. Если заказчик модифицировал модель, предоставил рискованные обучающие данные или развернул модель в среде, не одобренной вендором, убытки не должны ложиться на вендора.
• Настаивать на ограничениях по использованию с операционным содержанием. Ограничения должны быть достаточно конкретными для проверки. "Разумные защитные меры" недостаточно. "Проверка человеком результатов перед публикацией в маркетинговых каналах" -- достаточно.
• Ограничить ответственность. Неограниченная гарантия за результаты коммерчески нежизнеспособна для большинства вендоров. Суперлимит -- пространство для переговоров.
• Урегулировать вопрос промтов заказчика. Промты заказчика, провоцирующие галлюцинации или вредоносные результаты (взломы, состязательные промты), должны быть исключены. Формулировка исключения должна быть аккуратной, поскольку некоторые галлюцинации возникают при безвредных промтах.

Оговорка о 47 U.S.C. раздел 230

Укажу на неопределённость в отношении раздела 230. Текст раздела 230(c)(1) ограждает провайдера интерактивного компьютерного сервиса от рассмотрения в качестве издателя или автора информации, предоставленной иным информационным провайдером. Вопрос о том, действует ли ИИ-модель как интерактивный компьютерный сервис, публикующий контент третьих сторон, или как информационный провайдер, производящий собственный контент, авторитетно не решён. Суд первой инстанции по делу Walters квалифицировал вывод модели как собственный контент провайдера ИИ для целей диффамации; другие суды могут решить иначе. Юристы, рассчитывающие на раздел 230 как на защиту от ответственности за галлюцинации, опираются на неустоявшееся средство защиты. Договорная гарантия возмещения убытков -- более надёжное распределение.

Реальные результаты в спорах о галлюцинациях существенно зависят от фактических обстоятельств. Дела, по которым я консультировал, не породили опубликованных решений, и я бы не делал выводов из урегулированной картотеки, преувеличивающих предсказуемость. Составление договоров -- то, что юрист может делать надёжно. Судебные разбирательства -- там, где право установит правила.

Положения об уведомлении и устранении, заслуживающие включения

Одно операционное положение, которое я добавляю в текущие проекты и которое нередко остаётся незамеченным. Когда галлюцинация выявляется в производственной среде, развёртывающему бизнесу необходимо быстро действовать по устранению последствий (исправить вывод, уведомить пострадавших, задокументировать реакцию). Содействие вендора в этом устранении имеет значение. Положение: вендор при получении от заказчика уведомления о существенной галлюцинации, затрагивающей операции заказчика, обязан оказывать разумное содействие в выявлении причины, модификации модели или промтов для предотвращения повторения и поддержке коммуникаций заказчика по устранению последствий. Обязательство о содействии не зависит от гарантии возмещения убытков и сохраняет силу после прекращения договора.

Другой операционный элемент: обязательство вендора раскрывать известные паттерны галлюцинаций. Если у вендора имеются внутренние сведения о том, что модель в определённых условиях производит конкретные категории галлюцинаций, заказчик должен об этом знать. Заверение о том, что вендор раскрыл все известные существенные паттерны галлюцинаций при заключении договора, с обязательством обновлять, даёт заказчику информацию, необходимую для разработки надлежащих защитных мер.

Сергей Токмаков, эсквайр, CA Bar #279869. Данный меморандум представляет собой профессиональный юридический комментарий к правовым вопросам и не является юридической консультацией. Ознакомление с ним не создаёт отношений между адвокатом и клиентом. Результаты прошлых дел зависят от конкретных обстоятельств и действий противоположной стороны; ничто в данном документе не является прогнозом результата.