Лицензирование ИИ и данных · Меморандум

CCPA/CPRA и выводы ИИ: когда результаты ИИ становятся персональными данными

Нормы CCPA о выводах и нормотворчество CPPA по ADMT в совокупности создают реальные обязательства для развёртываний ИИ, обрабатывающих данные Калифорнии. Я изложу, где правило реально применяется и где оно продолжает формироваться.

Cal. Civ. Code раздел 1798.140(v)(1)(K) определяет персональные данные как включающие в том числе выводы, сделанные на основе любой информации, перечисленной в этом разделе, для создания профиля потребителя, отражающего его предпочтения, характеристики, психологические тенденции, предрасположенности, поведение, установки, интеллект, способности и склонности. Формулировка специфична, а охват широк. Когда ИИ-модель берёт персональные данные о жителе Калифорнии и производит результат, который сам по себе является профилем, этот результат по тексту закона является персональными данными. Статус результата как персональных данных запускает права потребителя: знать, удалить, исправить и (во многих случаях) отказаться от продажи или передачи.

Операционные последствия этого ещё не получили широкого распространения в практике развёртывания ИИ. Модель, делающая вывод о вероятности оттока клиента, показателе соответствия кандидата должности, кредитном риске заёмщика, приверженности пациента лечению или вероятности академических успехов студента, производит результат, который при наличии персональных данных жителя Калифорнии в качестве ввода подпадает под действие CCPA. CPPA дала сигнал о том, что это именно такое прочтение агентства. Юристам компаний, развёртывающих ИИ, производящий выводы, не следует исходить из иного.

Нормотворчество CPPA по ADMT

Проект регуляторных актов CPPA по технологиям автоматизированного принятия решений (ADMT) прошёл через несколько редакций с 2023 года. На дату составления настоящего меморандума регуляторные акты не завершены. Агентство обозначило структурные элементы. Регуляторные акты возложат на бизнес, использующий ADMT для принятия значимых решений (трудоустройство, жильё, страхование, образование, финансовые услуги, здравоохранение, основные услуги), обязательства по предварительному уведомлению; предоставят право доступа к информации об использованной ADMT; предоставят право отказаться от использования ADMT в некоторых категориях; и установят обязательства по оценке рисков для бизнеса, использующего ADMT.

Укажу на неопределённость. Нормотворчество не завершено. Окончательный текст, вероятно, будет отличаться в деталях от проектов. Юристам следует отслеживать опубликованные пакеты регуляторных актов CPPA непосредственно, а не полагаться на резюме (включая настоящее). Вместе с тем структурная позиция вряд ли изменится. Бизнес, использующий ИИ для принятия значимых решений в отношении жителей Калифорнии, будет нести обязательства по уведомлению, доступу и праву на отказ. Строить операционную инфраструктуру следует сейчас; детали правил можно уточнить по мере их появления.

Что означает "вывод" на практике

Текст закона охватывает выводы, сделанные на основе персональных данных для создания профиля. Интерпретационные вопросы:

• Должен ли вывод быть специально обозначен как таковой? Нет. Опубликованные методические указания CPPA однозначны: анализ функциональный. Если результат является оценкой предпочтений, характеристик или поведения потребителя, он является выводом вне зависимости от того, как бизнес его внутренне классифицирует.
• Должен ли вывод носить "профилеподобный" характер в особом смысле? Закон использует термин "профиль", но прочтение агентства широкое. Оценка, классификация, рекомендация, рейтинг риска, оценка склонности, контентное соответствие, предупреждение о мошенничестве и многие другие результаты ИИ могут подпадать под определение.
• Должен ли вывод храниться? Закон не требует хранения. Транзитный вывод, произведённый и использованный в режиме реального времени, может по-прежнему являться персональными данными для целей обязательств по раскрытию, даже если он не сохраняется.
• Должен ли вывод быть точным? Нет. Закон применяется вне зависимости от точности. Неточный вывод по-прежнему является персональными данными; он также является основанием для права потребителя на исправление по разделу 1798.106.

Вытекающие обязательства

Если вывод является персональными данными, вытекающие обязательства возникают. Бизнес обязан:

1. Раскрыть при сборе или до него информацию о том, что создаются выводы, и о целях их использования. Уведомление о конфиденциальности должно быть достаточно конкретным, чтобы потребитель мог понять категории задействованных выводов.
2. Удовлетворять запросы потребителей о том, какие выводы о нём существуют, с разумной верификацией.
3. Удовлетворять запросы потребителей об удалении выводов с учётом установленных законом исключений для целей безопасности, обнаружения мошенничества и ограниченного внутреннего использования.
4. Удовлетворять запросы потребителей об исправлении неточных выводов. Это более сложное обязательство в операционном плане, поскольку выводы ИИ обычно носят вероятностный характер, а что означает "точность" в этом контексте -- предмет споров.
5. Рассматривать вывод как персональные данные для целей прав на продажу, передачу и ограничение использования. Если бизнес продаёт или передаёт выводы третьим сторонам (рекламным платформам, брокерам данных), применяется право потребителя на отказ.

Межюрисдикционные соображения

Правило CCPA о выводах -- один из нескольких режимов защиты данных. Статья 22 GDPR об автоматизированном принятии решений, положения Закона Колорадо о конфиденциальности о профилировании и классификации рисков по Закону ЕС об ИИ охватывают аналогичное поведение с разными формулировками. Юристам, развёртывающим ИИ для вывода информации о потребителях в различных юрисдикциях, следует сопоставить обязательства с каждым режимом, а не только с Калифорнией. Хорошая новость: структурные элементы (уведомление, доступ, исправление, право на отказ) в значительной мере совпадают. Различается реализация.

Для поставщиков ИИ, обслуживающих бизнес, подпадающий под несколько режимов, договорное обязательство состоит в предоставлении достаточной информации о модели и её выводах, чтобы бизнес мог выполнить свои обязательства по соответствию. Первоначальный проект вендора, как правило, этого не включает. Заказчику следует добиваться явного доступа к документации по модели, категориям выводов, метрикам точности и операционной поддержке для обработки запросов потребителей.

Проблема права на исправление

Раздел 1798.106 предоставляет потребителям право на исправление неточных персональных данных, которые бизнес поддерживает. Применительно к выводам ИИ это сложно. Вывод "неточен" не в детерминированном смысле; это вероятностный результат модели на основе входных данных. Потребитель, не согласный с выводом (модель считает меня клиентом с высоким риском оттока, я не согласен), имеет реальную, но расплывчатую претензию. Закон не определяет, что означает "исправление" в этом контексте.

Операционные подходы, которые я встречал:

• Разрешить потребителям помечать выводы как оспариваемые. Вывод не удаляется, но несогласие потребителя фиксируется, а последующие использования помечаются. Это согласуется с моделью FCRA для споров по кредитным отчётам.
• Разрешить потребителям представлять дополнительную информацию. Модель можно запустить повторно с дополнительными входными данными. Это рассматривает исправление как повторный вывод, а не удаление.
• Удалить вывод и отказаться от повторного запуска. Вывод рассматривается как персональные данные, право на удаление соблюдается, но бизнес сохраняет право не делать новый вывод, если потребитель возразил.

CPPA не конкретизировала, какой подход отвечает требованиям раздела 1798.106. Стратегия составления договоров: выстраивать операционную инфраструктуру, поддерживающую несколько подходов, и дать нормотворчеству и правоприменительным методическим указаниям агентства определить, какой из них достаточен.

Что я бы не принимал как данность

Охват CCPA в части выводов ИИ статутно ясен. Нормотворчество CPPA по ADMT продолжается. Юристам не следует полагаться на прежнюю практику эпохи до CPRA. CCPA 2018 года была мягче в отношении выводов. CPRA 2023 года и нормотворчество по ADMT 2024-2025 годов существенно изменили концепцию. Развёртывания, выстроенные на позиции соответствия требованиям 2019 года, не актуальны. Аудит развёртываний ИИ, обрабатывающих данные Калифорнии, значителен и должен стоять в ежегодном рабочем плане юриста.

Операционный чеклист перед согласованием

Для юриста, согласовывающего развёртывание ИИ, производящего выводы, для бизнеса, обращённого к потребителям Калифорнии, минимальные операционные артефакты, которые я ожидаю увидеть в 2026 году:

• Карта потоков данных, показывающая каждую точку входа персональных данных в модель, каждую категорию выводов, производимых моделью, и каждую нижестоящую систему, получающую выводы.
• Уведомление о конфиденциальности, раскрывающее простым языком факт создания выводов, категории выводов, цели их использования и третьих лиц, которым они передаются.
• Руководство по обработке запросов потребителей с задокументированными процедурами для запросов на доступ, удаление и исправление применительно к выводам.
• Оценка рисков в форме, предусмотренной проектом регуляторных актов CPPA по ADMT, документирующая точность модели, паттерны ошибок, анализ диспропорционального воздействия и меры по смягчению.
• График хранения выводов с определённым триггером удаления или деидентификации и задокументированным основанием для более длительного хранения.
• Документация по управлению вендорами, охватывающая любого стороннего вендора, модель которого производит выводы, включая DPA, положения о поставщике услуг по CCPA и операционную поддержку запросов потребителей.

Указанные артефакты не возникнут из одной лишь документации. Карта потоков данных в особенности требует инженерных работ, которые не следует отдавать изолированно команде по конфиденциальности. Юрист должен присутствовать при построении карты; иначе правовая позиция не будет соответствовать операционной реальности.

Сергей Токмаков, эсквайр, CA Bar #279869. Данный меморандум представляет собой профессиональный юридический комментарий к правовым вопросам и не является юридической консультацией. Ознакомление с ним не создаёт отношений между адвокатом и клиентом. Результаты прошлых дел зависят от конкретных обстоятельств и действий противоположной стороны; ничто в данном документе не является прогнозом результата.