Licenciamiento de IA y Datos · Memorando

Contratos con Proveedores de IA: Indemnización por Alucinaciones del Modelo

Los contratos empresariales con proveedores de IA están comenzando a tener una asignación real de responsabilidad en torno a las alucinaciones del modelo. Analizaré las teorías jurídicas que la indemnización debe abordar, las posiciones estándar de los proveedores y el lenguaje del lado del cliente que presiono para obtener.

Una alucinación, en la definición amigable para el profesional, es un output de un modelo de IA que afirma algo que no es verdad. La exposición legal depende de lo que el usuario hace con la afirmación falsa. Si el usuario es un consumidor que depende de un chatbot personal, la exposición está acotada por la confianza del usuario. Si el usuario es una empresa que despliega el modelo en un flujo de trabajo que produce outputs orientados al cliente, la exposición se acumula: difamación, publicidad engañosa, negligencia profesional, responsabilidad por productos, tergiversación contractual, violaciones regulatorias y reclamaciones en agravio de terceros que confiaron en el output.

Tres asuntos que han moldeado mi redacción en el último año. El asunto Mata v. Avianca, donde el asesor presentó un escrito con citas de casos alucinadas y fue sancionado, no generó una demanda contra el proveedor pero demostró que el usuario, no el proveedor, soporta la exposición profesional inmediata. El asunto del chatbot de Air Canada en 2024 (decisión del Tribunal) declaró responsable a la empresa que lo desplegaba por declaraciones falsas realizadas por su chatbot de servicio al cliente. El asunto Walters v. OpenAI de difamación, desestimado por el tribunal de primera instancia de Georgia, fue la primera acción de difamación reportada contra un proveedor de LLM y el análisis decisional vale la pena leerlo aunque no sea vinculante. Estos asuntos no constituyen una doctrina coherente, pero han cambiado la postura negociadora de los proveedores.

Las teorías jurídicas que la indemnización debe cubrir

• Difamación. Si un output del modelo afirma un hecho falso sobre una persona real, la empresa que lo despliega puede enfrentar exposición por difamación. La section 230 de la Communications Decency Act, 47 U.S.C. section 230, puede o no aplicarse; la jurisprudencia no está resuelta sobre si un output de IA es contenido de terceros bajo section 230(c)(1). El primer borrador del proveedor típicamente no aborda la difamación. El cliente debe presionar para que se incluya.
• Publicidad engañosa / UCL. Si un output del modelo hace declaraciones falsas que la empresa que lo despliega usa en material de marketing, puede surgir exposición bajo FTC Act section 5, California Bus. and Prof. Code section 17500 y la UCL section 17200. La indemnización debe alcanzar esto.
• Negligencia profesional. Para despliegues legales, médicos, financieros u otros profesionales, las alucinaciones pueden producir exposición por negligencia ante los clientes. El profesional, no el proveedor, debe el deber, pero la indemnización puede trasladar la pérdida de vuelta al proveedor donde la alucinación fue la causa próxima.
• Tergiversación contractual. Si la empresa que despliega usa un modelo para comunicarse con clientes y el modelo hace una representación falsa en la que el cliente confía, la empresa que lo despliega puede enfrentar una reclamación de tergiversación o formación de contrato. Air Canada es el ejemplo.
• Exposición regulatoria. Los regímenes sectoriales específicos (HIPAA para salud, GLBA para servicios financieros, COPPA para datos de menores, ECOA para crédito, FCRA para informes de consumidores) imponen obligaciones a las entidades reguladas. Un modelo que produce outputs que violan una obligación sectorial específica crea exposición para la entidad regulada.

Posiciones estándar de los proveedores en 2026

La mayoría de los proveedores empresariales de IA ahora proporcionan alguna forma de indemnización, pero la estructura varía. Los patrones que veo con más frecuencia:

1. Indemnización solo por propiedad intelectual. El proveedor indemniza por reclamaciones de infracción de propiedad intelectual derivadas de los outputs del modelo (típicamente sujeto a exclusiones por prompts del cliente, datos de entrenamiento del cliente y reclamaciones de combinación). Las alucinaciones que producen exposición no relacionada con la propiedad intelectual no están cubiertas.
2. Indemnización de propiedad intelectual más indemnización limitada por alucinaciones. El proveedor indemniza por reclamaciones de propiedad intelectual y agrega una indemnización limitada por reclamaciones relacionadas con alucinaciones, típicamente sujeta a una restricción de uso (el cliente debe implementar medidas de protección específicas) y un límite (frecuentemente el límite estándar de responsabilidad, a veces un súper-límite).
3. Indemnización total por outputs con restricciones de uso. El proveedor indemniza por todas las reclamaciones de terceros derivadas de los outputs del modelo, condicionada al cumplimiento por parte del cliente de restricciones de uso especificadas (sin uso para asesoramiento legal, sin uso sin revisión humana, sin uso en flujos de trabajo regulados sin aprobación adicional). El límite es típicamente el límite estándar o un súper-límite.

El encuadre de restricciones de uso es el mecanismo operativo que los proveedores han adoptado. El proveedor está dispuesto a indemnizar si el cliente ha implementado las medidas de protección recomendadas. El cliente está dispuesto a implementar las medidas de protección si la indemnización es real. La negociación es sobre qué cuenta como medidas de protección adecuadas.

El lenguaje del lado del cliente

Para el asesor del lado del cliente, el lenguaje que presiono para obtener:

• Indemnización que cubra todas las reclamaciones de terceros derivadas de outputs. No solo propiedad intelectual. Difamación, publicidad engañosa, responsabilidad por productos, negligencia profesional, violaciones regulatorias.
• Lenguaje de restricciones de uso redactado como cumplimiento de mejores esfuerzos, no cumplimiento estricto. El cliente no puede garantizar que cada despliegue cumplirá todas las medidas de protección. La indemnización no debe anularse por un incumplimiento aislado de una medida de protección.
• Exclusiones de la indemnización que sean estrechas y específicas. Los proveedores solicitarán exclusiones por prompts modificados por el cliente, modelos ajustados por el cliente, uso del cliente fuera del alcance documentado. Cada una de estas es razonable en principio y peligrosa cuando se redacta ampliamente.
• Un súper-límite separado para alucinaciones. El límite general de responsabilidad es demasiado bajo para la exposición sustantiva por alucinaciones. Un súper-límite de tres a cinco veces las tarifas anuales, con desestimación del límite por conducta dolosa, es a lo que apunto.
• Un mecanismo de control de la defensa. El cliente generalmente quiere que el proveedor defienda, pero con aporte razonable del cliente sobre la conciliación y las posiciones tomadas en el litigio. La cláusula de control de la defensa debe redactarse con aporte bilateral razonable.

La defensa del lado del proveedor

Para el asesor del lado del proveedor, las posiciones razonables:

• Reducir la indemnización a errores de output causados por el proveedor. Si el cliente modificó el modelo, proporcionó datos de entrenamiento riesgosos o desplegó el modelo en un entorno que el proveedor no aprobó, la pérdida no debe ser del proveedor.
• Insistir en restricciones de uso con significado operativo. Las restricciones deben ser lo suficientemente específicas como para ser auditables. "Medidas de protección razonables" no es suficiente. "Revisión humana de los outputs antes de su publicación en canales de marketing" lo es.
• Limitar la exposición. Una indemnización de output ilimitada no es comercialmente viable para la mayoría de los proveedores. Un súper-límite es el espacio de negociación.
• Abordar los prompts del cliente. Los prompts del cliente que producen alucinaciones o outputs dañinos (intentos de evasión, prompts adversariales) deben ser excluidos. El lenguaje de exclusión debe ser cuidadoso, porque algunas alucinaciones ocurren con prompts benignos.

La nota al pie de 47 U.S.C. section 230

Señalaré incertidumbre sobre la section 230. El texto de section 230(c)(1) protege a un proveedor de un servicio de computación interactivo de ser tratado como el editor o portavoz de información proporcionada por otro proveedor de contenido informativo. La pregunta de si un modelo de IA actúa como un servicio de computación interactivo que publica contenido de terceros, o como un proveedor de contenido informativo que produce su propio contenido, no ha sido resuelta de manera autorizada. El tribunal de primera instancia en Walters trató el output del modelo como contenido propio del proveedor de IA a efectos de difamación; otros tribunales pueden resolver de manera diferente. El asesor que depende de la section 230 como escudo para la responsabilidad por alucinaciones está dependiendo de una defensa incierta. La indemnización contractual es la asignación más confiable.

Los resultados en disputas reales por alucinaciones dependen fuertemente de los hechos. Los asuntos en que he asesorado no han producido decisiones reportadas, y no extraería lecciones de un expediente conciliado que sobreestimen la predictibilidad. La redacción es lo que el asesor puede hacer de manera confiable. El litigio es donde la ley establecerá las reglas.

Disposiciones de aviso y remediación que vale la pena añadir

Una disposición operativa que añado a los borradores actuales y que frecuentemente se pasa por alto. Cuando se identifica una alucinación en producción, la empresa que la despliega necesita actuar rápido para remediarla (corregir el output, notificar a las partes afectadas, documentar la respuesta). La cooperación del proveedor en esa remediación importa. La cláusula: el proveedor proporcionará, ante notificación del cliente de una alucinación material que afecte las operaciones del cliente, cooperación razonable para identificar la causa, modificar el modelo o los prompts para prevenir la recurrencia, y respaldar las comunicaciones de remediación del cliente. La obligación de cooperación es independiente de la indemnización y sobrevive a la terminación.

La otra pieza operativa: una obligación del proveedor de divulgar los patrones de alucinación conocidos. Si el proveedor tiene conocimiento interno de que el modelo produce categorías específicas de alucinaciones bajo condiciones específicas, el cliente debe saberlo. Una declaración de que el proveedor ha divulgado todos los patrones de alucinación materiales conocidos al momento de la firma del contrato, con una obligación de actualización, le da al cliente la información que necesita para diseñar medidas de protección apropiadas. El proveedor negociará el alcance de la obligación; la lógica subyacente es difícil de argumentar en contra.

Sergei Tokmakov, Esq., CA Bar #279869. Este memorando es comentario de un abogado sobre cuestiones jurídicas y no constituye asesoramiento legal. Su lectura no crea una relación abogado-cliente. Los resultados de asuntos anteriores dependen de los hechos y de la parte demandada; nada aquí es una predicción de resultado.