Jeff Lund
Global CISO & CTO, Marsh
Nuestros clientes son perspicaces e inquisitivos en lo que respecta a la IA, específicamente la IA generativa y la IA agentiva. Preguntan con regularidad cómo Marsh está gestionando los riesgos amplificados por su uso, cómo se define una buena gobernanza y, en lo que respecta a sus propias operaciones, si sus programas de seguros responderán.
Este documento técnico ofrece ideas sobre cómo estamos abordando la ciberseguridad habilitada por IA y lo que creemos que los clientes deben considerar ahora y a medida que las capacidades maduren a corto plazo. También ofrecemos consideraciones a corto plazo sobre gobernanza y seguros en nuestro papel como asesores de riesgos.
Específicamente en materia de ciberseguridad, nuestra perspectiva se ancla actualmente en las siguientes realidades:
Fundamentalmente, ofrecemos lo siguiente como puntos de anclaje para la planificación y la acción:
Marsh utiliza la IA para empoderar a nuestros profesionales de ciberseguridad para que actúen con mayor rapidez y operen a mayor escala; sin embargo, la responsabilidad y el control siguen perteneciendo íntegramente al ámbito humano. En nuestras propias operaciones de seguridad, las capacidades habilitadas por IA apoyan el análisis de grandes volúmenes de datos de seguridad, identifican patrones y anomalías, priorizan problemas, aceleran las investigaciones, mejoran la caza de amenazas y ayudan a nuestro equipo a prepararse y responder a incidentes.
Desde la perspectiva de la caza de amenazas, estamos utilizando la IA para potenciar y escalar los esfuerzos de búsqueda existentes y perseguir amenazas que, de otro modo, serían demasiado intensivas en recursos para investigar. La IA realiza la recolección inicial de datos y el triaje entre un volumen creciente de indicadores de compromiso, sacando a la superficie anomalías para que un cazador de amenazas las valide. Esto nos permite realizar más búsquedas sin sacrificar la exhaustividad y centrar el tiempo de los analistas acelerando la investigación necesaria para distinguir la actividad de referencia de las verdaderas anomalías.
En lo específico de nuestro uso de la IA agentiva, creemos que el concepto de zero trust debe extenderse a los agentes. No hay espacio para la ambigüedad del lenguaje natural, ya que los sistemas agentivos están diseñados para lograr resultados específicos y cumplir objetivos concretos — los permisos, las rutas ejecutables, la segmentación, el registro y la observabilidad no son negociables. Las consecuencias no deseadas de las interpretaciones erróneas de su misión por parte de los agentes podrían conducir a violaciones o interrupciones significativas.
Los sistemas probabilísticos requieren parámetros y controles determinísticos desde una perspectiva de seguridad y operativa.
En última instancia, el uso de la IA eleva la importancia de la defensa en profundidad, la seguridad de identidad, la protección de datos, la segmentación, el registro, el control de aplicaciones, la aplicación de parches, la planificación de escenarios y ejercicios de mesa de respuesta a incidentes. También hace que las debilidades en esas áreas sean más trascendentes.
El reto que los clientes nos han expresado con regularidad es el mero volumen, la percepción de falta de claridad y los requisitos contrapuestos que están tratando de ordenar mientras intentan entender cómo son las “mejores prácticas”.
La gobernanza corporativa eficaz se extiende para incluir el uso de la IA por parte de la organización, no al revés.
Existe una variedad de marcos y estándares de IA existentes, incluidos el NIST AI RMF, la ISO 42001, el SAIF de Google, junto con amplios estándares legales, como la EU AI Act. Muchas leyes y regulaciones sectoriales ya están en vigor —o en consideración— que se aplican al uso de la IA por parte de las empresas.
Parte de lo que parece contribuir a la sensación de abrumamiento es la propiedad y responsabilidad interna fragmentada dentro de una organización, combinada con la falta de especificidad sobre cómo se está utilizando precisamente la IA.
Establezca un comité de supervisión interfuncional, redacte una política formal de IA (incluida una política de uso aceptable para los colegas), acuerde qué debe medirse (vinculado a sus casos de uso), extienda los procesos de auditoría existentes para incluir el tratamiento del uso de la IA e informe al consejo.
Distinguir entre usos comerciales internos frente a externos, decisiones de RR. HH., dependencia de infraestructuras críticas y aplicaciones reguladas, por ejemplo, salud y aplicaciones business-to-business frente a business-to-government, o business-to-consumer, y/o interacciones.
¿Está utilizando modelos comerciales listos para usar, implementaciones de código abierto o desarrollo propietario? ¿Se realiza raspado de datos? ¿Cuáles son las disposiciones de indemnización del proveedor?
Determinar dónde es apropiado establecer requisitos de intervención humana en el proceso, obligaciones de formación de empleados y una revisión de los procesos antes de que se activen decisiones empresariales o interacciones con clientes.
Establecer la procedencia de los datos de entrenamiento y de los prompts, el cumplimiento de los requisitos de licenciamiento, la obtención del consentimiento del cliente, las cláusulas de exención de garantía y las limitaciones de responsabilidad para los resultados generados por IA vendidos comercialmente.
Los clientes preguntan constantemente — ¿mi póliza tiene una exclusión por IA?
La posición de Marsh sobre las exclusiones de IA
No podemos apoyar exclusiones amplias o absolutas por IA, o por IA generativa, que creen lagunas de protección para nuestros clientes.
En este momento transformador, crear tales lagunas en los programas de seguros sería un paso atrás y limitaría el progreso. Aumentaría la incertidumbre sobre la cobertura y las disputas acerca de si la IA estuvo involucrada en cualquier eslabón de la cadena causal de un siniestro.
Reconocemos que, cuando surjan exposiciones novedosas relacionadas con la IA con capacidad de agencia y la toma de decisiones autónoma, o cuando aparezcan concentraciones y acumulaciones de exposición en torno a grandes modelos de lenguaje fundamentales, las aseguradoras, los corredores y los clientes deberán resolver de manera eficaz cómo atribuir, gestionar y transferir esos riesgos.
Marsh siempre se esforzará por encontrar soluciones claras y a medida para las exposiciones de nuestros clientes. Al hacerlo, reafirmaremos el mandato de la industria aseguradora de gestionar los riesgos que evolucionan y de apoyar el crecimiento económico.
No obstante lo anterior, ISO y algunas aseguradoras han desarrollado lenguaje excluyente aplicable a las pólizas de responsabilidad civil general comercial y a algunos productos de líneas financieras. Aunque varios artículos han opinado sobre su uso, no hemos observado ningún patrón de aplicación amplia de exclusiones por IA.
En contraste, los productos de errores y omisiones cibernéticos y tecnológicos han introducido endosos destinados a aclarar y/o mejorar la cobertura para el uso de IA.
Además, se están introduciendo nuevos productos que se basan en conceptos de seguros existentes, tales como:
Por lo general, los productos DIC requieren que una póliza subyacente aplique una exclusión. Debe prestarse atención a cuándo se activa la póliza DIC, por ejemplo, tras la denegación definitiva de un reclamo (lo cual podría llevar considerable tiempo), o ante alguna otra acción o momento mensurable.
Cualquier falta de alineación entre los términos, condiciones, activadores de cobertura y definiciones entre pólizas puede aumentar la ambigüedad y añadir complejidad al intentar recuperar un pago bajo una póliza DIC.
Las pólizas de responsabilidad contractual suelen ser personalizadas y están pensadas para casos de uso específicos. En la redacción de estos manuscritos, la claridad de la intención es imperativa para que exista un acuerdo de voluntades.
El análisis de escenarios proporciona claridad sobre las posibles brechas de cobertura y el impacto de las enmiendas, lo que ayudará a determinar si se necesita un nuevo producto.
Por último, tenga en cuenta las diversas exclusiones en su cartera actual de pólizas de seguro. La ausencia de una exclusión por IA no significa automáticamente que un reclamo que implique el uso de IA esté cubierto. En muchos casos, la IA es solo la tecnología a partir de la cual se manifiestan los daños. Es imprescindible comprender qué perjuicio puede resultar del uso específico de una IA, como la infracción de derechos de autor, lesiones corporales o un incidente cibernético potenciado por IA. Solo entonces se podrá acotar los productos potenciales dentro del alcance, examinar los desencadenantes de la cobertura, las definiciones, las condiciones y las exclusiones pertinentes. Por ejemplo, los aseguradores aplican exclusiones “cyber” en muchas líneas de seguro, y pueden excluir un reclamo que de otro modo estaría cubierto cuando un “computer system” contribuye a la causalidad.
El hecho sigue siendo que existe opcionalidad para el cliente, el mercado sigue siendo robusto y Marsh continuará siendo una defensora tenaz de sus clientes.
Esperamos que la actividad cibernética habilitada por IA se vuelva más autónoma, persistente e integrada operativamente. Ya estamos viendo algunos ejemplos de campañas ofensivas que encadenan reconocimiento, descubrimiento y exposición de vulnerabilidades, selección de herramientas y exploits operables con menos intervención humana durante el proceso (aunque todavía muy requerida).
El impacto a corto plazo probablemente seguirá siendo desigual, con capacidades que avanzan más rápido que la capacidad de muchas organizaciones para gobernar, detectar y remediar. Dicho esto, los objetivos explotables siguen estando limitados por la intervención humana, la actividad, los costos del delito y otros obstáculos del mundo real.
Puede que desee considerar cuatro prioridades clave:
Los consejos de administración y los equipos ejecutivos también deben esperar un mayor escrutinio de la exposición a terceros, la arquitectura de identidad, la capacidad de remediación y la evidencia general de la resiliencia empresarial.
En cuanto a las consideraciones de cobertura, hay señales de que el mercado reacciona de forma refleja mediante el uso de un lenguaje excluyente, y algunos probablemente estén esperando a que el mercado cambie — creemos inequívocamente que cualquier acción que deje a nuestros clientes desprotegidos es inaceptable y estamos tomando medidas para evitar que esa narrativa de mercado se convierta en realidad.
Mientras vivimos en un mundo cambiante de incógnitas sobre la IA y su uso evoluciona y se expande, puede contar con Marsh como su resoluto asesor de riesgos. Estamos comprometidos a mantenerle informado y a ayudarle a comprender, medir, gestionar y responder a los riesgos que más importan a su organización, a su éxito y a su resiliencia.
Global CISO & CTO, Marsh
Global Head of Cyber, Marsh Risk