Jeff Lund
Global CISO & CTO, Marsh
Nossos clientes são perspicazes e inquisitivos quando se trata de IA, especificamente IA generativa e IA agêntica. Eles querem entender como a Marsh está gerenciando os riscos ampliados pelo uso dessas tecnologias, o que caracteriza uma boa governança e, especificamente em relação às suas próprias operações, se seus programas de seguros responderão a eventuais sinistros.
Este white paper apresenta nossa visão sobre a cibersegurança habilitada por IA e sobre os aspectos que acreditamos que os clientes devem considerar agora e à medida que essas capacidades amadurecem no curto prazo. Também apresentamos considerações de curto prazo sobre governança e seguros, no exercício de nosso papel como consultores de risco.
Especificamente em relação à cibersegurança, nossa perspectiva está atualmente ancorada nas seguintes realidades:
Como fundamentos para o planejamento e a ação, destacamos os seguintes pontos:
A Marsh utiliza IA para capacitar nossos profissionais de cibersegurança a agir com mais rapidez e operar em maior escala; no entanto, a responsabilidade e o controle permanecem claramente no domínio humano. Em nossas próprias operações de segurança, recursos habilitados por IA apoiam a análise de grandes volumes de dados, identificam padrões e anomalias, priorizam problemas, aceleram investigações, aprimoram a procura por a ameaças e ajudam nossa equipe a preparar-se e responder a incidentes.
No âmbito da caça a ameaças — ou threat hunting — usamos IA para aprimorar e ampliar os esforços existentes, além de investigar ameaças que, de outra forma, exigiriam recursos significativos para serem analisadas. A IA realiza a coleta inicial de dados e a triagem em um volume crescente de indicadores de comprometimento, destacando-os para que um profissional valide. Isso nos permite conduzir mais caças sem sacrificar a minúcia, e focar o tempo dos analistas acelerando a pesquisa necessária para distinguir atividade de base de verdadeiras anomalias.
Especificamente quanto ao nosso uso de IA agentiva, acreditamos que o conceito de zero trust deve se estender aos agentes. Não há espaço para ambiguidade em linguagem natural, pois sistemas agentivos são projetados para alcançar resultados específicos e cumprir objetivos determinados — permissões, caminhos executáveis, segmentação, registro de logs e observabilidade não são negociáveis. As consequências não intencionais de interpretações equivocadas da missão por parte dos agentes podem levar a violações ou interrupções significativas.
Sistemas probabilísticos exigem parâmetros e controles determinísticos do ponto de vista de segurança e operacional.
Em última análise, o uso de IA eleva a importância da defesa em profundidade, segurança de identidade, proteção de dados, segmentação, logging, controle de aplicações, aplicação de patches, planejamento de cenários e exercícios de mesa de resposta a incidentes. Também torna as fraquezas nessas áreas mais consequentes.
O desafio que os clientes mais enfrentam é a percepção de falta de clareza e os requisitos concorrentes que eles estão tentando conciliar enquanto tentam entender como são as “melhores práticas”.
Governança corporativa eficaz deve abranger o uso de IA por uma organização, e não o contrário.
Existem diversos frameworks e normas de IA já existentes, incluindo o NIST AI RMF, ISO 42001, o SAIF do Google, além de extensas normas legais, como a EU AI Act. Muitas leis e regulações setoriais já estão em vigor — ou em consideração — que se aplicam ao uso de IA por uma empresa.
Parte do que aparentemente contribui para a sensação de sobrecarga é a propriedade e responsabilidade internas fragmentadas dentro de uma organização, combinadas com a falta de especificidade sobre como a IA está sendo usada.
Estabeleça um comitê de supervisão multifuncional, documente uma política formal de IA (incluindo uma política de uso aceitável para colaboradores), concorde sobre o que deve ser medido (vinculado aos seus casos de uso), estenda os processos de auditoria existentes para incluir o tratamento do uso de IA e reporte ao conselho.
Distinguir entre usos empresariais internos versus externos, decisões de RH, dependência de infraestrutura crítica e aplicações reguladas, por exemplo, saúde e aplicações/interações empresa-para-empresa (B2B) versus empresa-para-governo (B2G) ou empresa-para-consumidor (B2C).
Você está usando modelos comerciais prontos para uso, implementações de código aberto ou desenvolvimento proprietário? Há raspagem de dados? Quais são as suas cláusulas de indenização do fornecedor?
Determine onde é apropriado ter requisitos de intervenção humana (human-in-the-loop), mandatos de treinamento de funcionários e uma revisão dos processos antes que decisões comerciais ou interações com clientes sejam ativadas.
Estabelecer a proveniência dos dados de treinamento e dos prompts, conformidade com os requisitos de licenciamento, obtenção do consentimento do cliente, isenções de garantia e limitações de responsabilidade para resultados de IA vendidos comercialmente.
Clientes perguntam com frequência — minha apólice tem uma exclusão relacionada à IA?
Posicionamento da Marsh sobre exclusões relacionadas à IA
Não podemos apoiar exclusões amplas ou absolutas relacionadas à IA, ou à IA generativa, que criem lacunas de proteção para nossos clientes.
Neste momento transformador, criar tais lacunas em programas de seguros seria um retrocesso e limitaria o progresso. Isso aumentaria a incerteza quanto à cobertura e os litígios sobre se a IA esteve envolvida em qualquer ponto da cadeia causal de um sinistro.
Reconhecemos que, quando surgirem exposições novas relacionadas à IA com capacidade de agência e à tomada de decisão autônoma, ou quando houver concentração e acumulação de exposição em torno de modelos de linguagem de grande escala, seguradoras, corretores e clientes precisarão solucionar efetivamente como melhor atribuir, gerenciar e transferir esses riscos.
A Marsh sempre se empenhará em encontrar soluções claras e sob medida para as exposições de nossos clientes. Ao fazê-lo, reafirmaremos o mandato da indústria de seguros de gerenciar riscos em evolução e apoiar o crescimento econômico.
Somado aos pontos trazidos, a ISO e algumas seguradoras desenvolveram linguagem de exclusão aplicável a apólices comerciais de responsabilidade civil geral e a alguns produtos de linhas financeiras. Embora vários artigos tenham opinado sobre seu uso, não testemunhamos nenhum padrão de aplicação ampla de exclusões relacionadas à IA.
Em contraste, produtos de erros e omissões para cibersegurança e tecnologia introduziram endossos destinados a esclarecer e/ou ampliar a cobertura para o uso de IA.
Além disso, novos produtos estão sendo introduzidos que se baseiam em conceitos de seguros existentes, tais como:
Tipicamente, produtos DIC exigem que uma apólice subjacente invoque uma exclusão. Deve-se prestar atenção a quando a apólice DIC é acionada, por exemplo, na negação final do sinistro (o que pode levar considerável tempo), ou em alguma outra ação mensurável ou ponto no tempo.
Qualquer falta de alinhamento entre termos, condições, gatilhos de cobertura e definições entre apólices pode aumentar a ambiguidade e acrescentar complexidade ao buscar indenização sob uma apólice DIC.
As apólices de responsabilidade contratual são, geralmente, sob medida e destinadas a casos de uso específicos. Para esse tipo de redação manuscrita, a clareza de intenção é imprescindível para que haja um acordo de vontades.
A análise de cenários fornece clareza sobre possíveis lacunas de cobertura e o impacto de alterações, o que ajudará a determinar se um novo produto é necessário.
Por fim, esteja atento às diversas exclusões na sua carteira existente de apólices de seguro. A ausência de uma exclusão relacionada a IA não significa automaticamente que um sinistro envolvendo o uso de IA esteja coberto. Em muitos casos, a IA é apenas a tecnologia pela qual os danos se manifestam. É imperativo entender que tipo de dano pode resultar de um uso específico de IA, como violação de direitos autorais, dano corporal ou um evento cibernético impulsionado por IA. Só então é possível reduzir o universo de produtos potenciais em escopo, examinar os gatilhos de cobertura, definições, condições e as exclusões relevantes. Por exemplo, seguradoras aplicam exclusões “cibernéticas” em diversas linhas de seguro, e podem excluir um sinistro que, de outra forma, seria coberto quando um “sistema computacional” contribui para a causalidade.
Fato é que há opcionalidade para o cliente, o mercado continua robusto e a Marsh continuará sendo uma defensora incansável dos clientes.
Esperamos que a atividade cibernética com suporte de IA se torne mais autônoma, persistente e integrada operacionalmente. Já observamos alguns exemplos de campanhas ofensivas que encadeiam reconhecimento, descoberta e exposição de vulnerabilidades, seleção de ferramentas e exploits viáveis com menor envolvimento humano durante o processo (embora ainda bastante necessário).
O impacto de curto prazo provavelmente continuará desigual, com capacidades avançando mais rápido do que a capacidade de muitas organizações de governar, detectar e remediar. Dito isso, alvos exploráveis continuam limitados pelo envolvimento humano, pela atividade, pelos custos do crime e por outros obstáculos do mundo real.
Você pode considerar quatro prioridades principais:
Conselhos e executivos também devem esperar um escrutínio mais rigoroso da exposição a terceiros, da arquitetura de identidade, da capacidade de remediação e das evidências gerais de resiliência do negócio.
Quanto às considerações de cobertura, há sinais de que o mercado está reagindo reflexivamente por meio do uso de linguagem excludente, e alguns provavelmente estão apenas aguardando a virada do mercado — nós acreditamos inequivocamente que quaisquer ações que deixem nossos clientes desprotegidos são inaceitáveis e estamos tomando medidas para evitar que essa narrativa de mercado se torne realidade.
Embora vivamos em um mundo em mudança, repleto de incógnitas sobre IA, e seu uso evolua e se expanda, você pode contar com a Marsh como seu consultor de risco resoluto. Estamos comprometidos em manter você informado e em ajudar a entender, medir, gerir e responder aos riscos que mais importam para sua organização, seu sucesso e sua resiliência.
Global CISO & CTO, Marsh
Global Head of Cyber, Marsh Risk