Skip to main content
Marsh logo

Regulamento Inteligência Artificial proposto pela União Europeia

O regulamento, que está atualmente a ser debatido e alterado, baseia-se em vários níveis de risco envolvidos na utilização de sistemas de inteligência artificial (IA).
Abstract blue image

O regulamento, que está atualmente a ser debatido e alterado, baseia-se em vários níveis de risco envolvidos na utilização de sistemas de inteligência artificial (IA).

As normas seguem uma abordagem baseada no risco e estabelecem obrigações para prestadores de serviços e utilizadores, dependendo do nível de risco que a IA pode gerar. A classificação das áreas de alto risco foi alargada para incluir danos à saúde, à segurança e aos direitos fundamentais das pessoas, bem como ao ambiente. Os sistemas de inteligência artificial capazes de influenciar os eleitores em campanhas políticas, assim como os sistemas de recomendação utilizados pelas plataformas de redes sociais, também foram adicionados à lista de alto risco. Esta proposta legislativa ainda está em desenvolvimento e está a evoluir através de consultas públicos e posicionamentos dos vários organismos da União Europeia.

Os modelos de base generativa devem cumprir requisitos adicionais de transparência, incluindo, entre outros, a divulgação de que o conteúdo foi gerado por um algoritmo de IA, a conceção do modelo para evitar a geração de conteúdos ilegais e a publicação de resumos de dados protegidos por direitos de autor usados para formação.

A nova lei proposta promove ambientes de teste regulamentares (ambientes controlados) criados pelas autoridades públicas para testar a IA antes da sua implementação, bem como isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de código aberto.

As propostas incluem o reforço do direito dos cidadãos de apresentarem queixas sobre sistemas de IA, bem como de receberem explicações sobre decisões baseadas em sistemas de IA de alto risco que tenham um impacto significativo nos seus direitos.

Como devem as organizações responder à lei da UE sobre inteligência artificial?

As organizações deverão avaliar o impacto expectável do futuro Regulamento na sua atividade e no seu modelo de negócio, identificando, por exemplo, processos nos quais seja necessário introduzir alterações e processos sensíveis tendo em conta as obrigações da nova regulação.

Consultores de confiança podem ajudar as organizações a compreender como este Regulamento pode ser aplicado à estrutura e negócio existentes ao:

  1. Ajudar as organizações a identificar e avaliar os riscos potenciais associados às suas aplicações de IA, distinguindo entre riscos inaceitáveis, altos e baixos ou mínimos. Em seguida, podem ser implementadas estratégias para mitigar esses riscos adequadamente.
  2. Definir como cumprir as regras e os requisitos específicos para os sistemas de IA, tais como obrigações de transparência para sistemas que (i) interajam com seres humanos, (ii) sejam utilizados para detetar emoções ou determinar a associação a categorias sociais com base em dados biométricos, ou (iii) gerem ou manipulem conteúdos (“deep fakes”).
  3. Identificar a sua cadeia de valor de IA (incluindo importadores, distribuidores, representantes autorizados) e as suas obrigações.

Um programa de compliance completo que abranja toda a legislação futura abrangida pela Estratégia Digital da UE pode criar oportunidades, bem como mitigar riscos. Leia mais sobre o impacto do Regulamento Governação de Dados.

Subscreva a série e mantenha-se informado

Este é apenas o segundo episódio da nossa série  "Prepare-se para o inesperado: a série de riscos dinâmicos". Se quiser ser avisado quando o próximo episódio estiver disponível, clique aqui.

Clique aqui

Este artigo serve apenas para fins informativos. A Marsh não presta qualquer declaração ou garantia quanto à sua exatidão. A Marsh não terá nenhuma obrigação de atualizar o artigo, nem terá nenhuma responsabilidade perante qualquer parte decorrente deste documento ou de qualquer assunto aqui contido. Quaisquer declarações relativas a questões atuariais, tributárias, contabilísticas, laborais ou jurídicas são exclusivamente baseadas na nossa experiência enquanto corretores de seguros e consultores de risco, pelo que não devem ser consideradas como aconselhamento atuarial, tributário, contabilístico, laboral ou jurídico, face às quais os clientes devem consultar os seus próprios consultores profissionais. Todas as análises e informações estão sujeitas a uma incerteza inerente, pelo que o artigo pode ser significativamente afetado se quaisquer pressupostos, condições, informações ou fatores subjacentes forem imprecisos ou incompletos ou se alterarem. Embora a Marsh possa fornecer conselhos e recomendações, todas as decisões relativas às medidas que devem ser adotadas são da responsabilidade final do cliente.