Skip to main content
Marsh logo

Article

Démystifier le premier mythe relatif à l’intelligence artificielle générative: qui est responsable des risques qu’elle pose?

Des contrôles de cybersécurité robustes sont nécessaires, mais ne suffisent pas à gérer les risques liés à l’IA générative.

06/02/2025 · Lecture de 4 minutes

Les entreprises de toutes tailles, dans presque tous les secteurs, examinent comment optimiser la technologie d’intelligence artificielle (IA) générative pour atteindre les objectifs d’affaires, notamment en réalisant des gains d’efficacité opérationnelle, en augmentant la satisfaction de la clientèle et en développant de nouveaux produits et services. Pour tirer parti de manière durable du potentiel de l’IA générative, les entreprises doivent connaître les inconvénients possibles et se préparer à y remédier.

Chez Marsh, nous aidons les entreprises de tous les secteurs à comprendre, à mesurer, à gérer et à traiter les risques liés à l’IA générative. Ce faisant, nous avons aidé les responsables de la gestion des risques et les cadres supérieurs à s’attaquer à trois mythes courants.

Dans cet article, le premier d’une minisérie en trois parties, nous examinerons ce qui suit:

Mythe 1: l’IA générative est une technologie émergente; par conséquent, les risques correspondants doivent être la responsabilité du bureau du chef de la sécurité de l’information.

Des contrôles de cybersécurité robustes sont nécessaires, mais ne suffisent pas à gérer les risques liés à l’IA générative. Les organisations devraient examiner trois catégories de contrôles:

  • Les contrôles techniques font référence aux contrôles de cybersécurité, dont certains doivent être mis à jour ou remplacés pour atténuer efficacement les risques liés à l’IA générative.
  • Les contrôles de processus font référence aux politiques et procédures de gouvernance, y compris la gouvernance au niveau du conseil d’administration et la supervision par la haute direction des cas d’utilisation de l’IA générative et de la gestion des risques.
  • Les contrôles liés à la main-d’œuvre font référence à la formation. Les employés qui ont accès à des outils d’IA générative doivent savoir comment les utiliser de manière responsable et apprendre à ne pas être victimes d’attaques de piratage psychologique fondées sur l’IA. Dans certains cas, une requalification et une amélioration des compétences spécialisées peuvent s’avérer nécessaires.

Les trois catégories de contrôles – et non les contrôles techniques uniquement – sont nécessaires et exigent une coordination et une itération pour renforcer la résilience contre les risques liés à l’IA générative. Quelle que soit la robustesse des contrôles techniques d’une organisation, ils n’empêcheront pas un employé de saisir involontairement, peut-être par manque de formation, des données exclusives ou sensibles de l’entreprise dans un modèle d’IA générative accessible au public, que ce soit au bureau ou dans le cadre du travail à distance.

Des contrôles techniques robustes n’auront pas d’importance s’il n’y a pas de structure de gouvernance en place au niveau du conseil d’administration et de la haute direction. Cela est nécessaire pour définir les objectifs de l’organisation et sa politique d’utilisation acceptable dans le déploiement de l’IA générative. Par exemple, les employés sont-ils autorisés à accéder à certains outils d’IA générative, comme l’outil récent DeepSeek, dans la conduite des affaires professionnelles?

De tels cadres de gouvernance exigent un engagement centralisé et multipartite de la part des dirigeants, qui englobe non seulement le chef de la sécurité de l’information, mais aussi les dirigeants des RH, des services juridiques et de la conformité, des services concernés et de la gestion des risques (voir le tableau 1). Le responsable de la gestion des risques doit jouer un rôle essentiel pour aider les dirigeants fonctionnels à comprendre comment leurs perspectives s’intègrent dans le cadre plus large. Par exemple, ils peuvent aider le bureau du chef de la sécurité de l’information à collaborer avec les RH afin de s’assurer que la formation appropriée est fournie aux employés et aux équipes qui utiliseront de nouveaux outils d’IA générative au fur et à mesure qu’ils sont déployés dans l’ensemble de l’entreprise.

Tableau 1 : la gouvernance de l’IA générative exige un engagement centralisé et multipartite de la part des dirigeants*

Leadership functions Role
Conseil d’administration et sous-comité désigné par le conseil d’administration
  • Superviser l’harmonisation de la stratégie d’IA générative avec les objectifs de l’entreprise.
  • Superviser les contrôles de processus, complétés par des contrôles techniques et des contrôles de la main-d’œuvre.
Chef de la sécurité de l’information/directeur de la technologie
  • Superviser les contrôles techniques, complétés par des contrôles de processus et des contrôles de la main-d’œuvre.
  • Superviser le processus d’approvisionnement et de diligence raisonnable des fournisseurs du point de vue technique.
Chef de la protection des renseignements personnels/chef des données
  • Superviser la gouvernance des données en ce qui concerne l’adoption et l’utilisation de l’IA générative.
Dirigeant principal des ressources humaines
  • Superviser les contrôles de la main-d’œuvre, complétés par des contrôles techniques et de processus.
Service juridique ou de la conformité
  • Comprendre le contexte juridique et réglementaire émergent pour l’adoption et l’utilisation d’outils d’IA générative par l’organisation ainsi que pour l’approvisionnement des fournisseurs.
Chargés de compte
  • Diriger l’adoption et l’utilisation responsables des outils d’IA générative par les employés.
  • Fournir une boucle de rétroaction itérative sur la façon dont les employés utilisent les outils d’IA générative et ce qui fonctionne bien et ne fonctionne pas bien.
Responsable de la gestion des risques
  • Guider les parties prenantes de la gouvernance de l’IA générative sur la façon dont leurs rôles respectifs doivent se compléter les uns les autres pour atteindre les objectifs d’affaires et de gestion des risques de l’organisation.
  • Superviser le processus d’approvisionnement et de diligence raisonnable des fournisseurs du point de vue de la responsabilité.

*Remarque: toutes les organisations n’auront pas tous ces postes

Comme la plupart des risques dans le contexte commercial complexe d’aujourd’hui, la gestion des risques liés à l’IA générative ne doit pas être reléguée à un seul service. Le développement et le maintien de la résilience aux risques liés à l’IA générative nécessitent une planification et une vigilance interentreprises.

Pour en savoir plus sur la façon dont un expert de Marsh peut aider votre entreprise à mieux comprendre l’IA générative et les risques et les occasions qu’elle présente, veuillez communiquer avec nous ici.

Prochain sujet: le deuxième mythe examine les risques pertinents de l’IA générative

En savoir plus

Nos employés

Jaymin Kim

Jaymin Kim

Vice-présidente principale des technologies émergentes au Centre mondial de cyberassurance de Marsh

Greg Eskins

Greg Eskins

Responsable mondial des cyberproduits et chef du Centre mondial de la cyberassurance

Renseignements connexes

Group of professional engineering people wearing hardhat safety helmet meeting with solar photovoltaic panels discussion in new project

Article

De l’exploration à la remise en état : stratégies de cybersécurité pour le cycle de vie des mines

06/23/2025
Placeholder Image

Article

Renforcer la cyberrésilience : une approche en trois volets pour les sociétés minières

06/10/2025
A human reaching towards a robot hand with plant growing as background, concept of artificial environments with realistic landscapes

Article

Démystifier le deuxième mythe relatif à l’intelligence artificielle générative: ses risques les plus pertinents

06/02/2025
Hand touching modern interface digital transformation concept. Connection next generation technology and new era of innovation.

Article

Démystifier le troisième mythe relatif à l’intelligence artificielle générative: les problèmes d’assurance posés par l’IA générative

06/02/2025
En voir plus