Skip to main content

Article

Intelligence artificielle (IA) générative : comprendre les risques et les occasions

L’essor de l’IA générative présente des risques et des occasions pour les experts du risque et de l’assurance et leurs organisations.

Aerial image in summertime Finland showing a road with automobiles between a green forest and a turquoise lake.

Tirer profit des progrès technologiques signifie trouver l’équilibre entre les risques et les avantages potentiels. En ce qui a trait aux technologies, 2023 a été l’année de l’intelligence artificielle (IA) générative, avec ChatGPT, Bard et DALL-E devenant des noms connus à une vitesse et une échelle d’adoption remarquables. Par exemple, ChatGPT a attiré quelque 57 millions d’utilisateurs actifs mensuels au cours de son premier mois; TikTok ayant pris neuf mois pour atteindre le même nombre d’utilisateurs.

L’IA générative soulève de nouvelles questions pour la gestion des risques

L’IA générative est un type d’intelligence artificielle capable de créer du contenu nouveau et crédible, comme du texte hautement technique et des sons et des images réalistes. Selon certaines estimations, d’ici 2025, 10 % de toutes les données seront le résultat de créations de l’IA générative.

L’essor de l’IA générative soulève plusieurs questions pour les experts du risque et de l’assurance et leurs organisations. L’IA générative présente-t-elle des risques et des occasions uniques? Si oui, quels sont-ils? Pourquoi y a-t-il une attention accrue portée à l’IA générative alors que d’autres formes d’IA existent depuis plusieurs décennies? Quels risques les assurés, les courtiers et les assureurs doivent-ils gérer à mesure que l’IA générative évolue et interagit avec d’autres technologies émergentes?

Alors que les gros titres vantent à la fois les risques extrêmes et les occasions présentés par l’IA générative, les entreprises doivent adopter une perspective équilibrée pour prendre des décisions éclairées et gérer les risques de manière responsable. Pour demeurer pertinentes et concurrentielles, les entreprises doivent savoir comment et quand tirer parti de l’IA générative pour atteindre leurs objectifs de manière optimale, comme réaliser des gains d’efficacité opérationnelle, accroître la satisfaction de la clientèle et développer de nouveaux produits et services.

Les entreprises devront évaluer stratégiquement comment et quand adopter des systèmes d’IA générative, collaborer avec les fournisseurs, mettre en œuvre des protocoles de gouvernance et de gestion des risques appropriés et former les employés avec de nouvelles compétences, comme l’ingénierie rapide.

Webémission

Risques liés à l’intelligence artificielle (IA) générative et considérations en matière d’assurance

Téléchargez notre rediffusion de la webémission pour recevoir des conseils pratiques sur la façon de gérer les risques et les avantages liés à l’IA générative.

* Disponible en anglais seulement

Gérer les risques nouveaux et connus

De nombreux risques associés à l’IA générative sont liés aux risques existants et connus, comme la confidentialité des données, qui est une préoccupation depuis des décennies. L’utilisation abusive de la technologie pour générer du contenu nuisible est depuis longtemps associée aux plateformes de médias sociaux. La violation potentielle des droits de propriété intellectuelle lors de la création de contenu est un risque familier avec lequel de nombreux secteurs ont toujours été aux prises, de la musique à l’édition en passant par le développement de logiciels. Les erreurs technologiques existent depuis l’avènement de la technologie.

À mesure que l’IA générative est appliquée à des cas d’utilisation de plus en plus nombreux et diversifiés, ces risques peuvent se concentrer davantage ou apparaître dans de nouvelles circonstances, mais ils demeurent liés aux risques existants et connus, qui peuvent généralement être couverts par les produits d’assurance existants, comme l’assurance risques divers, l’assurance responsabilité civile liée aux médias, la cyberassurance et l’assurance de première partie.

Toutefois, de nouveaux risques peuvent être associés à l’IA générative de deux façons principales.

Capacités émergentes

Les modèles d’IA générative avancés peuvent développer des capacités émergentes, qui ne sont pas initialement prévues ou attendues par les créateurs de modèles. Par exemple, un système d’IA générative dont le savoir est fondé sur des ensembles de données textuelles peut développer la capacité de coder même s’il n’a pas été explicitement programmé pour le faire.

Bien que les capacités émergentes puissent offrir de nouveaux avantages aux utilisateurs de systèmes d’IA générative, elles présentent également un manque de prévisibilité. Comme les systèmes d’IA générative interagissent de plus en plus avec des systèmes complexes créés par l’humain, comme les marchés financiers, les écosystèmes de soins de santé et les réseaux sociaux, nous pourrions être confrontés à des risques imprévus, comme de nouveaux types de vulnérabilités et de vecteurs d’attaque.

Convergence technologique

La convergence de l’IA générative et d’autres technologies émergentes peut entraîner de nouveaux risques. Par exemple, le regroupement de l’IA générative et de technologies de réalité mixte brouille encore davantage la frontière entre les mondes physique et numérique, ce qui rend difficile, voire impossible, la différenciation entre les entités et les créations artificielles ou numériques et les entités et les créations humaines ou physiques.

La convergence technologique peut également poser de nouveaux défis dans les domaines juridique et réglementaire. Par exemple, comme les systèmes d’IA générative produisent de plus en plus de résultats réalistes et crédibles, comment pouvons-nous différencier les résultats générés par l’IA de ceux générés par l’humain, et comment les droits de propriété intellectuelle correspondants seront-ils déterminés?  

À mesure que l’IA générative continue de se développer, ses créateurs, ses fournisseurs de services et ses utilisateurs doivent déterminer comment et quand utiliser la technologie, et anticiper et gérer proactivement les risques s’y rattachant. Comme pour toute technologie, les entreprises doivent continuer de surveiller les résultats lorsqu’elles utilisent l’IA générative. Par exemple, lorsque les modèles d’IA générative produisent des résultats absurdes et erronés, communément appelés « hallucinations », il incombe toujours aux utilisateurs humains de vérifier l’exactitude et la pertinence contextuelle de ces résultats avant de les utiliser.

Comment le secteur de l’assurance peut contribuer à renforcer la prise de risques responsable

À mesure que de nouvelles catégories de risques émergent de l’évolution des capacités et de la convergence technologique, le secteur de l’assurance doit adopter une approche réfléchie et méthodique en matière de souscription, de tarification et de développement de produits en tenant compte du client final. L’absence de données historiques sur les réclamations et de précédent juridique rend nécessaire l’élaboration de critères pour guider le développement des produits. Il sera également important d’élaborer des boucles de rétroaction pour surveiller et anticiper les risques à mesure qu’ils émergent et évoluent.

Le secteur de l’assurance jouera un rôle indispensable dans la façon dont les entreprises équilibreront les risques et les avantages uniques de l’IA générative. Cela comprend de fournir aux entreprises une analyse des garanties pour les aider à comprendre quels risques associés à l’IA générative peuvent être couverts par leurs polices d’assurance actuelles ou dans quels cas la couverture peut être limitée.

Bien que complexes, les occasions et les risques associés à l’IA générative sont sous notre contrôle. Notre capacité humaine à comprendre et à analyser devrait être au cœur de toutes les discussions sur l’avenir de l’IA générative, y compris sur la façon de tirer parti des occasions et de gérer les risques liés à cette technologie.

* Rediffusion disponible en anglais seulement

Télécharger l’enregistrement de la webémission

Nos employés

Jaymin Kim

Jaymin Kim

Directrice de la stratégie commerciale relative aux cyberrisques et aux risques de la technologie et du numérique chez Marsh McLennan Advantage

Placeholder Image

Greg Eskins

Directeur du groupe d’expertise FINPRO