Skip to main content
Marsh logo

Стаття

Штучний інтелект у бізнесі: чотири міркування для ризик-менеджерів

Ознайомтеся з ключовими міркуваннями для менеджерів ризиків під час впровадження штучного інтелекту. Дізнайтеся, як керувати ризиками, забезпечувати відповідність вимогам та підвищувати операційну ефективність у бізнесі.

01/10/2025 · 5 хвилинне читання

Штучний інтелект (ШІ) має багату історію, яка сягає середини 20-го століття, коли такі піонери, як Алан Тюрінг та Джон Маккарті, заклали основу для машинного навчання та інтелектуальних систем. З того часу ШІ еволюціонував від простих систем, заснованих на правилах, до складних алгоритмів, здатних навчатися на величезних обсягах даних. У Європі значення ШІ для бізнесу є глибоким. Компанії використовують ШІ для підвищення операційної ефективності, покращення обслуговування клієнтів та стимулювання інновацій.

Однак ШІ в бізнесі також піднімає важливі питання щодо конфіденційності даних, етичного використання та дотримання нормативних вимог. У міру впровадження технологій ШІ організації повинні орієнтуватися в складнощах правової бази ЄС, яка наголошує на прозорості, підзвітності та захисті прав особистості.

Для успішного впровадження стратегії штучного інтелекту та управління пов'язаними з нею ризиками можна зробити кілька кроків, зокрема:

1. Уточнення того, хто відповідає за ШІ

Управління ризиками, пов'язаними зі ШІ, часто може бути неоднозначним в організаціях (див. Малюнок 1). Відповідальність за ризики, пов'язані зі ШІ, може бути розподілена між різними відділами, такими як ІТ, комплаєнс та операції, без чіткого визначення того, хто несе остаточну відповідальність. Ця відсутність ясності може призвести до фрагментарної комунікації, коли різні команди мають суперечливі пріоритети або не можуть ефективно співпрацювати.

Хто є основним відповідальним за ризики, пов'язані зі штучним інтелектом, у вашій організації?

Джерело: Airmic (опитування членів Airmic, проведене 27 серпня 2024 року).

Щоб вирішити ці проблеми, менеджери з ризиків повинні визначити відповідальність та відповідальність за ризики, пов'язані зі штучним інтелектом. Цього можна досягти шляхом створення міжфункціональної команди з управління штучним інтелектом, яка включає представників ключових відділів, забезпечуючи врахування всіх відповідних точок зору в процесі прийняття рішень.

2. Оцінка потенційних ризиків ШІ

Вкрай важливо визнати ризики, пов'язані з впровадженням ШІ, включаючи:

  • Недотримання нормативних вимог (зокрема щодо законів про захист даних)
  • Алгоритмічне упередження
  • Галюцинації

Організації повинні розуміти вплив ШІ на свій профіль ризику. Наприклад, залежність від великих наборів даних для навчання моделей ШІ може підвищити ризик недотримання законів про захист даних, особливо якщо конфіденційна інформація неправильно обробляється або неналежним чином захищена.

Крім того, алгоритмічне упередження може призвести до несправедливих або дискримінаційних результатів, що потенційно може зашкодити репутації організації та призвести до правових наслідків. Недотримання нормативних вимог стає критичною проблемою, оскільки організації повинні орієнтуватися в нових законах та інструкціях щодо використання ШІ, особливо в регіонах із суворими правилами захисту даних, таких як ЄС. Ці зміни, спричинені ШІ, вимагають комплексної переоцінки існуючих стратегій управління ризиками для вирішення унікальних проблем, що виникають через технології ШІ.

Щоб ефективно пом'якшити та передати ризики, пов'язані з впровадженням штучного інтелекту, менеджери ризиків повинні спочатку провести ретельну оцінку ризиків, пов'язаних зі штучним інтелектом, яка включає методи обробки даних, алгоритмічну справедливість та дотримання нормативних вимог. Вони повинні оцінити, як ці ризики впливають на їхній існуючий страховий портфель, забезпечуючи достатність покриття та лімітів. Потім вони повинні розглянути можливість передачі будь-яких ризиків, що залишилися, через страхування. Проактивно вирішуючи ризики, пов'язані зі штучним інтелектом, менеджери ризиків можуть допомогти своїм організаціям скористатися перевагами штучного інтелекту, мінімізуючи потенційні недоліки.

3. Впровадження програм навчання зі штучного інтелекту та комунікаційної стратегії

Комплексна програма навчання та комунікації є важливою для формулювання переваг та очікуваних результатів ініціатив у сфері штучного інтелекту, а також для забезпечення персоналу навичками, необхідними для роботи разом із системами штучного інтелекту. Тим часом механізми зворотного зв'язку дозволяють вести постійний діалог та коригування між управлінням ризиками та бізнесом.

Відсутність навчання та комунікації може перешкоджати ініціативам у сфері штучного інтелекту, створюючи плутанину, опір та відсутність залученості серед співробітників. Коли співробітники недостатньо поінформовані про мету штучного інтелекту, вони можуть сприймати його як загрозу своїй роботі, а не як можливість. А якщо співробітники не впевнені, як використовувати штучний інтелект, вони можуть повернутися до застарілих процесів, що призведе до неефективності та втрачених можливостей для інновацій.

Комплексна міжфункціональна програма навчання та комунікації повинна забезпечити співробітників знаннями та навичками, необхідними для процвітання в середовищі, вдосконаленому штучним інтелектом. Ця програма повинна включати вступні сесії, які пояснюють основи штучного інтелекту, його застосування в організації та конкретні переваги, які він приносить їхнім ролям.

4. Моніторинг впливу ШІ

Встановлення показників для моніторингу впливу штучного інтелекту на бізнес є важливим для оцінки його ефективності та прийняття обґрунтованих рішень, дотримуючись законодавства ЄС, що регулює захист даних та етичне використання ШІ.

Оцінка використання та ефективності ШІ в організаціях є життєво важливою для забезпечення того, щоб ці технології приносили очікувані переваги, дотримуючись відповідних норм.

Без належної оцінки організації ризикують розгортати системи ШІ, які не відповідають бізнес-цілям або не забезпечують повернення інвестицій. Наприклад, чат-бот для обслуговування клієнтів на базі ШІ може бути впроваджений для покращення взаємодії з користувачами. Але якщо його не навчити або не контролювати ефективно, це може призвести до збільшення розчарування та невдоволення клієнтів, що зрештою шкодить репутації бренду. Крім того, якщо організації не оцінюють ефективність алгоритмів ШІ, вони можуть ненавмисно поширювати упередження або приймати рішення на основі застарілих даних, що призводить до етичних проблем та потенційних правових наслідків.

Перш ніж створювати надійну програму моніторингу ініціатив у сфері ШІ, організації повинні визначити ключові показники ефективності (KPI), які відповідають їхнім стратегічним цілям. KPI можуть включати:

  • Рівень точності прогнозів ШІ
  • Оцінка задоволеності користувачів
  • Час реагування для послуг на базі ШІ
  • Метрики відповідності, пов'язані із захистом даних та етичним використанням ШІ

Ризик-Менеджери можуть співпрацювати з аналітиками даних та ІТ-командами для розробки структури для збору та аналізу даних для моніторингу програми. Ця структура повинна включати регулярну звітність, таку як щомісячні або щоквартальні огляди, для оцінки ефективності послуг ШІ відповідно до ключових показників ефективності (KPI). Менеджери ризиків також повинні виступати за інтеграцію циклів зворотного зв'язку, які дозволяють постійно вдосконалюватися на основі даних, отриманих під час моніторингу.

Використання ШІ та зменшення ризиків

Менеджери з управління ризиками повинні скористатися можливістю супроводжувати свою організацію на шляху трансформації ШІ та його потенційних переваг для бізнесу та суспільства. Впроваджуючи систему управління ШІ, визнаючи потенційні ризики, надаючи співробітникам навчання та контролюючи показники ефективності, вони можуть ефективно керувати пов'язаними з цим викликами та мінімізувати ризики, пов'язані з конфіденційністю даних у ШІ, алгоритмічними упередженнями та дотриманням нормативних вимог.

Щоб дізнатися більше про захист вашої організації від ризиків, пов’язаних зі штучним інтелектом, зверніться до представника Marsh.

Зв'яжіться з нами