Skip to main content
Marsh logo

Článok

Umelá inteligencia v podnikaní: Štyri úvahy pre manažérov rizík

Preskúmajte kľúčové úvahy pre manažérov rizík pri zavádzaní umelej inteligencie. Naučte sa, ako riadiť riziká, zabezpečiť súlad s predpismi a zlepšiť prevádzkovú efektívnosť vo vašom podnikaní.

01/10/2025 · Čítanie na 5 minút

Umelá inteligencia (AI) má bohatú históriu, ktorá siaha do polovice 20. storočia, keď priekopníci ako Alan Turing a John McCarthy položili základy strojového učenia a inteligentných systémov. Odvtedy sa AI vyvíjala od jednoduchých, pravidlami riadených systémov po zložité algoritmy schopné učiť sa z obrovského množstva dát. V Európe majú dôsledky AI v podnikaní hlboký dopad. Spoločnosti využívajú AI na zvýšenie prevádzkovej efektívnosti, zlepšenie zákazníckej skúsenosti a podporu inovácií.

Avšak, AI v podnikaní tiež vyvoláva dôležité otázky týkajúce sa ochrany údajov, etického využívania a súladu s predpismi. Ako organizácie prijímajú technológie AI, musia sa pohybovať v zložitom právnom rámci EÚ, ktorý kladie dôraz na transparentnosť, zodpovednosť a ochranu práv jednotlivcov.

Aby sa úspešne implementovala stratégia umelej inteligencie a riadili sa s ňou spojené riziká, je možné podniknúť niekoľko krokov, vrátane:

1. Vyjasnenia, kto je zodpovedný za AI

Riadenie rizík spojených s AI môže byť v organizáciách často nejasné (pozri obrázok 1). Zodpovednosť za riziká súvisiace s AI môže byť rozdelená medzi rôzne oddelenia, ako sú IT, compliance a operačné, bez jasného určenia, kto je konečne zodpovedný. Tento nedostatok jasnosti môže viesť k fragmentovanej komunikácii, kde majú rôzne tímy protichodné priority alebo zlyhávajú v efektívnej spolupráci.

Kto je hlavným vlastníkom rizika AI vo vašej organizácii?

Zdroj: Airmic (prieskum členov Airmic vykonaný 27. augusta 2024).

Na riešenie týchto výziev by mali manažéri rizík definovať vlastníctvo a zodpovednosť za riziko AI. To možno dosiahnuť vytvorením medziodborového tímu pre správu AI, ktorý bude zahŕňať zástupcov z kľúčových oddelení, čím sa zabezpečí, že všetky relevantné pohľady budú zohľadnené v rozhodovacom procese.

2. Vyhodnotenie potenciálnych rizík AI

Je nevyhnutné rozpoznať riziká spojené s implementáciou AI, vrátane:

  • Nedodržiavania predpisov (vrátane zákonov o ochrane údajov)
  • Algoritmickej zaujatosti
  • Halucinácií (nepravdivých alebo zavádzajúcich výstupov AI)

Organizácie musia pochopiť vplyv AI na ich rizikový profil. Napríklad, závislosť od veľkých datasetov na tréning AI modelov môže zvýšiť riziko nedodržiavania zákonov o ochrane údajov, najmä ak sú citlivé informácie nesprávne spracované alebo nedostatočne chránené.

Okrem toho môže algoritmická zaujatost viesť k nespravodlivým alebo diskriminačným výsledkom, čo môže poškodiť reputáciu organizácie a viesť k právnym dôsledkom. Nedodržiavanie predpisov sa stáva kritickým problémom, pretože organizácie musia navigovať v meniacich sa zákonoch a smerniciach týkajacich sa využívania AI, najmä v regiónoch s prísnymi pravidlami na ochranu údajov, ako je EÚ. Tieto zmeny spôsobené AI si vyžadujú komplexné prehodnotenie existujúcich stratégií riadenia rizík, aby sa mohli riešiť jedinečné výzvy, ktoré AI technológie prinášajú.

Na efektívne zmiernenie a prenesenie rizík spojených s implementáciou AI by mali manažéri rizík najskôr vykonať dôkladné hodnotenie rizík AI, ktoré bude zahŕňať praktiky spracovania dát, spravodlivosť algoritmov a súlad s predpismi. Mali by posúdiť, ako tieto riziká ovplyvňujú ich existujúci poistný portfólio, a zabezpečiť, že krytie a limity sú dostatočné. Následne by mali zvážiť prenesenie akýchkoľvek zostávajúcich rizík prostredníctvom poistenia. Proaktívnym riešením rizík AI môžu manažéri rizík pomôcť svojim organizáciám využívať výhody AI a zároveň minimalizovať potenciálne nevýhody.

3. Zavedenie školení o AI a komunikačnej stratégie

Komplexný program školení a komunikácie je nevyhnutný na jasné odprezentovanie výhod a očakávaných výsledkov iniciatív AI, ako aj na vybavenie zamestnancov zručnosťami potrebnými na spoluprácu s AI systémami. Medzičasom umožňujú spätné väzby kontinuálny dialóg a úpravy medzi riadením rizík a podnikaním.

Nedostatok školení a komunikácie môže brzdiť iniciatívy AI, spôsobovať zmätok, odpor a nízku angažovanosť zamestnancov. Keď zamestnanci nie sú dostatočne informovaní o účele AI, môžu ju vnímať ako hrozbu pre svoje pracovné miesta namiesto príležitosti. A ak si nie sú istí, ako AI používať, môžu sa vracať k zastaraným procesom, čo vedie k neefektívnosti a zmeškaným príležitostiam na inovácie.

Komplexný, medziodborový program školení a komunikácie by mal zamestnancom poskytnúť vedomosti a zručnosti potrebné na úspešné fungovanie v prostredí s podporou AI. Tento program by mal zahŕňať úvodné školenia, ktoré vysvetlia základy AI, jej využitie v organizácii a konkrétne výhody, ktoré prináša ich práci.

4. Monitorovanie vplyvu AI

Zavedenie metrík na sledovanie vplyvu umelej inteligencie v podnikaní je kľúčové na hodnotenie jej účinnosti a na informované rozhodovanie, pričom je potrebné dodržiavať legislatívu EÚ týkajúcu sa ochrany údajov a etického využívania AI.

Hodnotenie využívania a efektívnosti AI v organizáciách je nevyhnutné na zabezpečenie, že tieto technológie prinášajú očakávané výhody a sú v súlade s príslušnými predpismi.

Bez správneho hodnotenia riskujú organizácie nasadenie AI systémov, ktoré nesplnia podnikové ciele alebo nevrátia investíciu. Napríklad, AI chatbot na zákaznícku podporu môže byť nasadený na zlepšenie používateľskej skúsenosti. Ak však nie je efektívne trénovaný alebo monitorovaný, môže viesť k zvýšenej frustrácii zákazníkov a poškodeniu značky. Navyše, ak organizácie nebudú hodnotiť výkon AI algoritmov, môžu neúmyselne podporovať zaujatosti alebo robiť rozhodnutia na základe zastaraných dát, čo môže mať etické dôsledky a právne následky.

Pred zavedením spoľahlivého monitorovacieho programu pre iniciatívy AI by mali organizácie definovať kľúčové ukazovatele výkonnosti (KPIs), ktoré budú zodpovedať ich strategickým cieľom. KPIs môžu zahŕňať:

  • Presnosť predpovedí AI
  • Hodnotenie spokojnosti používateľov
  • Dĺžka reakčného času na služby poháňané AI
  • Metriky súladu s ochranou údajov a etickým využívaním AI

Manažéri rizík môžu následne spolupracovať s analytikmi dát a IT tímami na vytvorení rámca pre zber a analýzu dát na sledovanie výkonu programu. Tento rámec by mal zahŕňať pravidelné správy, napríklad mesačné alebo štvrťročné prehľady, na hodnotenie výkonu AI služieb voči stanoveným KPIs. Manažéri rizík by mali tiež podporovať integráciu spätných väzieb, ktoré umožnia neustále zlepšovanie na základe získaných poznatkov zo sledovania.

Využívanie AI pri súčasnom minimalizovaní rizík

Manažéri rizík by mali prijať príležitosť viesť svoju organizáciu cez transformačnú cestu AI a jej potenciálne výhody pre podnikanie a spoločnosť. Zavedením rámca pre správu AI, rozpoznávaním potenciálnych rizík, poskytovaním školení zamestnancom a sledovaním výkonových ukazovateľov môžu efektívne riadiť súvisiace výzvy a minimalizovať riziká týkajúce sa ochrany údajov v AI, algoritmickej zaujatosti a súladu s predpismi.

Ak chcete získať viac informácií o tom, ako chrániť svoju organizáciu pred rizikami spojenými s AI, kontaktujte zástupcu spoločnosti Marsh.

Kontaktujte nás