Мақала

Бизнестегі ЖИ: тәуекел менеджерлеріне арналған төрт аспект

ЖИ енгізген кезде тәуекел менеджерлері үшін елеулі негізгі аспектілерді зерттеңіз. Тәуекелдерді басқару, нормативтік талаптарға сәйкестікті қамтамасыз ету және бизнестегі операциялық тиімділікті арттыру жолдарын біліңіз

Жасанды интеллект (ЖИ) — бұл ХХ ғасырдың ортасынан бастау алатын бай тарихы бар сала. Сол кезде Алан Тьюринг пен Джон Маккарти сияқты жаңашыл пионерлер машиналық оқыту мен интеллектуалды жүйелердің негізін қалаған болатын. Содан бері жасанды интеллект қарапайым ережелерге негізделген жүйелерден бастап, үлкен көлемдегі деректер негізінде үйрене алатын күрделі алгоритмдерге дейінгі жолдан өтті. Еуропада ЖИ-ды бизнесте қолдану аса маңызды мәнге ие. Компаниялар өздерінің операциялық тиімділігін арттыру, клиенттерге қызмет көрсету сапасын жақсарту және инновацияларды енгізу үшін ЖИ пайдаланады.

Алайда бизнесте ЖИ қолдану деректердің құпиялылығы, этикалық пайдалану және нормативтік талаптарға сәйкестік сияқты маңызды мәселелерді де көтереді. Жасанды интеллект технологияларын енгізу барысында ұйымдар ЕО құқықтық базасының күрделілігімен танысып, оның ашықтыққа, есеп беруге және жеке тұлғаның құқықтарын қорғауға басымдық беретініне назар аударуы керек.

Жасанды интеллектті қолдану стратегиясын сәтті жүзеге асыру және оған байланысты тәуекелдерді басқару үшін бірнеше қадам жасауға болады, соның ішінде:

1. ЖИ қолдану үшін кімнің жауапты екенін түсіндіру

Ұйымдарда ЖИ тәуекелдерін басқару көбінесе күрделілік туғызуы мүмкін (1-суретті қараңыз). ЖИ-мен байланысты тәуекелдерге жауапкершілік нақты анықталмаған жағдайда, ол әртүрлі бөлімдер арасында — АТ, нормативтік-құқықтық сәйкестік бөлімі және өндіріс бөлімі сияқты — бөлінуі мүмкін. Анықтықтың болмауы әртүрлі командалардың қарама-қайшы басымдықтары болғанда немесе тиімді ынтымақтаса алмаған кезде, үзінді түріндегі қарым-қатынасқа әкелуі мүмкін.

Who is the primary owner of AI risk in your organisation

_{*Тек ағылшын тілінде қол жетімді}

^{Дереккөз: Airmic (Airmic қатысушылары арасында 2024 жылғы 27 тамызда жүргізілген сауалнама)}

Бұл мәселелерді шешу үшін тәуекел-менеджерлер ЖИ қолданумен байланысты тәуекелдерді басқару бойынша жауапкершілік пен есептілікті нақты айқындауы тиіс. Мұны ЖИ басқару жөніндегі көпфункционалды жұмыс тобын құру арқылы жүзеге асыруға болады. Бұл топқа негізгі бөлімдердің өкілдері кіруі тиіс, сонда шешім қабылдау процесінде барлық тиісті көзқарастар ескеріледі.

2. ЖИ қолданудың ықтимал тәуекелдерін бағалау

ЖИ енгізуге байланысты тәуекелдерді түсіну аса маңызды, соның ішінде:

Нормативтік талаптарды сақтамау (оның ішінде деректерді қорғау саласындағы заңнамаға қатысты)
Алгоритмдік ұстанымдылық
Галлюцинация

Ұйымдар жасанды интеллекттің өздерінің тәуекелдер бейініне тигізетін әсерін түсінуі қажет. Мысалы, ЖИ модельдерін оқыту үшін үлкен деректер жиынтықтарын пайдалану деректерді қорғау заңнамасын сақтамау тәуекелін арттыруы мүмкін, әсіресе құпия ақпарат дұрыс өңделмеген немесе жеткіліксіз қорғалған жағдайда.

Сонымен қатар, алгоритмдік бейтарапсыздықтың болмауы әділетсіз немесе кемсітуші нәтижелерге әкелуі мүмкін, бұл ұйымның беделіне нұқсан келтіруі және құқықтық салдарларға алып келуі мүмкін. Нормативтік талаптарды сақтамау үлкен мәселе болып табылады, өйткені ұйымдар ЖИ қолдануға қатысты өзгеріп отыратын заңдар мен нұсқаулықтарды, әсіресе деректерді қорғау саласындағы қатал ережелері бар ЕО сияқты аймақтарда, ескеруі қажет. ЖИ туындатқан осы өзгерістер ЖИ технологияларын қолдануға байланысты туындайтын ерекше мәселелерді шешу үшін қолданыстағы тәуекелдерді басқару стратегияларын кешенді қайта қарауды талап етеді.

ЖИ енгізумен байланысты тәуекелдерді тиімді азайту және қайта бөлу үшін тәуекел-менеджерлер алдымен деректерді өңдеу әдістері, алгоритмдік әділдік және нормативтік талаптарға сәйкестік сияқты аспектілерді қамтитын ЖИ қолданудың мұқият тәуекелдерін бағалауды жүргізуі тиіс. Олар осы тәуекелдердің қолданыстағы сақтандыру портфеліне әсерін бағалап, қамту мен лимиттердің жеткіліктілігіне көз жеткізуі керек. Одан кейін қалған тәуекелдерді сақтандыру арқылы беру мүмкіндігін қарастыру қажет. ЖИ қолданумен байланысты тәуекелдерді алдын ала жою арқылы тәуекел-менеджерлер ұйымдарына ЖИ артықшылықтарын пайдаланып, оның ықтимал кемшіліктерін азайтуға көмектесе алады.

3. ЖИ-мен жұмыс істеу бойынша оқыту бағдарламаларын және коммуникация стратегиясын жүзеге асыру

ЖИ саласындағы бастамалардың артықшылықтары мен күтілетін нәтижелерін түсіндіру және қызметкерлерді ЖИ жүйелерімен жұмыс істеуге қажетті дағдылармен қамтамасыз ету үшін кешенді оқыту және коммуникация бағдарламасы қажет. Сонымен бірге, кері байланыс механизмдері тәуекелдерді басқару және бизнес арасында үздіксіз диалог пен іс-әрекеттерді түзетуді қамтамасыз етеді.

Оқыту мен коммуникацияның болмауы жасанды интеллект саласындағы бастамаларға кедергі келтіруі мүмкін, бұл қызметкерлер арасында шатасу, қарсылық және белсенділіктің жоқтығына әкеледі. Егер қызметкерлер жасанды интеллектті қолданудың мақсаттары туралы толық хабардар болмаса, олар оны мүмкіндіктің орнына өз жұмыстарына қауіп ретінде қабылдауы мүмкін. Қызметкерлер ЖИ қалай пайдалану керектігін білмеген жағдайда, олар ескірген процестерге оралуы мүмкін, бұл тиімділіктің төмендеуіне және инновациялар үшін мүмкіндіктердің жоғалуына әкеледі.

Кешенді кросс-функционалды оқыту және коммуникация бағдарламасы қызметкерлерді жасанды интеллект арқылы жетілдірілген ортада сәтті жұмыс істеу үшін қажетті білім мен дағдылармен қамтамасыз етуі тиіс. Бұл бағдарлама жасанды интеллект негіздерін, оны ұйымда қолдануды және қызметкерлерге әкелетін нақты артықшылықтарды түсіндіретін кіріспе сессияларды қамтуы керек.

4. ЖИ әсерінің мониторингі

ЖИ-дің бизнестегі әсерін бақылау үшін көрсеткіштерді белгілеу оның тиімділігін бағалау және ЕО деректерді қорғау заңнамасының талаптарын және жасанды интеллектті этикалық пайдалану аспектілерін ескере отырып, негізделген шешімдер қабылдау үшін маңызды болып табылады.

Ұйымдарда ЖИ пайдалану мен оның тиімділігін бағалау осы технологиялардың болжанған артықшылықтарды қамтамасыз етуі және қолданыстағы нормаларға сәйкес болуын кепілдендіру үшін шешуші маңызға ие.

Тиісті бағалау жүргізбеген жағдайда ұйымдар бизнес мақсаттарына сәйкес келмейтін немесе инвестициялардың қайтарымдылығын қамтамасыз етпейтін жасанды интеллект жүйелерін енгізу қаупіне ұшырайды. Мысалы, пайдаланушы тәжірибесін жақсарту үшін жасанды интеллектке негізделген клиенттерге қызмет көрсету үшін чат-ботты енгізуге болады. Алайда тиімді оқыту немесе бақылау болмаған жағдайда, бұл клиенттердің көңілі толмауы мен қанағаттанбауына әкеліп, нәтижесінде бренд беделіне зиян келтіруі мүмкін. Сонымен қатар, ұйымдар ЖИ алгоритмдерінің тиімділігін бағаламаған жағдайда, олар бейсаналық түрде бейтарапсыздықты күшейтіп немесе ескірген деректерге негізделген шешімдер қабылдауы мүмкін, бұл этикалық мәселелерге және ықтимал құқықтық салдарға әкеледі.

Жасанды интеллект саласындағы бастамаларды сенімді бақылау бағдарламасын әзірлемес бұрын, ұйымдар өздерінің стратегиялық мақсаттарына сәйкес негізгі өнімділік көрсеткіштерін (НӨК) анықтауы қажет. НӨК мыналарды қамтуы мүмкін:

ЖИ болжау дәлдігі
Пайдаланушының қанағаттанушылығын бағалау
ЖИ негізіндегі қызметтерге жауап беру уақыты
Деректерді қорғау және ЖИ этикалық пайдалану аспектілеріне қатысты талаптар мен нормаларға сәйкестік көрсеткіштері

Одан кейін тәуекел-менеджерлер деректер аналитиктері мен АТ бөлімдерімен бірлесіп, бағдарламаны бақылау мақсатында деректер жинау және талдау құрылымын әзірлеуі мүмкін. Бұл құрылым негізгі өнімділік көрсеткіштері бойынша жасанды интеллект қызметтерінің тиімділігін бағалау үшін ай сайынғы немесе тоқсандық шолулар сияқты тұрақты есеп беруді қамтамасыз етуі тиіс. Тәуекел-менеджерлер сондай-ақ мониторинг барысында алынған ақпарат негізінде үздіксіз жетілдіруге мүмкіндік беретін кері байланыс циклдарының интеграциясын қамтамасыз етуге шақыруы қажет.

ЖИ қолдану және тәуекелдерді азайту

Тәуекел-менеджерлер жасанды интеллектті енгізу арқылы ұйымдарын трансформациялау мүмкіндігін пайдаланып, оның бизнес пен қоғамға әкелетін ықтимал артықшылықтарын алу керек. ЖИ басқару құрылымын енгізу, ықтимал тәуекелдерді анықтау, қызметкерлерді оқыту және тиімділік көрсеткіштерін бақылау арқылы олар деректердің құпиялылығы, алгоритмдік ұстанымдылық және нормативтік талаптарға сәйкестік сияқты мәселелерді тиімді басқарып, тәуекелдерді азайта алады.

Marsh.com Кіру

Бизнестегі ЖИ: тәуекел менеджерлеріне арналған төрт аспект

Who is the primary owner of AI risk in your organisation

ЖИ қолдану және тәуекелдерді азайту

ЖИ-мен байланысты тәуекелдерден ұйымыңызды қорғау туралы көбірек білу үшін Marsh өкілімен байланысыңыз.