KI im Unternehmen: Vier Überlegungen für Risikomanager

Sprechen Sie uns an

Künstliche Intelligenz (KI) hat eine lange Geschichte, die bis in die Mitte des 20. Jahrhunderts zurückreicht, als Pioniere wie Alan Turing und John McCarthy den Grundstein für maschinelles Lernen und intelligente Systeme legten. Seitdem hat sich KI von einfachen, regelbasierten Systemen zu komplexen Algorithmen entwickelt, die aus riesigen Datenmengen lernen können. In Europa hat KI tiefgreifende Auswirkungen auf die Wirtschaft. Unternehmen nutzen KI, um ihre Effizienz zu steigern, die Kundenzufriedenheit zu verbessern und Innovationen voranzutreiben.

KI in der Wirtschaft wirft jedoch auch wichtige Fragen hinsichtlich Datenschutz, ethischer Nutzung und der Einhaltung gesetzlicher Vorschriften auf. Bei der Einführung von KI-Technologien müssen Unternehmen die komplexen rechtlichen Rahmenbedingungen der EU berücksichtigen, die Transparenz, Verantwortung und den Schutz individueller Rechte in den Vordergrund stellen.

Um künstliche Intelligenz erfolgreich einzusetzen und die damit verbundenen Risiken zu managen, können verschiedene Maßnahmen ergriffen werden, darunter:

1. Klärung der Verantwortlichkeiten für KI

Das Risikomanagement für KI ist innerhalb von Unternehmen oft unklar (siehe Abbildung 1). Die Verantwortung für KI-bezogene Risiken kann auf verschiedene Abteilungen wie IT, Compliance und Prozesse verteilt sein, ohne dass klar festgelegt ist, wer letztendlich verantwortlich ist. Diese Unsicherheit kann zu einer unklaren Kommunikation führen, bei der verschiedene Teams unterschiedliche Prioritäten setzen und es nicht hinbekommen, effektiv zusammenarbeiten.

Wer ist in Ihrem Unternehmen in erster Linie für KI-Risiken verantwortlich?

^{Source: Airmic (poll of Airmic members taken on 27 August 2024).}

Um diesen Herausforderungen zu begegnen, sollten Risikomanager die Zuständigkeiten und Verantwortlichkeiten für KI-Risiken definieren. Dies kann durch die Einrichtung eines funktionsübergreifenden KI-Governance-Teams erreicht werden, dem Vertreter aus allen wichtigen Abteilungen angehören, sodass die relevanten Perspektiven im Entscheidungsprozess berücksichtigt werden können.

2. Bewertung der potenziellen Risiken von KI

Es ist unerlässlich, die mit der Implementierung von KI verbundenen Risiken zu erkennen, darunter:

Nichteinhaltung gesetzlicher Vorschriften (einschließlich Datenschutzgesetze)
Algorithmische Verzerrungen bzw. Fehler (sog. „Bias“)
Halluzinationen (generierte Inhalte, die keinen Bezug zur objektiven Realität aufweisen)

Unternehmen müssen die Auswirkungen von KI auf ihr Risikoprofil verstehen. So kann beispielsweise die Abhängigkeit von großen Datensätzen, die man für das Training von KI-Modellen verwendet, das Risiko der Verletzung von Datenschutzgesetzen erhöhen, insbesondere wenn sensible Informationen unsachgemäß behandelt oder unzureichend geschützt werden.

Darüber hinaus können Bias zu falschen oder diskriminierenden Ergebnissen führen, die möglicherweise den Ruf des Unternehmens schädigen und rechtliche Konsequenzen nach sich ziehen. Auch die Nichteinhaltung gesetzlicher Vorschriften wird zu einem gefährlichen Thema: Unternehmen müssen sich mit den laufenden Änderungen der Gesetze und Richtlinien zum Einsatz von KI auseinandersetzen, insbesondere in Regionen mit strengen Datenschutzbestimmungen wie der EU. Diese durch KI bedingten Veränderungen erfordern eine umfassende Überprüfung der bestehenden Risikomanagementstrategien, um den besonderen Herausforderungen der KI-Technologien gerecht zu werden.

Risikomanager sollten zunächst eine gründliche KI-Risikobewertung durchführen, die Datenverarbeitungsprozesse, algorithmische Fairness (Bemühungen, Algorithmen so zu gestalten, dass sie keine unfaire oder voreingenommene Ergebnisse produzieren) und die Einhaltung gesetzlicher Vorschriften beinhaltet. Anschließend müssen sie bewerten, wie sich diese Risiken auf ihr bestehendes Versicherungsportfolio auswirken, und sicherstellen, dass Versicherungsschutz und Deckungssummen ausreichend sind. Dann können sie prüfen, ob sie verbleibende Risiken auf Versicherungen übertragen wollen. Durch die proaktive Auseinandersetzung mit KI-Risiken können Risikomanager ihren Unternehmen helfen, die Vorteile von KI zu nutzen und gleichzeitig potenzielle Nachteile zu minimieren.

3. Implementierung von KI-Schulungsprogrammen und einer Kommunikationsstrategie

Ein umfassendes Schulungs- und Kommunikationsprogramm ist unerlässlich, um die Vorteile und den erwarteten Nutzen von KI-Initiativen zu vermitteln sowie die Mitarbeiter mit den erforderlichen Fähigkeiten für die Arbeit mit KI-Systemen auszustatten. Gleichzeitig ermöglichen Feedbacksysteme einen kontinuierlichen Dialog und mögliche Anpassungen zwischen dem Risikomanagement und den Kolleg:innen im Unternehmen.

Mangelnde Schulung und Kommunikation können KI-Initiativen behindern, wenn sie zu Verwirrung, Widerstand und mangelndem Engagement der Mitarbeiter führen. Sind die Mitarbeiter nicht ausreichend über den Zweck von KI informiert, sehen sie diese möglicherweise eher als Bedrohung für ihren Arbeitsplatz, denn als Chance. Und wenn Mitarbeiter unsicher sind, wie sie KI einsetzen sollen, greifen sie möglicherweise auf veraltete Prozesse zurück, was zu Ineffizienzen und verpassten Chancen für Innovationen führt.

Ein umfassendes, funktionsübergreifendes Schulungs- und Kommunikationsprogramm sollte den Mitarbeitern die Kenntnisse und Fähigkeiten vermitteln, die sie benötigen, um sich in einer KI-gestützten Umgebung erfolgreich zu bewegen. Dieses Programm sollte eine gute Einführung enthalten, in der die Grundlagen der KI, ihre Anwendungen innerhalb des Unternehmens und die spezifischen Vorteile für die einzelnen Mitarbeiter erläutert werden.

4. Überwachung der Auswirkungen von KI

Die Festlegung von Kennzahlen zur Messung der Auswirkungen künstlicher Intelligenz in Unternehmen ist unerlässlich, um deren Wirksamkeit zu bewerten und fundierte Entscheidungen zu treffen. Dabei müssen die EU-Rechtsvorschriften zum Datenschutz und zur ethisch korrekten Nutzung von KI eingehalten werden.

Die Bewertung des Einsatzes und der Effizienz von KI in Unternehmen ist von zentraler Bedeutung, um sicherzustellen, dass diese Technologien die beabsichtigten Vorteile bringen und gleichzeitig die geltenden Vorschriften berücksichtigen.

Ohne eine ordnungsgemäße Bewertung laufen Unternehmen Gefahr, KI-Systeme einzusetzen, die ihre Geschäftsziele nicht erreichen oder keine Rendite erzielen. So kann beispielsweise ein KI-gesteuerter Chatbot für den Kundenservice implementiert werden, um die Kundenzufriedenheit zu verbessern. Wenn dieser jedoch nicht effektiv trainiert oder überprüft wird, kann dies zu einer erhöhten Frustration und Unzufriedenheit der Kunden führen, was letztlich dem Ruf der Marke schadet. Wenn Unternehmen die Leistung von KI-Algorithmen nicht bewerten, können sie außerdem unbeabsichtigt Vorurteile festigen oder Entscheidungen auf der Grundlage veralteter Daten treffen, was zu ethischen Bedenken und möglichen rechtlichen Konsequenzen führen kann.

Vor der Einrichtung eines robusten Überwachungsprogramms für KI-Initiativen sollten Unternehmen Leistungsindikatoren (sog. „KPIs“) definieren, die mit ihren strategischen Zielen übereinstimmen. Zu den KPIs können gehören:

Genauigkeit von KI-Vorhersagen
Benutzerzufriedenheitswerte
Reaktionszeiten für KI-gesteuerte Dienste
Compliance-Daten in Bezug auf Datenschutz und ethische KI-Nutzung

Risikomanager können dann gemeinsam mit Datenanalysten und IT-Teams einen Rahmen für die Datenerfassung und -analyse zur Überwachung des Programms entwickeln. Dieser Rahmen sollte regelmäßige Berichte, beispielsweise monatliche oder vierteljährliche Überprüfungen, umfassen, um die Performance der KI-Dienste anhand der KPIs zu bewerten. Risikomanager sollten sich auch für die Integration von Feedback-Schleifen einsetzen, die eine kontinuierliche Verbesserung auf Grundlage der aus der Überwachung gewonnenen Erkenntnisse ermöglichen.

KI nutzen und Risiken minimieren

Risikomanager müssen die Chance nutzen, ihr Unternehmen durch den transformativen KI-Wandel zu begleiten und dessen potenzielle Vorteile für Unternehmen und Gesellschaft zu erschließen. Durch die Implementierung eines KI-Governance-Rahmenwerks, die Erkennung potenzieller Risiken, die Schulung der Mitarbeiter und die Überwachung von Performance-Daten können sie die damit verbundenen Herausforderungen effektiv bewältigen. Zudem ist es möglich, die Risiken in Bezug auf Datenschutz in der KI, Bias und die Einhaltung gesetzlicher Vorschriften zu minimieren.

Marsh.com Einloggen

KI im Unternehmen: Vier Überlegungen für Risikomanager

Wer ist in Ihrem Unternehmen in erster Linie für KI-Risiken verantwortlich?

KI nutzen und Risiken minimieren

Wenn Sie mehr darüber erfahren möchten, wie Sie Ihr Unternehmen vor KI-bezogenen Risiken schützen können, wenden Sie sich an Ihren Marsh-Kundenberater.