KI-Risiken: Hohes Wachstum, aber noch geringe Schäden

Aus Schadenperspektive erscheint die aktuelle Schadenslage jedoch relativ ruhig. Die Zahl der eindeutig bestätigten KI-bezogenen Schäden ist nach wie vor gering. Beurteilt man die Situation anhand der heutigen Schadendaten, würde KI noch nicht zu den bedeutendsten Schadensursachen zählen.

Es besteht eine große „Grauzone“, in der eine Beteiligung der KI schwer, wenn nicht gar unmöglich nachzuweisen ist. Bei vielen Vorfällen – seien es Cyberangriffe, unternehmerische Entscheidungen oder Betriebsstörungen – ist die KI höchstwahrscheinlich ein Treiber, auch wenn dies nicht eindeutig nachgewiesen werden kann. Es ist davon auszugehen, dass die aktuellen Schadensdaten das tatsächliche Ausmaß des zugrunde liegenden Risikos unterschätzen.

„Aus Sicht der Schadenfälle ist die Lage noch relativ ruhig – doch das sollte kein falsches Gefühl der Sicherheit vermitteln“, sagt Michael Daum, Leiter des AI Claims Center of Excellence bei Allianz Commercial. „In vielen Fällen ist eine Beteiligung von KI sehr wahrscheinlich, auch wenn sie nach wie vor schwer nachzuweisen ist.“

Bereits jetzt ist erkennbar, dass KI-bezogene Risiken über mehrere Sparten auftreten, allerdings in sehr unterschiedlichen Formen. In der Cyberversicherung ist zunehmend davon auszugehen, dass KI in Bereichen wie Phishing oder der Entwicklung von Malware zum Einsatz kommt, auch wenn sich ihre Beteiligung nicht immer nachweisen lässt. Gleichzeitig gewinnen Streitigkeiten um geistiges Eigentum im Zusammenhang mit dem Training großer KI-Sprachmodelle (LLM) an Bedeutung, ebenso wie Datenschutzverstöße, wenn KI ohne ausreichende Sicherheitsvorkehrungen eingesetzt wird.

In der Haftpflichtversicherung sind KI-Risiken insbesondere bei autonomen Systemen und KI-gestützter Entscheidungsfindung relevant. Einer der derzeit offensichtlichsten Bereiche ist die Directors & Officers-Versicherung, wo sogenanntes „AI-Washing“ – die Übertreibung oder falsche Darstellung von KI-Fähigkeiten – bereits zu Schadensfällen führt. Darüber hinaus steigert KI die Erfolgschancen von Betrugsmaschen erheblich, von Business-E-Mail-Compromise bis hin zu fortgeschrittenem Social Engineering und sprachbasierten Angriffen.

„KI ist kein Risiko, das sich nur auf  bestimmte Geschäftsbereiche und Applikationen beschränkt“, erklärt Michael Daum. „Sie taucht gleichzeitig in vielen Versicherungsprodukten und Schäden auf – oft nicht als direkte Ursache, sondern als Verstärker.“

Mit Blick auf die Zukunft gibt es deutliche Anzeichen dafür, dass KI-bedingte Schäden erheblich zunehmen werden. KI wirkt als starker Risikobeschleuniger, wobei die Zahl der Vorfälle und der damit verbundenen Rechtsstreitigkeiten weltweit steigt. 

Was KI von vielen traditionellen Risiken unterscheidet, ist ihr probabilistischer Charakter. Fehler sind keine Ausnahme, sondern ein inhärentes Risiko der Technologie, selbst wenn Systeme ordnungsgemäß konzipiert und implementiert sind.

Wenn solche Systeme in großem Maßstab eingesetzt und in alltägliche Prozesse eingebettet werden, kann selbst eine geringe Fehlerquote innerhalb kurzer Zeit zu einer erheblichen Anzahl von Vorfällen führen. In Verbindung mit der hohen Geschwindigkeit der Einführung, sich noch entwickelnden Governance-Rahmenwerken und dem weit verbreiteten Einsatz von KI-Tools in Unternehmen entsteht so ein Umfeld, in dem Risiken und Schäden rasch eskalieren können.

„Der Einsatz von KI erfordert einen veränderten Umgang mit Risiken“, sagt Michael Daum. „Unerwarteter Output und Fehler sind keine Ausnahmen, sie sind unvermeidlich. Ohne entsprechende Gegenmaßnahmen können selbst kleine Abweichungen schnell zu erheblichen Verlusten führen.“

Risiken aus dem KI-Einsatz entfalten sich auf mehreren Ebenen. Eine davon liegt in der Technologie selbst. KI-Systeme generieren oft Ergebnisse mit einem hohen Maß an scheinbarer Zuverlässigkeit, reagieren dabei jedoch empfindlich auf kleine Änderungen in den Eingabedaten und sind anfällig für verschiedene Formen von Verzerrungen. Dies kann erhebliche Auswirkungen in Bereichen wie Entscheidungsfindung, Risikobewertung oder Verhandlungen haben.

Eine zweite Ebene ergibt sich aus der Art und Weise, wie KI in Unternehmen implementiert wird. Während die Erfahrungen mit KI weiter zunehmen, sind viele Unternehmen noch dabei, die notwendigen Governance-Strukturen, Kontrollmechanismen und Fachkenntnisse zu entwickeln – oft unter erheblichem Druck, die Technologie schnell einzuführen. Selbst bei verantwortungsvollem Einsatz resultiert aus dem probabilistischen Charakter der KI, dass Fehler nicht vollständig ausgeschlossen werden können.

Eine dritte Ebene betrifft indirekte Auswirkungen. In vielen Fällen ist KI nicht die direkte Ursache für Schäden, sondern eher ein Multiplikator, der bestehende Risiken verstärkt, indem er Angriffe überzeugender und Betrug effektiver macht.

Vor diesem Hintergrund wird deutlich, dass KI-Risiken mehr als technologischer Natur sind und einen ganzheitlichen Ansatz erfordern. Dass die Schäden heute noch vergleichsweise gering sind, sollte nicht zu einer falschen Risikoeinschätzung führen: Historisch gesehen treten Verluste meist mit Verzögerung auf. Doch sobald sie auftreten, entwickeln sie sich oft schlagartig.

Effektives Risikomanagement beginnt daher mit einem klaren Verständnis der grundlegenden Eigenschaften von KI und wie sich diese in konkreten Geschäftsrisiken materialisieren. Unternehmen müssen bewusste Entscheidungen treffen, welche Risiken minimiert, welche akzeptiert und welche übertragen werden können. Gleichzeitig sind die Chancen, die KI bietet, erheblich und erfordern, dass Risiken transparent und proaktiv angegangen werden.

„KI bietet enorme Chancen“, fasst Michael Daum zusammen. „Doch diese Chancen lassen sich nur dann nachhaltig nutzen, wenn Risiken verstanden, frühzeitig angegangen und proaktiv gesteuert werden.“