Allianz Studie: Künstliche Intelligenz bringt große Vorteile für Unternehmen, schafft aber auch neue Schaden- und Haftungsszenarien

künstliche Intelligenz

Chatbots, selbstfahrende Autos und vernetzte Maschinen in digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und einem besseren Kundenservice. Gelangt die Technologie jedoch in die falschen Hände, könnten die potenziellen Gefahren den großen Nutzen schnell nivellieren. So steigert die allgegenwärtige Vernetzung die Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem Versagen, die zu großflächigen Ausfällen und enormen finanziellen Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert.

In ihrer neuen Studie „The Rise of Artificial Intelligence: Future Outlook and Emerging Risks“ identifiziert die Allianz Global Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, einschließlich der Versicherungsbranche, weist aber auch auf entstehende Risiken durch die neue Technologie hin. Bei KI, auch als maschinelles Lernen bekannt, handelt es sich um Software, die in der Lage ist, wie ein Mensch zu denken und zu entscheiden. 

„Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Maßnahmen zur Risikominderung, um den Nettonutzen bei der breiten Einführung von KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren“, erklärt Michael Bruch, Head of Emerging Trends bei der AGCS.

Schon heute können sogenannte „schwache“ KI-Anwendungen bestimmte Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden „starke“ KI-Anwendungen sogar in der Lage sein autonome Fahrzeuge zu steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu diagnostizieren, Finanzgeschäfte durchzuführen oder Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in Verbindung mit anderen neuen Technologien auf, wie dem Internet der Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen bis 2035 verdoppeln1.

1 Accenture, Why Artificial Intelligence is the Future of Growth

Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem Allianz Risk Barometer 2018 bereits eine der größten Bedrohungen für Unternehmen darstellen: So könnte KI-gestützte Software zwar einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff – oder alternativ auch ein Programmierungsfehler – könnten auf zahlreichen Rechnern repliziert werden. Dadurch werden große globale Cybervorfälle wahrscheinlicher, die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar verursachen könnten. Allein ein halbtägiger Ausfall eines Cloudanbieters könnte für Schäden von etwa 850 Mio. US-Dollar sorgen (Cyence).

Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle zu beseitigen, und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.

Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. „Eine verantwortungsbewusste Entwicklung und Einführung von KI muss diese Faktoren berücksichtigen“, fordert Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen.

Was die Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten aufgrund seiner Interpretation der Realität getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden. „Wenn die Anzahl der durch KI hervorgerufenen Schäden zunimmt, kann es schnell teuer werden und langwierig sein, die Entscheidungsfindung den Gerichten zu überlassen“, meint Bruch. „Wir brauchen Expertengremien, die die rechtliche Eintrittspflicht klären und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder Verkäufer von KI-Produkten einer beschränkten Delikthaftung aussetzt.“

Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder abzusichern. Traditionelle Deckungen müssen angepasst werden, um sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen. Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe, Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und Softwareanbieter stärker in die Pflicht nehmen und die Gefährdungshaftung von Verbrauchern einschränken.

Die Versicherungsbranche zählt aufgrund der großen Datenmengen und wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles Lernen setzen. „KI hat enormes Potenzial für Versicherer. Anfangs wird sie die Automatisierung von Prozessen unterstützen, um die Policenausstellung oder Schadenabwicklung für die Kunden zu beschleunigen und zu verbessern“, erklärt Bruch. AGCS setzt bereits Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet „Bots“, die die eingehende Briefpost, Emails oder auch Anrufe automatisch klassifizieren und weiterbearbeiten.

Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden zudem ein wesentlich besseres Verständnis der Risiken erlangen, so dass diese effektiver verringert oder über neue Versicherungslösungen absichert werden können. Nicht zuletzt wird KI auch die Beziehung zwischen Versicherer und ihren Kunden verändern, weil sie beispielsweise Self-Service-Angebote oder Beratung rund um die Uhr ermöglicht.

Über Allianz Global Corporate & Specialty

Angebot Allianz Global Corporate & Specialty SE (AGCS) ist die eigene Marke der Allianz Gruppe für Firmen- und Spezialrisiken. Die AGCS bietet Versicherungs- und Risikomanagementberatung über das gesamte Spektrum von Spezialversicherung, ART und Firmengeschäft: Marine, Aviation (inkl. Space), Energy, Engineering, Entertainment, Financial Lines (inkl. D&O), Liability, Mid-Corporate und Property (sowie Internationale Versicherungsprogramme).
Mit ihren fast 4.700 Mitarbeitern aus 70 Nationen operiert die AGCS weltweit in 34 Ländern mit eigenen Teams und in mehr als 210 Ländern und Gebieten über das Netzwerk der Allianz Gruppe und andere Partner. Die AGCS liefert Versicherungslösungen für mehr als drei Viertel der „Fortune Global 500“-Unternehmen. 2017 zeichnete sie weltweit insgesamt 7,6 Milliarden Euro Bruttoprämien.
Die AGCS SE verfügt über die Bonitätsratings AA von Standard & Poor’s und A+ von A.M.Best.
Weitere Informationen finden Sie unter www.agcs.allianz.com oder folgen Sie uns auf Twitter @AGCS_Insurance LinkedIn und Google+.

Diese Aussagen stehen, wie immer, unter unserem Vorbehalt bei Zukunftsaussagen:

 

Heidi Polke-Markmann
Allianz Global Corporate & Specialty
Tel. +49 89 3800 14303

E-mail senden

Daniel Aschoff
Allianz Global Corporate & Specialty
Tel. +49 89 3800 18990

E-mail senden

26.03.2024

Lights, camera, action: Navigating the economic landscape

mehr dazu

26.03.2024

Americans Reducing Retirement Savings and Taking on Debt Due to Inflation

mehr dazu

12.03.2024

In Zukunft wird über Nachhaltigkeitsarbeit berichtet wie über Finanzen: Warum wir jeden Mitarbeitenden für die Umsetzung brauchen!

mehr dazu