Einleitung

In der methodisch anspruchsvollen Welt des Bank- und Versicherungswesens steht die Regulierung an vorderster Front.

‍

Diese Notwendigkeit, die auf einigen der robustesten Governance- und Validierungsrahmen basiert, ergibt sich aus einer Reihe von Makrorisiken wie Kredit- und Cyberrisiken. Diese entstehen durch eine Vielzahl miteinander verknüpfter Faktoren – von marktweiten bis hin zu idiosynkratischen Einflüssen – und tragen zur Stabilität der Unternehmen als Ganzes bei.

‍

Dies geht mit den stabilisierenden Auswirkungen der qualitativen Nebenprodukte von Finanzinstituten einher. Dank Vertrauenswürdigkeit und Unvoreingenommenheit, gepaart mit bewährten quantitativen Maßnahmen und branchenweiten Tests, ist die Branche prädestiniert für die Umsetzung internationaler Gesetze wie FINMA, Solvency II und nun, mit zunehmender Dringlichkeit, dem EU AI Act.

‍

In diesem Blogbeitrag untersuchen wir, wie der EU AI Act im Bank- und Versicherungswesen unter den aktuellen technischen Doktrinen Anwendung finden wird – wobei Anforderungen sowohl ergänzt als auch angepasst werden, um den Erfordernissen von KI gerecht zu werden.

‍

Der EU AI Act: Ein Überblick über das kommende Risikomanagement

Der EU AI Act zielt darauf ab, die spezifischen Risiken von KI-Modellen anzugehen, die sich von herkömmlichen algorithmischen Modellen unterscheiden. Von der Komplexität und Undurchsichtigkeit der KI-Modelle (ihrer „Black-Box“-Natur), die Fragen zur Erklärbarkeit aufwerfen, bis hin zur inhärenten dynamischen Lernfähigkeit und Ressourcenintensität: Unternehmen müssen nicht nur ihren Validierungsschwerpunkt anpassen, sondern auch ihre übergeordneten Governance-Pläne für ein erfolgreiches KI-Management.

‍

Der EU AI Act soll hier als Leitfaden dienen und dazu ermutigen, diese neuen Risiken angemessen zu adressieren. Wie in unserem Artikel zur Vorbereitung auf den EU AI Act dargelegt, basiert die Grundlage für den Finanzsektor auf den folgenden veröffentlicht von Dr. Laura Caroli, Senior Policy Advisor des EU-Parlaments:

‍

– Banken und Versicherungen sind ausdrücklich dazu angehalten, eine Grundrechte-Folgenabschätzung vor der Inbetriebnahme von KI-Systemen mit hohem Risiko (gemäß Anhang III);

- Zudem wurde betont, dass KI-Risikobewertungen und Preismodelle für Kranken- und Lebensversicherungen entscheidend sind, um finanzielle Ausgrenzung und Diskriminierung zu verhindern;

- KI-Systeme, die jedoch zur Erkennung von Betrug und für aufsichtsrechtliche Zwecke eingesetzt werden, wie etwa zur Bestimmung der Eigenkapitalanforderungen von Kreditinstituten und Versicherungsunternehmen, werden nicht als Hochrisiko-Systeme eingestuft;

- Die Anforderungen des EU-KI-Gesetzes für KI-Systeme im Banken- und Versicherungssektor werden daher in die bestehenden Aufsichtsmechanismen, wie etwa Solvency II, integriert, wobei Unternehmen die dargelegten internen Governance- und Risikomanagementregeln einhalten müssen;

- Der Entwurf sieht vor, dass zur Vermeidung von Überschneidungen „begrenzte Ausnahmeregelungen auch in Bezug auf das Qualitätsmanagementsystem der Anbieter und die Überwachungspflicht der Betreiber von Hochrisiko-KI-Systemen vorgesehen werden sollten“, was sich überschneidende Regulierungen entlastet.

‍

Solvency II und der EU AI Act

Die EIOPA, die Europäische Aufsichtsbehörde für das Versicherungswesen und die betriebliche Altersversorgung, hat eine bemerkenswerte Stellungnahme zum EU-KI-Gesetz und dessen Auswirkungen auf die Versicherungsbranche veröffentlicht. Unter Hinweis auf die erhöhten Anforderungen für Hochrisiko-Anwendungsfälle, einschließlich Bonitätsprüfungen für Banken sowie Preis- und Risikobewertungen für Versicherer, verweist die EIOPA auf die Zuständigkeit europäischer Normungsgremien und nationaler Aufsichtsbehörden, die gemeinsam mit dem neuen KI-Büro der Europäischen Kommission die Auswirkungen des Gesetzes auf die Finanzbranche durchsetzen und überwachen werden.

‍

Insbesondere wird von den nationalen Aufsichtsbehörden (NCAs) erwartet, dass sie zur Harmonisierung der Gesetzgebung beitragen. Das Gesetz selbst nimmt Bezug auf Solvency II und hält fest, dass „die Unionsgesetzgebung zu Finanzdienstleistungen Regeln und Anforderungen an die interne Governance und das Risikomanagement enthält, die für regulierte Finanzinstitute gelten... auch wenn diese KI-Systeme einsetzen“. Im Einklang mit diesen Aussagen des Gesetzes weist die EIOPA zudem darauf hin, dass die International Association of Insurance Supervisors (IAIS) mit der Entwicklung eines Diskussionspapiers zu KI im Jahr 2024 die Harmonisierung weiter vorantreiben will.

‍

FINMA und der EU AI Act

Im Risikomonitor 2023 der FINMA wurde das langfristige Thema KI-Risikomanagement als ein zentraler Treiber für die Risikowahrnehmung identifiziert. Mit Blick auf die Trends in der Finanzbranche und die strategischen Ziele für den Zeitraum 2021 bis 2024 betont die FINMA die Notwendigkeit, „klare Rollen und Verantwortlichkeiten sowie Risikomanagementprozesse zu definieren und umzusetzen.“

‍

Der Bericht beleuchtete die übergeordneten Risikokategorien der FINMA, darunter Governance & Verantwortung, Robustheit & Zuverlässigkeit, Transparenz & Erklärbarkeit sowie Nichtdiskriminierung. Insbesondere wurde der Mangel an internem Fachwissen in Unternehmen hervorgehoben, da viele Firmen ihr Governance- und Risikomanagement auslagern, ohne die Auswirkungen der Ergebnisse vollständig zu verstehen und anzuwenden.

‍

Die Bedeutung von KI-Risikobewertungen steht für die FINMA im Vordergrund und steht im Einklang mit den kommenden Anforderungen des EU AI Act. So stellt der Bericht fest: „Bei der Entwicklung, dem Training und der Nutzung von KI müssen Institute sicherstellen, dass die Ergebnisse hinreichend genau, robust und zuverlässig sind. Sowohl die Daten und Modelle als auch die Ergebnisse müssen einer kritischen Hinterfragung zugänglich sein.“

‍

Erfolgreiche KI-Portfolios vorbereiten

Bei Calvin Risk ermöglichen wir Unternehmen nicht nur die Organisation von KI-Inventaren, die Durchführung von Risikobewertungen und Validierungen, sondern auch die volle Kontrolle über ihr Risikomanagement durch erklärbare, quantitative Ergebnisse, die die Grundwerte von Solvency II, der FINMA und des EU AI Act fördern. Unsere On-Premise-Installationsoption bietet die volle Kontrolle über den Governance-Prozess und stellt sicher, dass die KI im Eigentum des Unternehmens bleibt, unterstützt durch die Finanzexpertise unseres spezialisierten Teams.

‍

Mit unserer Plattform für Risikobewertung und Validierung unterstützen wir Unternehmen dabei, eine vollständige, objektive Perspektive auf die quantitativen Auswirkungen und den Status ihrer KI-Portfolios für alle Stakeholder zu gewinnen. Wir sind stolz darauf, neben unseren regulatorischen Grundsätzen auch den geschäftlichen Mehrwert zu fördern, indem wir es Unternehmen ermöglichen, ihr Governance-System als Ganzes zu optimieren – für vertrauenswürdige KI, schneller.

‍