Da KI im kommerziellen Einsatz immer ausgereifter wird, kristallisieren sich verschiedene gängige Anwendungen heraus, die den Bedürfnissen der jeweiligen Branchen entsprechen. Aufgrund der stark quantitativen Natur der Branche nimmt das Bankwesen weltweit eine Vorreiterrolle bei der Einführung von KI ein.

‍

Umfassende Gesetzesvorgaben werden für Unternehmen jedoch bald zur Realität, auf die sie sich schnell einstellen müssen, da der EU AI Act spezifische regulatorische Anforderungen festlegt – das Bankwesen ist davon als eine der am stärksten betroffenen Branchen besonders betroffen. Es ist wichtig zu beachten, dass die erwarteten Regelungen des EU AI Act nicht nur branchenspezifisch gelten, sondern je nach den Eigenschaften des jeweiligen KI-Modells spezifische Standards vorschreiben. Angesichts der vom Rat festgelegten Risikokategorien – minimal, begrenzt, hoch und inakzeptabel – stellt sich die Frage: Welche konkreten Auswirkungen ergeben sich für Banken und welche Maßnahmen sollten sie ergreifen?

‍

Stimmungslage zu KI im Bankwesen

Wie der Economistberichtet, gab eine Umfrage unter IT-Führungskräften an, dass 85 % eine „klare Strategie“ für den Einsatz von KI bei der Entwicklung neuer Produkte und Dienstleistungen verfolgen. Dennoch räumten 62 % der Banken ein, dass „die Komplexität und die Risiken im Zusammenhang mit der Verarbeitung personenbezogener Daten für KI-Projekte oft die Vorteile für das Kundenerlebnis überwiegen“. Das Risikomanagement für KI ist ein gemeinsames Anliegen des Finanzsektors, doch die Unausgereiftheit der KI selbst führt zu unsicheren Erwartungen an geeignete Ansätze für das KI-Risikomanagement in diesem Bereich. Wie können wir also sicherstellen, dass das Bankwesen trotz der vielfältigen Einsatzmöglichkeiten die Anforderungen des Gesetzes erfüllt?

‍

Die häufigsten KI-Anwendungsfälle im Bankwesen: Der Aufstieg von LLMs

Es ist wichtig zu wissen, welche Anwendungsfälle in den meisten Bankennetzwerken primär eingesetzt werden, da der Finanzsektor häufig auf ähnliche Anwendungen setzt:

‍

– Kreditpreismodelle: Diese werden eingesetzt, um die Wahrscheinlichkeit einer fristgerechten Rückzahlung auf Basis historischer Datensätze vorherzusagen. Dabei kommen Modelle des maschinellen Lernens (ML) zum Einsatz, darunter logistische Regression, Entscheidungsbäume, Random Forests und Gradient-Boosting-Algorithmen.‍

- Kredit-Scoring: Nutzt einen ähnlichen Rahmen, um mithilfe von ML-Algorithmen effizient und unmittelbar präzise Kredit-Scores zu erstellen.‍

- Betrugserkennung: Tritt in verschiedenen Formen auf und ermöglicht es Banken, Verhaltensabweichungen zu analysieren, ohne auf regelbasierte Systeme angewiesen zu sein, die häufig eine hohe Rate an Fehlalarmen aufweisen. Dies gilt auch für die Geldwäscheprävention, da Anomalieerkennung und verbesserte Namensprüfungen eine präzisere Datenerfassung ermöglichen.‍

- Kundenservice-Chatbots auf Basis von Sprachmodellen (LLM): Ein zunehmend unverzichtbares Instrument für Banken, da sie durch die Verarbeitung natürlicher Sprache bei der Mehrheit der Kundenanfragen sofortige Hilfe leisten. Darüber hinaus können virtuelle Assistenten in KI-gestützten Umgebungen eingesetzt werden, um Kontostände abzurufen oder Überweisungen für Kunden zu tätigen.‍

- Algorithmen für die Personalauswahl: Ähnlich wie in anderen Branchen werden diese häufig eingesetzt, um den hohen Bedarf an spezialisiertem Personal in zahlreichen Unternehmensniederlassungen zu bewältigen. Sie können zudem den Rekrutierungsprozess unterstützen, indem sie Testergebnisse oder Interviewleistungen bewerten.‍

- Handel & Investment: Wird sowohl intern als auch extern genutzt, um eine Vielzahl von Datenpunkten aus Nachrichtenartikeln, sozialen Medien und Finanzberichten gleichzeitig zu analysieren und auf Basis der individuellen Handelsstrategie Anlageentscheidungen zu treffen.

‍

Die Relevanz des EU AI Act für Anwendungsfälle im Bankwesen

Um die Auswirkungen des EU AI Act zu bewerten, müssen die im Gesetz vorgeschlagenen Kategorien mit den Funktionen und Fähigkeiten des eigenen KI-Portfolios abgeglichen werden. Abbildung 1 stellt diese Bewertung dar:

‍

‍

Der Unterschied zwischen hohem und begrenztem Risiko liegt in der Auswirkung und Schwere: Ein hohes Risiko kann bei Missbrauch schwerwiegende ethische Folgen haben, während ein begrenztes Risiko in der Regel keine gravierenden Konsequenzen nach sich zieht (wie etwa bei Spamfiltern oder den meisten Betrugserkennungsalgorithmen).

‍

Im Bankwesen wurden zwei finanzspezifische Anwendungsfälle bestätigt und durch das Gesetz direkt hervorgehoben: Kredit-Scoring-Modelle und Risikobewertungstools (in der Versicherung). Beide werden als Hochrisikosysteme eingestuft, da die Entscheidung über den Zugang einer Person zu finanziellen Ressourcen ethische Implikationen hat. Daraus lässt sich ableiten, dass die meisten Modelle zur Kreditpreisgestaltung und Personalauswahl ebenfalls als Hochrisikosysteme gelten, da sie die Existenzgrundlage beeinflussen und bei systembedingten Verzerrungen ethische Bedenken aufwerfen können.

‍

Darüber hinaus ist bei LLMs aufgrund ihrer weiten Verbreitung und der spezifischen Compliance-Anforderungen besondere Vorsicht geboten. Wie das Consumer Finance Protection Bureau der US-Regierung feststellte, nutzten über 98 Millionen Menschen im Jahr 2022 den Chatbot-Service einer Bank (US-Bericht, was 37,4 % der Bevölkerung entspricht). Diese KI-gestützten Programme sind aufgrund ihrer Komplexität und Gestaltung anfällig für verschiedene Schwierigkeiten und potenzielle Risiken (weitere Details zu LLMs finden Sie in unserem früheren Blogbeitrag, Large Language Models (LLMs) in Customer Support-Chatbots).

‍

Daher müssen Banken, die LLMs einsetzen, die folgenden zusätzlichen Protokolle und Offenlegungspflichten einhalten:

‍

- „Generative Basismodelle müssen Transparenz darüber gewährleisten, dass die Inhalte von einem KI-System und nicht von Menschen generiert wurden.“‍

- „Das Basismodell ist so zu trainieren und gegebenenfalls zu konzipieren und zu entwickeln, dass angemessene Schutzmaßnahmen gegen die Generierung von Inhalten, die gegen Unionsrecht verstoßen, gewährleistet sind.“

- „Unbeschadet der Rechtsvorschriften der Union oder der Mitgliedstaaten zum Urheberrecht ist eine ausreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten zu erstellen und öffentlich zugänglich zu machen.“

‍

Obwohl LLMs nicht unmittelbar als Hochrisiko eingestuft werden, sollte ihre Risikobewertung von einem Unternehmen für KI-Risikomanagement wie Calvin Risk analysiert werden.

‍

Bei Calvin unterstützt unser dynamisches Team Unternehmen mit seiner Expertise auf dem Weg zu technischer, ethischer und regulatorischer Exzellenz im Bereich KI. Wir bieten Pakete zur Unterstützung bei der Compliance, der internen Systemoptimierung und der Sicherstellung vorurteilsfreier Algorithmen. Dabei verfolgen wir einen einzigartigen quantitativen Ansatz für das KI-Risikomanagement und stellen über unsere Plattform umsetzbare VaR- und ROI-Analysen bereit.

‍

Möchten Sie mehr erfahren? Wir helfen Ihrem Unternehmen gerne dabei, die Anforderungen des EU AI Act zu erfüllen – vereinbaren Sie noch heute einen Demo-Termin mit uns!

‍