2024 ist ein entscheidendes Jahr für die gesamte Künstliche Intelligenz. Ausgehend von bahnbrechenden Entwicklungen und Spezialisierungen im kommerziellen Einsatz haben Branchen eine immer breitere Implementierung der Technologie erlebt – ein Signal für den Wandel von Experimentierphase hin zu flächendeckender Implementierung.

‍

Dieser Wandel hat wiederum zu einer Neuausrichtung der KI-Strategien in Unternehmen geführt. Nachdem Ressourcen erfolgreich in den Aufbau oder die Integration monumentaler Systeme in ihre KI-Portfolios geflossen sind, richtet sich die Aufmerksamkeit nun auf mehrere zentrale Fragen:

‍

• Wie kann ich die Leistung meines KI-Systems verbessern?
• Wie sicher ist es im laufenden Betrieb?
• Wie kann ich diese Risiken und die potenzielle Abweichung des Modells nun steuern?

‍

Angesichts des wachsenden Interesses von Unternehmen an Tools für das KI-Risikomanagement konnte Calvin in diesem Jahr wertvolle Einblicke in die Praxis der Implementierung durch unseren wachsenden Kundenstamm gewinnen. In diesem Blogbeitrag teilen wir unsere Überlegungen zur Branche des KI-Risikomanagements, unsere Erwartungen für 2025 sowie unsere Perspektive zur Minderung neuer Risiken bei gleichzeitiger Maximierung des KI-gestützten Mehrwerts.

‍

Auf einen Blick: KI-Implementierung 2024

‍

Die Implementierung von KI stand 2024 im Mittelpunkt. In einer Studie von IDC, gesponsert von Microsoft, haben sich Trends wie Produktivität, fortschrittliche Lösungen, die Einführung generativer KI und gesteigerte Erträge als Schwerpunkte für Unternehmen im vergangenen Jahr herauskristallisiert.

‍

KI-Projekte haben an vorderster Front einen messbaren Einfluss auf Geschäftsergebnisse gezeigt; für jeden investierten Dollar in generative KIlag der Return on Investment (ROI) beeindruckenderweise bei 3,7-fach, wobei führende Unternehmen im Bereich der generativen KI sogar noch höhere Erträge mit einem durchschnittlichen ROI von 10,3-facherzielten. Dies wird durch die neueste Studie von Deloitte zur generativen KI in der Unternehmenslandschaft gestützt: Eine Mehrheit der befragten Führungskräfte – konkret 58 % der C-Level-Manager und Vorstandsmitglieder – gab an, durch den Einsatz generativer KI greifbare Vorteile zu erzielen. Diese Vorteile konzentrieren sich vor allem auf die Förderung von Innovationen im Unternehmen, die Verbesserung von Produkt- und Serviceangeboten sowie die Stärkung der Strategien zur Kundenbindung.

‍

Dies deckt sich mit den Ergebnissen von IDC, wonach Produktivität das wichtigste Geschäftsziel für KI-Systeme bleibt, da 92 % der KI-gestützten Unternehmen KI zur Steigerung der Mitarbeiterproduktivität einsetzen. Unter ihnen gaben 43 % an, dass produktivitätsorientierte Anwendungsfälle den größten ROI lieferten. Die Bereiche Kundenbindung, Umsatzwachstum, Kostenmanagement sowie Produkt- und Serviceinnovation folgen dicht dahinter und verzeichneten in diesem Kalenderjahr beachtliche Erfolge, wobei fast die Hälfte der befragten Unternehmen erwartet, dass KI in den nächsten 24 Monaten in diesen Bereichen tiefgreifende Auswirkungen haben wird.

‍

Was generative KI betrifft, so ist die Akzeptanz von 55 % im Jahr 2023 auf 75 % im Jahr 2024gestiegen, was auf einen Trend zu breiterer Einführung und Integration hindeutet. Bemerkenswert ist, dass die Der höchste ROI durch generative KI wurde im Finanzdienstleistungssektor erzielt, gefolgt von Medien & Telekommunikation, Mobilität, Einzelhandel & Konsumgüter, Energie, Fertigung, Gesundheitswesen und Bildung. Unser strategischer Fokus auf die drei führenden Branchen hat sich als äußerst effektiv erwiesen, da wir unsere Plattform bereits auf die spezifischen Anforderungen dieser Sektoren zugeschnitten haben. Dieser Wachstumstrend bei generativer KI wird sich weiter fortsetzen, da Unternehmen in den nächsten 24 Monaten voraussichtlich verstärkt maßgeschneiderte KI-Lösungen für immer spezifischere Branchenanforderungen entwickeln werden – etwa in Form von Copiloten und KI-Agenten.

‍

In diesem Jahr haben wir eine deutliche Verschiebung hin zu Retrieval-Augmented Generation (RAG)-Systemen beobachtet, insbesondere in der Banken- und Versicherungsbranche. Anfang des Jahres haben wir unsere bahnbrechende quantitative LLM-Testsuite eingeführt, die darauf ausgelegt ist, diese Modelle zu optimieren und präzise Tests durchzuführen, um unter anderem Leistung, Robustheit und Verzerrungsfreiheit der Ergebnisse sicherzustellen. Dies spiegelt eine zunehmende Reife im Umgang mit KI wider, da Unternehmen vermehrt auf komplexere, maßgeschneiderte Lösungen setzen.

‍

Angesichts dieser außergewöhnlichen Entwicklungen erwarten wir ein kontinuierliches Wachstum bei der KI-Einführung insgesamt. Laut IDC implementieren 29 % der KI-Vorreiter ihre Lösungen innerhalb von drei Monaten, verglichen mit nur 6 % bei den Nachzüglern. Tools wie Calvin spielen eine entscheidende Rolle dabei, dieses Tempo zu beschleunigen, die Bereitstellung zu optimieren und Unternehmen dabei zu unterstützen, ihre KI-Ziele effizient zu erreichen.

‍

Chancen und Risiken im Jahr 2024

‍

Während die KI-Implementierung 2024 deutlich zugenommen hat, gehen technologische Fortschritte mit erheblichen organisatorischen Herausforderungen einher. Am Markt zeigt sich diese Dynamik durch längere Implementierungszeiten, das Zurückziehen von KI-Systemen und strategische Neuausrichtungen aufgrund von Inkonsistenzen bei der Modellleistung und unerwarteten Ergebnissen durch Halluzinationen.

‍

Eine Analyse der Harvard University zu S&P 500-Unternehmen ergab, dass über 60 % wesentliche KI-bezogene Risiken erkennen. Dabei identifizieren die Organisationen umfassende Risikokategorien, darunter Cybersicherheit, Innovation, regulatorische Aspekte, geistiges Eigentum, ethische Bedenken sowie potenzielle Reputationsrisiken. Bemerkenswert ist, dass 20 % dieser Unternehmen angaben, in drei oder mehr verschiedenen KI-Risikobereichen exponiert zu sein.

‍

Die Untersuchung ergab, dass mehr als 30 % der Unternehmen in ihren strategischen Bewertungen befürchten, dass eine unzureichende Integration von KI-Technologie ihre Wettbewerbsposition erheblich schwächen und zu Marktanteilsverlusten führen könnte, falls sie nicht in der Lage sind, marktfähige Produkte und Dienstleistungen mit KI anzubieten.

‍

Dementsprechend äußerten etwa 30 % der Unternehmen Bedenken hinsichtlich der Navigation durch die komplexe Landschaft der aufkommenden KI-Regulierungen; über 15 % hoben insbesondere Herausforderungen im Zusammenhang mit Datenschutz- und Privatsphäre-Rahmenwerken innerhalb des sich entwickelnden Governance-Umfelds hervor.

‍

Schließlich legen Unternehmen zunehmend die Risiken offen, die mit dem Versäumnis verbunden sind, verantwortungsvolle KIeinzusetzen oder bereitzustellen. Basierend auf der Studie 2024von IBM erkannten etwa ein Viertel der Unternehmen potenzielle Reputationsrisiken im Zusammenhang mit der Implementierung von KI. Rund 15 % gingen explizit auf ethische Erwägungen ein, während jedes fünfte Unternehmen offen potenzielle Schwachstellen durch fehlerhafte Ergebnisse, mögliche Voreingenommenheit oder Risiken durch defekte oder gesellschaftlich schädliche KI-Modelle, Algorithmen und Trainingsmethoden einräumte – ein Zeichen für das wachsende Bewusstsein für die dringende Notwendigkeit umfassender Strategien zum KI-Risikomanagement.

‍

Ausblick auf den Stand der KI im Jahr 2025

‍

Da das KI-Risikomanagement sowohl in geschäftlichen als auch in technischen Strategien in den Vordergrund rückt, werden bewährte Tools auf dem Weg ins Jahr 2025 immer wichtiger. Dieser Fokus ist besonders in den Bereichen Finanzdienstleistungen, Telekommunikation und Mobilität ausgeprägt, wo risikoreiche KI-Einsätze auf sich entwickelnde regulatorische Rahmenbedingungen wie den EU AI Act treffen. Während KI-Technologien in eine Reifephase übergehen, streben Unternehmen die Optimierung von Systemen an, die sich an Wettbewerbs-Benchmarks und Industriestandards orientieren, und stellen gleichzeitig umfassende Strategien zur Risikoüberwachung und -minderung sicher, die der inhärent komplexen und undurchsichtigen operativen Natur von KI gerecht werden.

‍

In einem Ausblick für 2025 merkte Sarah Bird, Chief Product Officer für Responsible AI bei Microsoft, an: „Auch wenn Modelle sicherer werden, müssen wir Tests und Messungen auf das Niveau der schlimmsten Bedrohungen heben, die wir sehen – Tests, die einen raffinierten, gegnerischen Nutzer simulieren und aufzeigen, wozu dieser in der Lage ist.“

‍

Wir bei Calvin Risk haben es uns zur Aufgabe gemacht, die marktführende quantitative Lösung für exzellentes Leistungs-, Regulierungs- und ethisches Risikomanagement bei KI anzubieten – damit verantwortungsvolle KI zur überprüfbaren Realität wird.

‍

Über Calvin

‍

Die Softwarelösung Calvin ist eine umfassende, auf Assessments ausgerichtete Governance-Plattform, die darauf ausgelegt ist, den geschäftlichen Mehrwert sowohl von prädiktivem maschinellem Lernen als auch von generativen KI-Anwendungen zu maximieren. Dank der modularen Architektur von Calvin können Unternehmen spezifische Funktionen gezielt an ihre individuellen Anforderungen anpassen. So fungiert die Plattform als Komplettlösung, die flexibel auf unterschiedliche Compliance- und Risikomanagement-Anforderungen zugeschnitten werden kann. Die Lösung wird häufig in den eigenen Cloud-Umgebungen der Kunden (z. B. Private oder Virtual Private Cloud) bereitgestellt, um den Datenschutz und die Einhaltung interner IT-Richtlinien zu gewährleisten. Durch die einzigartige Kombination aus quantitativer Risikobewertung und Governance-Best-Practices ermöglicht Calvin Unternehmen ein umfassendes Verständnis und Management ihrer KI-Risikoprofile und bietet Führungskräften eine fundierte Entscheidungsgrundlage.

‍