Künstliche Intelligenz (KI) und Datenanalytik prägen immer mehr Bankenprozesse – vom Kerngeschäft über digitales Bezahlen bis zur Be­kämpfung von Geldwäsche. Für Bankkunden stehen dabei der mobile Zugriff auf Bankinformationen und das digitale Bezahlen ganz vorn.

Die KI-Entwicklung schreitet somit schnell vor­an und bietet sowohl der Wirtschaft als auch der Gesellschaft große Chan­cen. Gleichzeitig ruft KI aber auch Skepsis hervor, bietet sie doch einiges Missbrauchspotenzial.

Die EU-Kommission will KI daher strenger regulieren. Im Entwurf einer EU-Verordnung (Download am Ende des Beitrags oder hier), die Ende April in Brüssel vorgestellt worden ist, werden auf 81 Seiten Regeln und Mindeststandards vor allem für sogenannte „Hochrisikoan­wen­dun­gen“ vorgegeben.

Ziel ist dabei, das Vertrauen in die neue Techno­logie zu stärken und bestimmte Praktiken einzudämmen – etwa die Benachteiligung bestimm­ter Personengruppen und die Manipulation von Nutzern.

Ziel ist Vertrauenswürdigkeit

Margrethe Vestager, zuständige EU-Vizepräsidentin, hat bei der Vorstel­lung der Verord­nung deutlich gemacht: „Bei künstlicher Intelligenz ist Ver­trauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vor­schriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist. Mit der Schaffung der Standards können wir weltweit den Weg für ethi­sche Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbs­fähig bleibt. Unsere Vorschriften werden zukunftssicher und innovations­freundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen.“

EU-Kommission

Die neuen Vorschriften sollen damit auf einer zukunftssicheren KI-Definition aufsetzen und in allen Mitgliedsstaaten direkt und in gleicher Weise angewendet werden. Insgesamt folgen sie einem risikobasierten Ansatz.

Ein hohes Risiko für den Einsatz von KI-Systemen sieht die EU durchaus auch innerhalb der Bankbranche. Explizit genannt werden wichtige pri­vate und öffentliche Dienstleistungen. Darunter fällt etwa die Bewertung der Kre­dit­würdigkeit, wodurch Bürgern nach Ansicht der EU-Kommission die Möglichkeit verwehrt wird, ein Darlehen zu erhalten.

Hier finden Sie weitere Beiträge aus den Betriebswirtschaftlichen Blättern (BBL)

⇒ Infotipp: Setzen Sie auf diesen Link ein Bookmark – und Sie haben jederzeit einen Überblick über die Betriebswirtschaftlichen Blätter.

Für Systeme mit hohem Risiko werden danach strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen. Dazu zählen:

• Angemessene Risikobewertungs- und Risikominderungssysteme.
• Hohe Qualität der Datensätze, die in das System eingespeist wer­den, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten.
• Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Er­geb­nissen zu ermöglichen.
• Ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Kon­formität beurteilen können.
• Klare und angemessene Informationen für die Nutzer.
• Angemessene menschliche Aufsicht zur Minimierung der Risiken.
• Hohes Maß an Robustheit, Sicherheit und Genauigkeit.

Genaue Regeln wird es auch für KI-Anwendungen mit geringem Risiko geben. Das gilt unter anderem für den Umgang mit auch in der Sparkassen-Finanz­gruppe eingesetzten Chatbots. Bei ihnen „sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben, damit sie in voller Kenntnis der Sachlage entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht“, heißt es im Verordnungsentwurf.

Bezüglich der KI-Governance schlägt die Kommission vor, dass die Anwendung der neuen Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden soll. Ferner wird ein Europäischer Ausschuss für künstliche Intelligenz eingerichtet werden, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll.

Europäisches Konzept für Exzellenz in der KI geplant

Damit Europa weltweit wettbewerbsfähig bleibt, setzt sich die Kommis­sion dafür ein, dass Innovationen bei der Entwicklung und Nutzung von KI-Technik in allen Wirtschaftszweigen und in allen Mitgliedsstaaten ge­fördert werden.

Mit der umfassenden Überarbeitung des koordinierten Plans werden kon­krete gemeinsame Maßnahmen für die Zusammenarbeit vorgeschla­gen. Außerdem soll er die Umsetzung nationaler KI-Strategien voran­treiben, jegliche Fragmentierung beseitigen und bei der Bewältigung globaler Herausforderungen helfen.
Daneben wird es eine neue Maschinenverordnung geben. Sie soll für die sichere Integration von KI-Systemen in den gesamten Maschinenpark sorgen.

KI-Konzept und Maschinenverordnung müssen nun vom Europäischen Parlament und von den Mitgliedsstaaten in einem ordentlichen Gesetzge­bungs­verfahren angenommen werden. Sobald die Verordnungen verab­schie­det sind, werden sie unmittelbar in der gesamten EU gelten.

Kritikpunkte am Entwurf vorhanden

Peter van der Putten, Assistenz-Professor für KI an der niederländischen Universität Leiden, glaubt angesichts der vorgestellten EU-Pläne nicht, dass es damit getan ist, „die Akzeptanz von KI durch Regeln und Vorga­ben zu stärken – das eigentliche Ziel muss sein, KI fair, transparent und erklärbar zu gestalten, damit sie sich unser Vertrauen wirklich verdient“.

Uni Leiden

Aus seiner Sicht stecken die EU-Vorgaben nur weite Grenzen ab, das heißt, dass weiterhin KI-Anwendungen entwickelt und eingesetzt werden können, die zwar technisch legal sind, aber nicht im Sinne des Kunden arbeiten, sondern nur einseitig Unternehmensinteressen dienen.

„Eine große Herausforderung ist, dass KI längst nicht mehr nur das Sam­meln historischer Daten und deren Auswertung mit einem einzigen KI-Modell umfasst. Moderne KI-Systeme bestehen aus hunderten oder gar tausenden solcher Modelle, die ständig hinzulernen.

Sie haben keine festen Release-Zyklen für das Entwickeln, Testen und Veröffentlichen – stattdessen entwickeln sie sich kontinuierlich weiter, passen sich an und beeinflussen mit ihren Entscheidungen auch, wo und wie sie weitere Erfahrungen sammeln, sodass sich selbst verstärkende Feedback-Schleifen entstehen können“, so der Wissenschaftler.

Droht eine Überregulierung?

„Neue Technologien, Lösungen und Märkte brauchen einen verläss­li­chen ordnungspolitischen Rahmen, aber ohne Überregulierung“, hat Prof. Antonio Krüger, Geschäftsführer des Deutschen Forschungs­zen­trums für Künstliche Intelligenz (DFKI), gegenüber dem IT-Informa­tionsdienst Heise online betont.

DFKI

KI ist für Krüger keine neue Wissenschaft, aber die Anwendungen und die Marktdurchdringung stecken noch in der Puber­tät. Der KI-Manager fordert, dass die Technik in Europa nicht für willkürliche Überwachung eingesetzt werden darf.

Prof. Kristian Kersting, KI-Forscher an der TU Darmstadt, hält gegenüber dem Online-Magazin „Mixed“ vor allem die binäre Definition von hohem und niedrigem Risiko für „bestenfalls nebulös und schlimmstenfalls ge­fährlich“, da es ihm an Kontext und Feinheiten fehlt.

Ebenfalls Widerstand kommt von rund 40 Mitgliedern des EU-Par­la­ments, unter ihnen die Vizepräsidentin und FDP-Politikerin Nicola Beer. Zusammen mit weiteren deutschen EU-Par­lamentariern hat sie fraktionsübergreifend einen offenen Brief an die EU-Kommission verfasst. Beer fehlt im Entwurf etwa das klare Verbot von Gesichtserkennung im öffentlichen Raum.

Grüne

Mitunterzeichnerin Alexandra Geese von den Grünen glaubt, dass die EU mit dem Entwurf „guten Willen bewiesen hat, globale Standards zu setzen, aber an entscheidenden Stellen fehlt dem Entwurf noch der Biss“. Auch ihr fehlt ein klares Verbot von Ge­sichts­erkennung im öffentlichen Raum.

„Künstliche Intelligenz soll uns in eine freie, nachhaltige Zukunft beglei­ten und nicht ins vorletzte Jahrhundert zurückführen. Deshalb ist es richtig, dass die EU-Kommission potenziell diskriminierende Anwendun­gen als Hoch-Risiko-Anwendungen einstuft“, so Geese weiter.

Bankbranche setzt KI bereits ein

Während die EU noch an der Regulierung „schraubt“, wird KI im Banken­bereich in verschiedensten Pilotprojekten getestet. Gerade bei steigen­den Compliance-Anforderungen kann künstliche Intelligenz unterstützen – etwa mit intelligenten Assistenzsystemen, die mit KI-Hilfe relevante Daten und Sachverhalte analysieren und Fachent­schei­dungen damit vorbereiten. Chatbots können die Mitarbeiter der Compliance-Abteilung vor allem bei Standardaufgaben entlasten, meinen Experten der IT-Firma Sage.

Hinzu kommt nach ihrer Ansicht, dass Compliance nicht nur die offiziel­len Vorschriften umfasst, sondern auch Verhaltensregeln und die Art und Weise, wie sich ein Unternehmen nach außen und innen präsen­tiert. Welchen Stellenwert das Thema heute hat, zeigt sich auch daran, dass viele große Konzerne mittlerweile einen dedizierten CCO (Chief Com­pliance Officer) beschäftigen.

Virtuelle Assistenten entlasten Compliance-Zuständige

Antworten bekommen Mitarbeiter aber immer öfter von virtuellen Assis­ten­ten. In diesem Zusammenhang ist es hilfreich, wenn die Anfrage an den Chatbot von vornherein relevante Schlagworte enthält, um schnell die notwendigen Antworten zu erhalten.

KI kann zudem dazu dienen, Prozesse zu automatisieren – etwa die Anmeldung eines Geschäftsessens: Der Mitarbeiter fragt dabei das System, ob er mit einer bestimmten Person essen gehen darf. Die KI findet durch Analyse der einschlägigen gesetzlichen und internen Regelungen für ihn heraus, ob der geplante Termin unbedenklich ist oder nicht.

Vor allem Standardfälle lassen sich mithilfe von KI sehr gut vereinfachen. Das bedeutet: Der Compliance-Mitarbeiter muss nicht mehr jede Frage selbst klären, sondern nur noch dort aktiv werden, wo die KI an ihre Grenzen stößt.

Aber auch bei weniger offensichtlichen Fällen, etwa Abweichungen von Standardanfragen und unklaren Situationen, kann KI wertvolle Dienste leisten und zum Beispiel eine Vorqualifizierung des Sachverhalts übernehmen, bevor die Anfrage an einen Mitarbeiter der Compliance-Abteilung zur finalen Bearbeitung weitergeleitet wird. Der Mensch greift also erst dann ein, wenn seine Expertise auch tatsächlich gebraucht wird – eine enorme Entlastung für die Compliance-Abteilung.

Ein anderes Themenfeld ist die Kreditvergabe, die sich immer stärker nur dann wirtschaftlich umsetzen lässt, wenn viele Prozesse automa­tisiert ablaufen. Also ein ideales Einsatzgebiet für KI. Bisher erfolgt der jewei­lige Abgleich eher über sogenannte „Blacklists“ oder die Analyse auffälliger Zahlungsströme.

Was in den Sparkassen läuft

Auch innerhalb der Sparkassen-Finanzgruppe wird an verschiedenen Punkten bereits künstliche Intelligenz eingesetzt. Die BBL haben im vergangenen Jahr in der monatlichen KI-Corner zahlreiche Projekte vorgestellt (für eine Zusammenfas­sung siehe den BBL-Beitrag: Anträge blitzschnell bearbeiten).

Aktuell­stes Beispiel ist der Sieger der Symbioticon 2020, der fünften Ausgabe des Hackathons der Sparkas­sen-Finanzgruppe. Mit Deep Neuron Lab hat ein Team gewonnen, das einen Prototyp für den KI-Einsatz bei der Vergabe von Firmenkrediten entwickelt hat. Die Idee: Durch den Einsatz von KI lassen sich Geschäftsberichte wesent­lich schneller analysieren.

Das spart nach Ansicht des Deep Neuron Labs wertvolle Arbeitsstunden für die Sparkassen, die ihren Kunden so wesentlich zügiger eine Rück­meldung zur Kreditentscheidung geben können.

Wo die Chancen und Risiken für KI liegen, diskutieren heute (29. April, neun bis 14 Uhr) auch zahlreiche Experten auf dem 4. Gipfel der S-Finanzgruppe (online).

Blue Planet Studio/shutterstock

Am morgigen Freitag (30. April) finden Sie an dieser Stelle im Portal der SparkassenZeitung eine Zusammen­fassung der wichtigsten Ergebnisse vom 4. KI-Gipfel.

Fazit

Die EU-Kommission möchte künstliche Intelligenz zeitnah regulieren. Dazu hat sie den Entwurf für eine neue Verordnung vorgelegt. Zentrales Ziel ist dabei, das Vertrauen in die neue Technologie zu stärken und bestimmte Praktiken einzudämmen – etwa die Benachteiligung bestimmter Personengruppen und die Manipulation von Nutzern. Vor allem für Systeme mit hohem Risiko sollen deshalb strenge Vorgaben gelten. Sie müssen erfüllt sein, bevor sie auf den Markt gebracht werden dürfen.

Autor
Jürgen Janik ist Redakteur der Betriebswirtschaftlichen Blätter in Mannheim.

Hier finden Sie weitere Beiträge aus den Betriebswirtschaftlichen Blättern (BBL)

⇒ Infotipp: Setzen Sie auf diesen Link ein Bookmark – und Sie haben jederzeit einen Überblick über die Betriebswirtschaftlichen Blätter.