Die BaFin hat aufsichtliche Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen von Finanzunternehmen publiziert. Sie sollen zu einem verantwortungsvollen Einsatz von Big Data und künstlicher Intelligenz (Big Data und Artificial Intelligence – BDAI) führen und die Kontrolle des damit einhergehenden Risikos ermöglichen.
Technologien wie BDAI werden zunehmend auch von Unternehmen des Finanzmarkts angewendet. Bereits 2018 hatte die BaFin in ihrer Studie „Big Data trifft auf künstliche Intelligenz “ darauf hingewiesen, dass sich daraus Chancen für die Unternehmen, aber auch für Verbraucherinnen und Verbraucher ergeben, dass es aber auch gelte, die Risiken zu beherrschen, die BDAI-Anwendungen mit sich brächten.
Grundsätze für kontrollierten Einsatz von BDAI
Ausgehend von den Erkenntnissen der Studie und den Ergebnissen einer anschließenden Konsultation hat sich die BaFin unter anderem mit der Frage befasst, welche aufsichtlichen Grundsätze und Rahmenbedingungen für einen kontrollierten Einsatz von BDAI aufgestellt werden müssen. Ergebnis dieser Überlegungen ist nun das Prinzipienpapier, das den von der BaFin beaufsichtigten Unternehmen als Orientierungshilfe dienen soll. Außerdem erhofft sich die BaFin von dem Papier wichtige Impulse für den Austausch mit verschiedenen Stakeholdern.
Schwierige Abgrenzungsfragen
Dabei liegt allen regulatorischen Fragen rund um BDAI ein grundsätzliches Problem zugrunde: Nach wie vor ist es schwierig, BDAI-Verfahren von Verfahren der klassischen Statistik abzugrenzen. Unter Risikogesichtspunkten lassen sich aber drei Merkmale herausstellen, die bei modernen BDAI-Methoden von besonderer Bedeutung sind:
- Erstens sind die verwendeten Algorithmen häufig im Vergleich zu klassischen statistischen Verfahren besonders komplex. Das erschwert ihre Nachvollziehbarkeit.
- Zweitens lassen sich immer kürzere Rekalibrierungszyklen beobachten. Dies liegt an der Kombination aus stetig weiter lernenden Algorithmen und daran, dass nahezu täglich neue Daten zur Verfügung stehen. Dadurch verschwimmen immer mehr die Grenzen zwischen Kalibrierung und Validierung.
- Drittens erhöht sich durch den Einsatz von BDAI-Methoden der Grad der Automatisierung. Dadurch lassen sich Prozesse immer leichter hochskalieren, und die Auswirkung des einzelnen Algorithmus nimmt zu.
Die Prinzipien gelten daher vor allem für solche Algorithmen, die diese drei Merkmale aufweisen.
Aufteilung in zwei Phasen
Um die Prinzipien möglichst genau formulieren zu können, wurde der auf Algorithmen fußende Entscheidungsprozess stark vereinfachend in zwei Phasen unterteilt: die Entwicklungsphase und die Anwendungsphase. In der Entwicklungsphase geht es darum, wie der Algorithmus ausgewählt, kalibriert und validiert wird. Hierfür gibt es beispielsweise Prinzipien zur Datenstrategie, aber auch solche zur Dokumentation der unternehmensinternen und externen Nachvollziehbarkeit. In der Anwendungsphase müssen die Ergebnisse des Algorithmus interpretiert und in Entscheidungsprozesse eingebunden werden. Dies kann automatisch geschehen, aber auch, indem laufend Experten einbezogen werden. In jedem Fall muss eine funktionierende Geschäftsordnung etabliert sein, die unter anderem ausreichende Kontrollmechanismen und entsprechende Feedbackloops zur Entwicklungsphase umfasst. Flankiert werden diese beiden Phasen durch übergeordnete Prinzipien, etwa zur Notwendigkeit einer klaren Verantwortungsstruktur und eines adäquaten Risiko- und Auslagerungsmanagements.
(BaFin vom 15.06.2021 / Viola C. Didier, RES JURA Redaktionsbüro)
