KI-Serie 3: Aufsichtsbehörden richten ihr Augenmerk zunehmend auf KI im Finanzsektor

Die Stellungnhame der ESMA beschreibt die vielfältigen Anwendungen von KI im Bereich der Investmentdienstleistungen, von Kundenservice und -support über Compliance, Risikomanagement und Betrugserkennung bis hin zur operativen Effizienz. Beispielsweise könnten im Bereich der Investmentdienstleistungen KI-Tools von Unternehmen genutzt werden, um das Wissen und die Erfahrung eines Kunden, seine finanzielle Situation (einschliesslich Risikotoleranz) und seine Anlageziele (einschliesslich Nachhaltigkeitspräferenzen) zu analysieren und personalisierte Anlageempfehlungen zu geben. Da KI in der Lage ist, grosse Mengen an Finanzdaten zu bearbeiten, könnte sie auch verwendet werden, um Marktentwicklungen vorherzusagen, Anlagestrategien zu identifizieren und potenzielle Anlagechancen zu erkennen.

Die Risiken im Zusammenhang mit der Nutzung von KI-Systemen werden in der Stellungnahme der ESMA ausführlich behandelt, einschliesslich Herausforderungen wie mangelnde Rechenschaftspflicht, Transparenz, Datenschutzbedenken und algorithmische Voreingenommenheit. Die ESMA gibt Leitlinien zu organisatorischen Anforderungen, Governance-Strukturen, Risikomanagement-Rahmenwerken sowie zu Wissen und Schulung des Personals, welche für die effektive Integration von KI in Investmentdienstleistungen unerlässlich sind. Die Datenintegrität, das Testen von Algorithmen und die Einhaltung regulatorischer Standards werden als Schlüsselelemente zur Minderung der mit KI-Technologien verbundenen Risiken hervorgehoben. Darüber hinaus betont die ESMA-Stellungnahme die Notwendigkeit, dass Unternehmen die Interessen der Kunden in den Vordergrund stellen, Transparenz über die Nutzung von KI bei Entscheidungsprozessen in der Anlageberatung gewährleisten und strenge Verhaltensanforderungen gemäss den geltenden Vorschriften einhalten, in diesem Fall insbesondere der Richtlinie 2014/65/EU des Europäischen Parlaments und des Rates vom 15. Mai 2014 über Märkte für Finanzinstrumente ("MiFID II"). Die ESMA unterstreicht die Notwendigkeit, dass Unternehmen strenge Kontrollen einführen, gründliche Tests der Algorithmen durchführen und die Einhaltung von Datenschutzbestimmungen sicherstellen, wenn sie KI-Systeme im Zusammenhang mit Investmentdienstleistungen einsetzen.

Schweiz

Topic

New Media & Technologies

Obwohl sich die Stellungnahme der ESMA auf die Erbringung von Investmentdienstleistungen gegenüber Privatkunden konzentriert, könnte sie auch für die Erbringung dieser Dienstleistungen gegenüber professionellen Anlegern nützlich sein, vorbehaltlich eines möglichen Opting-ups/Opting-ins. Die Stellungnahme könnte auch für Schweizer Finanzinstitute von Nutzen sein und daran erinnern, dass die Implementierung von KI-basierten Lösungen zunächst aus einer regulatorischen Perspektive betrachtet werden muss.

Die Identifizierung dieser Risiken und der damit verbundenen Abhilfemassnahmen ist kein neues Vorhaben für Aufsichtsbehörden innerhalb und ausserhalb der Europäischen Union. In der Schweiz war die Eidgenössische Finanzmarktaufsicht (FINMA) nicht untätig, bis zur Veröffentlichung der ESMA-Stellungnahme Position zu beziehen. Insbesondere hat sie bereits öffentlich zur KI im Finanzsektor in ihrem im November 2023 veröffentlichten Risikomonitor unter der Rubrik "Längerfristige Trends und Risiken" Stellung genommen (weitere Informationen unter https://www.finma.ch/en/news/2023/11/20231109-mm-finma-risikomonitor-2023/). Basierend auf einer von der FINMA durchgeführten Umfrage stellte sie fest, dass Chatbots im Finanzdienstleistungssektor zunehmend verfügbar sind und das allgemeine Interesse an KI-Lösungen einen weiteren Aufschwung erlebt hat.

In diesem Zusammenhang hat die FINMA zunächst allgemeine Leitlinien für Schweizer Finanzinstitute gegeben, die den Einsatz von KI zur Erbringung von Finanzdienstleistungen in Erwägung ziehen, wie zum Beispiel:

(i) die Implementierung einer klaren Governance und Zuweisung von Verantwortlichkeiten innerhalb der Organisation, um eine ordnungsgemässe Kontrolle der KI-Systeme sicherzustellen;

(ii) die Bewertung von Modellen im Hinblick auf die Prüfung ihrer Robustheit, Genauigkeit und Zuverlässigkeit; und

(iii) die Notwendigkeit von Transparenz und Erklärbarkeit der KI-Nutzung und -Modelle.

Das Risiko algorithmischer Voreingenommenheit wurde auch von der FINMA diskutiert. Dies unterstreicht die zentrale Rolle, die die Bearbeitung von Personendaten in diesem Zusammenhang spielt, und die Notwendigkeit, solche Risiken zu bewerten, bevor ein auf KI basierender Dienst entwickelt wird. Es versteht sich von selbst, dass eine auf KI basierende Datenbearbeitung auch Auswirkungen auf die Einhaltung der Datenschutzbestimmungen hat; solche Fragen sind für die FINMA auch aus allgemeinen Compliance-Gründen relevant. Abhängig von der Menge der KI-basierten Datenbearbeitungen und der Sensibilität der betroffenen Personendaten ist eine sogenannte "Datenschutz-Folgenabschätzung" und eine vorherige Konsultation des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten erforderlich (siehe Art. 22 ff. Schweizerisches Datenschutzgesetz).

Abschliessend dient die Stellungnahme der ESMA als erste grundlegende Anleitung für Investmentfirmen, die KI-Technologien nutzen möchten und gleichzeitig regulatorische Compliance gewährleisten und kundenorientierte Praktiken beibehalten wollen. Sie ebnet auch den Weg für künftige regulatorische Entwicklungen nicht nur in der EU, sondern auch in der Schweiz. Es ist sehr wahrscheinlich, dass die FINMA die Entwicklung der KI im Investmentmanagement im Zuge ihres im Jahr 2023 veröffentlichten Risikomonitors und die Veröffentlichung weiterer, ähnlicher offizieller Stellungnahmen wie die der ESMA beobachten wird.