Denn sie wissen nicht, was sie tun - Ein Recht auf Erklärbarkeit von „Black Box“-Algorithmen am Beispiel der automatisierten Anlageberatung (Becker/Georgiou/Kreße/Kühn, WM 2024, 1145)

[1] Der Einsatz von „Robo Advisor“ (RA), sprich die automatisierte Anlageberatung, wirft die juristische Diskussion auf, wer für das Handeln automatisierter Softwareprogramme in die Verantwortung genommen werden kann, wenn die Entscheidungsrichtlinien des zu Grunde liegenden Algorithmus opak sind. Denn ebenso wie menschliche Anlageberater können sich auch RA schadensersatzpflichtig machen. Der vorliegende Beitrag diskutiert aktuelle regulatorische Herausforderungen für sogenannte „Black Box“-Algorithmen (BBA), für die der funktionale Zusammenhang zwischen Einflussfaktoren und Vorhersage nicht mehr eindeutig deterministisch zugeordnet werden kann, und empfiehlt den Einsatz von zusätzlichen Transparenzalgorithmen.

A. Einführung
B. Der digitale Wandel: Künstliche Intelligenz in der automatisierten Anlageberatung
I. Automatisierte Anlageberatung versus automatisierte Vermögensverwaltung
II. Machine-Learning-Anwendungen in modernen RA-Lösungen
III. Die „Black Box“-Problematik am Beispiel von KNN
C. De lege data: Zivilrechtliche Pflichten bei der Anlageberatung
I. Aufklärungs- und Beratungspflichten
II. Vertragliche Haftung
D. De lege ferenda: Herausforderungen bestehender Rechtsvorschriften und Handlungsempfehlungen
I. Intransparenz-Problem durch die Anwendung von BBA
1. Transparenzprinzip gem. DSGVO
2. „State of the Art“ – Transparenzalgorithmen
3. Einführung einer Gefährdungshaftung
II. Aktuelle Entwicklungen im Europäischen Recht
E. Zusammenfassung und Fazit


A.  Einführung
[2] Der traditionelle, eher menschlich geprägte Prozess der Anlageberatung wird fortschreitend durch den algorithmischen Entscheidungshandel automatisiert. Mit exponentiell ansteigenden Mengen an Finanzdaten, wie Newsfeeds oder Anlegerprospekte, wurde die Grundlage für die Anwendung von Algorithmen des maschinellen Lernens (Machine Learning Algorithm oder kurz MLA) geschaffen. Mit dem Aufkommen vollautomatischer Anlagemaschinen, auch bekannt als Robo Advisor (RA), ist eine kostengünstigere Alternative für Privatanleger entstanden. Der Begriff Robo Advisor ist dabei kein geschützter oder gesetzlich klar definierter Begriff. Die US-amerikanische Financial Industry Regulatory Authority (FINRA) spricht zum Beispiel von digital investment advice, das Joint Committee of the European Supervisory Authorities (JC-ESA) von automation in financial advice und die deutsche Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) von „Plattformen zur automatisierten Anlageberatung“. Dabei müssen RA stets die finanziellen Bedürfnisse des Kunden bedienen, zum Beispiel in Sachen Risikoneigung, Finanzausstattung und Anlagehorizont.

[3] Stark frequentiert auftretende Finanzkrisen, wie zuletzt verursacht durch die Covid-19-Pandemie, oder durch die anhaltende Ukraine-Krise, treiben die Volatilität der Märkte und erhöhen das Verlustpotential von „Kleinanlegern“. Finanzmarktskandale wie Cum-Cum und Cum-Ex belasten zudem das Image der menschlichen Anlageberater und befeuern das Stigma der aus reiner Provisionsgier handelnden Finanzmarktakteure. Dabei sollte das Primärziel darin liegen, eine nach MIFID II postulierte, „geeignete“ Anlageempfehlung für den Anleger zu finden.

[4] Der vorliegende Beitrag behandelt die besondere Problematik von „Black Box“-Algorithmen (BBA) in der Anwendung von RA-Distributionen. BBA ist ein Phänomen in der Programmierung, dass selbst Entwickler nicht vollständig nachvollziehen und erklären können, warum und wie ihre Algorithmen bei einer bestimmten Dateneingabe („Input“) ein bestimmtes Ergebnis („Output“) vorhersagen. Im Fokus unserer Analyse liegt der Einsatz von BBA in RA-Lösungen, die bei nicht fachgerechter Anlageentscheidung immense Vermögenseinbußen auf Seiten des Investors hervorrufen. Hieraus ergeben sich Haftungsfragen, die wir im Folgenden genauer beleuchten möchten.

B.  Der digitale Wandel: Künstliche Intelligenz in der automatisierten Anlageberatung

I.  Automatisierte Anlageberatung versus automatisierte Vermögensverwaltung
[5] Die BaFin unterscheidet grundsätzlich zwischen zwei Plattformtypen. Bei der „automatisierten Anlageberatung“, wird eine einmalige Anlageempfehlung gegeben. Bei der „automatisierten Finanzportfolioverwaltung“, werden fortlaufend Anlageempfehlungen ausgesprochen.

[6] Anlageberatung im Sinne von § 1 Abs. 1a Satz 2 Nr. 1a KWG erfordert die Abgabe einer persönlichen Kauf- und Verkaufsempfehlung an Kunden, mit einer Auflistung von klar definierten Finanzinstrumenten. Bei RA-Anwendungen handelt es sich dabei um eine initiale Portfolioaufstellung in das vom RA-Anbieter ausgewählte „Anlageuniversum“, vorwiegend in passiv verwaltete „Index Funds“, sogenannte „Exchange Traded Funds“ (oder kurz ETFs).

[7] Finanzportfolioverwaltung gemäß § 1 Abs. 1a Satz 2 Nr. 3 KWG zielt auf die Verwaltung einzelner oder mehrerer Finanzinstrumente ab. Im Unterschied zur Anlageberatung erhält der Finanzportfolioverwalter hier einen gewissen Entscheidungsspielraum über die Änderung der Anlageallokation, speziell im Zeitverlauf bei Änderung der aktuellen Marktbedingungen.

[8] Wie Dorfleitner et al. bereits anmerken, überschneiden sich die Begriffe „Anlageberatung“ und „Finanzportfolioverwaltung“ bei RA-Lösungen häufig, weshalb wir uns in dieser Studie dazu entscheiden, beide Grundformen zusammenzufassen und unter dem Begriff „Anlageberatung“ zu subsumieren. Sofern sich hierdurch nicht explizit auszuweisende Unterschiede in der von uns abgeleiteten Rechtsproblematik resultieren, behalten wir diesen Fokus bei.

II.  Machine-Learning-Anwendungen in modernen RA-Lösungen
[9] Große Datenmengen (sog. Big Data) in Verbindung mit kontinuierlich ansteigenden Rechenleistungen führen dazu, dass MLA auch in der automatisierten Anlageberatung eingesetzt werden. Maschinelles Lernen (ML) beschreibt eine Reihe von Methoden, die Muster in Daten erkennen und dazu nutzen, um zukünftige Entscheidungen unter Unsicherheit zu treffen. MLA haben die Fähigkeit, bestimmte Aufgaben zu lernen, anhand von sogenannten Trainingsdaten, ohne den Einsatz klassischer Programmiertechniken, die typischerweise aus „Wenn-Dann“-Beziehungen bestehen. Trainierte Entscheidungen werden daraufhin für neue (ungesehene) Datensätze (Testdaten) genutzt, um zukünftige Handlungsempfehlungen abzugeben. Im Fall von RA sind das typischerweise Anlageempfehlungen basierend auf einer Kompromisslösung aus maximaler Rendite und minimalem Risiko. Dabei werden typischerweise drei Kategorien des maschinellen Lernens unterschieden: Überwachtes Lernen (Supervised Learning, SL),...