AI-Rechenschaftssystem in Finanzdienstleistungen

Am 4. Mai veranstalteten die IEAI-Forscher:innen Auxane Boch, Ellen Hohma und Maria Pokholkova den Workshop "KI-Rechenschaftssysteme in Finanzdienstleistungen" als Teil ihres aktuellen Projekts "Towards an Accountability Framework for AI Systems" in Zusammenarbeit mit Fujitsu Global im TUM Think Tank.

Das Hauptziel dieser Veranstaltung war es, sinnvolle Diskussionen und den Wissensaustausch zwischen Fachleuten auf dem Gebiet der KI-Ethik zu fördern, wobei ein besonderer Schwerpunkt auf der Quantifizierung ethischer Überlegungen in KI-Anwendungen lag. Die Teilnehmenden setzten sich aus einer heterogenen Gruppe von Fachleuten aus der Finanzindustrie, einschließlich Versicherungen, Fintech und Finanzdienstleistungen, zusammen. Ihr Hintergrund umfasste verschiedene Bereiche wie Datenwissenschaft, KI-Ethik, KI-Governance und Strategie.

Im Laufe von vier intensiven Stunden arbeiteten die Workshop-Teilnehmenden gemeinsam an der Formulierung und Erzielung eines Konsenses über fünf entscheidende, skalierbare Merkmale, die die Ethik eines beispielhaften Anwendungsfalls im Bereich des KI-Kreditscoring definieren. Ziel war es, einen Rahmen zu entwickeln, der die Bewertung der ethischen Aspekte von KI-Anwendungen auf skalierbare und standardisierte Weise ermöglicht.

Die identifizierten Merkmale sollten das Ausmaß widerspiegeln, in dem KI-Produkte die ethischen Prinzipien der KI einhalten, wobei in diesem Fall der Schwerpunkt auf dem Prinzip der "Erklärbarkeit und Transparenz" lag. Durch die Festlegung einer klaren Reihe von Merkmalen wollten die Teilnehmenden des Workshops eine solide Grundlage für die Bewertung der ethischen Implikationen von KI-Kredit-Scoring und ähnlichen Anwendungsfällen schaffen.

Um einen quantitativen Vergleich der ethischen Aspekte von Anwendungsfällen zu ermöglichen, entwickelten Teilnehmenden eine numerische Skala. Diese Skala ermöglicht die Bewertung der definierten Merkmale und damit eine objektivere und messbarere Bewertung der ethischen Überlegungen im Zusammenhang mit KI-Kredit-Scoring.

Der Workshop war ein durchschlagender Erfolg, mit lebhaften Diskussionen, aufschlussreichen Perspektiven und fruchtbarer Zusammenarbeit während der gesamten Veranstaltung. Das Engagement und das Fachwissen der Teilnehmenden trugen zur Entwicklung eines Rahmens bei, der verspricht, die Verantwortlichkeit von KI-Systemen im Finanzdienstleistungssektor zu verbessern.

Die Ergebnisse dieses Workshops werden sicherlich einen bedeutenden Einfluss auf die laufende Forschung und Entwicklung von Frameworks zur KI-Rechenschaftspflicht haben. Die skalierbaren Merkmale und die numerische Skala, die während der Veranstaltung entwickelt wurden, werden als wertvolle Werkzeuge für Organisationen dienen, die die ethischen Auswirkungen ihrer KI-Anwendungen bewerten wollen, insbesondere im Bereich der KI-Kreditwürdigkeitsprüfung.

Insgesamt erwies sich der Workshop zum Thema "System of AI Accountability in Financial Services" als wichtiger Schritt zur Bewältigung der ethischen Herausforderungen, die KI-Systeme mit sich bringen. Indem er Expert:innen aus verschiedenen Bereichen zusammenbrachte und einen Konsens über skalierbare Merkmale herstellte, ebnete diese Veranstaltung den Weg für mehr Transparenz und Verantwortlichkeit bei der Einführung von KI in der Finanzbranche.