News / Rückblick
Datenethik in der Praxis:
Eine „Data Clinic“ zur Untersuchung des Einsatzes von KI im Fintech-Bereich in Afrika
Die Vermittlung von Datenethik auf praktische und für die Lernenden zugängliche Weise ist entscheidend für das Ziel der EDI, aktive ethische Reflexion in jeder Phase der Datenarbeit zu fördern. An der Technischen Universität München setzen wir diesen Grundsatz im Sommersemester 2025 im Rahmen des Formats „Data Clinic“ um – einem interaktiven Format zur Problemlösung und Lehre, das darauf ausgelegt ist, Theorie und Praxis im Bereich Daten-Governance und -Ethik miteinander zu verbinden.
Im Rahmen des Masterkurses „Data Ethics and Governance“ arbeiteten die Studierenden in kleinen Gruppen an realen ethischen Fragestellungen im Zusammenhang mit dem Einsatz künstlicher Intelligenz (KI) in der Finanztechnologie (Fintech) in drei afrikanischen Ländern: Ruanda, Kenia und Nigeria. Dabei handelte es sich um eine „Herausforderung“, die von unserem Partner für die Datenklinik, dem Center for Law and Innovation, das zur CERTA-Stiftung in Ruanda gehört, vorgeschlagen wurde. Die Klinik bot somit sowohl den Studierenden als auch den Partnern eine seltene Gelegenheit, sich in einem Raum des gemeinsamen Lernens und der Problemlösung zu begegnen, angeleitet von EDI-Teammitgliedern des Lehrstuhls für Philosophie und Geschichte der Wissenschaft und Technik.
Die in dieser Datenklinik gestellte Herausforderung bestand darin, insbesondere die Auswirkungen des aktuellen Booms bei Fintech-Innovationen auf Transparenz, Fairness und andere zentrale ethische Prinzipien zu untersuchen, da KI-Tools mittlerweile in vielen Finanzanwendungen wie Bonitätsbewertungen, Krediten und Betrugserkennung zum Einsatz kommen. Ausgehend von einem praxisorientierten Ansatz zur Datenethik ermutigten wir die Studierenden, über „Daten“ und „KI“ hinauszuschauen – weg von der Sichtweise, dass es sich dabei um schnelle technische Lösungen für gesellschaftliche Probleme oder gar um eigenständige Untersuchungsobjekte handelt. Das bedeutete, zu untersuchen, wie sich die in Vorlesungen diskutierten theoretischen Konzepte in konkreten sozialen, politischen und technologischen Kontexten auswirken, die für die Nutzung von Fintech-Apps in drei afrikanischen Ländern relevant sind, und dabei die Grenzen unserer situativen Perspektiven als Außenstehende – sowohl gegenüber der Fintech-Branche als auch gegenüber den afrikanischen Gesellschaften – anzuerkennen.
So beschloss eine Studentengruppe, sich auf die Besonderheiten der Datenerhebung und -nutzung in Fintech-Apps zu konzentrieren, die für Kreditentscheidungen verwendet werden, und durchforstete das Kleingedruckte auf den Websites der Kreditgeber, um genau zu ermitteln, welche Arten von Daten derzeit für den Einsatz in KI-basierten Kreditvergabalgorithmen erhoben werden. Andere Gruppen charakterisierten und analysierten die wichtigsten Risiken, die mit dem Einsatz von KI im Fintech-Bereich verbunden sind, und schlugen Wege vor, wie aktuelle regulatorische und governancebezogene Herausforderungen in Chancen umgewandelt werden könnten, die gerechtere Ergebnisse für Regierungen und Nutzer ermöglichen. Die EDI-Mitglieder fassen die Arbeiten der Studierenden gemeinsam mit dem Center for Law and Innovation in einem Bericht zu dieser Herausforderung zusammen, mit dem Ziel, Erkenntnisse für ihre aktuelle Arbeit beizusteuern. Die Studierenden wiederum erhielten die Möglichkeit, sich in einem praxisnahen Umfeld mit komplexen Fragen der Daten-Governance und Ethik auseinanderzusetzen.
Das haben sie dazu gesagt:
Lena (Masterstudentin, „Responsibility in Science, Engineering and Technology“): Ich war neugierig, wie sich das akademische Wissen über Datenethik auf Probleme aus der Praxis anwenden lässt, und die Datenklinik bot dafür die perfekte Gelegenheit. Es war erfrischend praxisorientiert: Im Gegensatz zu vielen theorielastigen Kursen an der Universität wurden wir direkt in die Erstellung eines Ergebnisses eingebunden, das für einen externen Partner einen echten Mehrwert haben konnte, was die Lernerfahrung greifbarer machte. Für mich war das eine große Motivation und der Aspekt, der mich am meisten an dem Kurs gereizt hat. Die Herausforderung, die uns die Partnerorganisation stellte, war sehr offen, was es anfangs schwierig machte, einen klaren Schwerpunkt zu definieren, und einige Unterschiede zwischen den Erwartungen des Partners und den Schwerpunkten unserer Dozenten zutage brachte. Diese Offenheit zwang uns dazu, unsere „Planen-und-Ausführen“-Denkweise aufzugeben und zu einer agilen, iterativen Arbeitsweise überzugehen. Wir mussten unser Thema, unsere Ziele und unseren Ansatz auf der Grundlage von neuem Feedback, neuen Informationen und Diskussionen ständig überarbeiten und verfeinern. Durch die enge Zusammenarbeit mit anderen Studierenden und Dozenten während dieser Feedback-Zyklen wurde mir bewusst, wie wertvoll es ist, flexibel zu bleiben und die Richtung anzupassen, anstatt starr an einem ursprünglichen Plan festzuhalten, wenn man sich mit komplexen, realen Problemen auseinandersetzt. Das war das erste Mal, dass ich dies in einem solchen Ausmaß beim Verfassen einer wissenschaftlichen Arbeit erlebt habe, und es erwies sich als eine wirklich wertvolle Lernerfahrung.
Im Laufe dieser Iterationen schärfte meine Gruppe nach und nach unseren Fokus und beschloss, die ethischen Risiken des Einsatzes von KI im Fintech-Bereich in Kenia, Nigeria und Ruanda zu untersuchen. Das Thema war eine Herausforderung, da es in diesen Ländern nur begrenzte Literatur und Forschung zum Thema KI im Fintech-Bereich gibt, was es schwierig machte, über eine einfache Auflistung potenzieller ethischer Risiken hinauszugehen. Dadurch wurde mir noch bewusster, wie ungleich die globale akademische Landschaft ist und wie wichtig der Kontext ist, wenn es um Technologie und Ethik geht. Um unsere Arbeit konkreter und relevanter zu gestalten, verfassten wir kurze, fiktionalisierte „Risikofallgeschichten“, die veranschaulichten, wie sich diese Risiken in alltäglichen Situationen auswirken könnten – ein Ansatz, der von den „Datengeschichten“ aus den Vorlesungen inspiriert war. Das Verfassen dieser Geschichten war für mich neu und überraschend herausfordernd, da ich Erkenntnisse aus realen Berichten und Artikeln mit einem Gespür für kreative Empathie in Einklang bringen musste. Es hat mir erneut vor Augen geführt, wie wichtig es ist, über die eigene Perspektive, den eigenen Hintergrund und die eigenen Annahmen nachzudenken und zu erkennen, wie diese die eigene Arbeit beeinflussen – insbesondere bei der Forschung in Kontexten, die sich vom eigenen unterscheiden.
Nathalia (Masterstudentin, Data & Society): Der Kurs hat mir sehr gut gefallen, weil er mir ermöglicht hat, Daten nicht als „Grundwahrheit“ oder Tatsache zu betrachten, und damit der Vorstellung entgegengewirkt hat, dass wir uns in allen Belangen auf Daten verlassen sollten. Zunächst müssen wir darüber nachdenken, wie Daten entstehen und welche Zusammenhänge und Entscheidungen sie prägen. Durch die kritische Analyse afrikanischer LendTech-Unternehmen konnten wir strategische Ansatzpunkte für politische Entscheidungsträger identifizieren – nämlich sich für Transparenz, Fairness und ein besseres kontextuelles Verständnis der Bonitätsprüfung unter Einbeziehung alternativer Datenquellen einzusetzen. Wir konnten erkennen, wie Diskurse, die die Inklusivität von Finanzprodukten für oft ausgegrenzte Gruppen fördern, durch tatsächliche Datenpraktiken untergraben werden können, die bestehende Ausgrenzungen verstärken und die Gemeinschaften nicht unterstützen. Schließlich haben wir erkannt, dass wir für die Entwicklung über den normativen Diskurs rund um Daten und Algorithmen hinausgehen müssen und die sozialen Entscheidungen und Implikationen betrachten müssen, die diese Technologien prägen und die wiederum unsere Erfahrungen bestimmen.
Wir sind davon überzeugt, dass Datenkliniken einen wertvollen Raum für Lernende bieten, die sich mit Herausforderungen im Bereich der Datenethik und -governance auseinandersetzen, und wir sind ständig bemüht, diesen Raum weiter zu verbessern. Wenn Sie der Meinung sind, dass Ihre Organisation mit uns zusammenarbeiten könnte, indem sie eine relevante Datenherausforderung für unsere Datenklinik bereitstellt, laden wir Sie ein, einen Blick auf unser Informationsblatt zu werfen und über die folgenden Links Kontakt mit uns aufzunehmen:
Begleitendes Poster: https://doi.org/10.5281/zenodo.17251905
Infoblätter zur Datenklinik: https://doi.org/10.5281/zenodo.15182263
