News / Beachtenswert
Empfehlungssysteme für das Gemeinwohl: Über Genauigkeit hinaus
Vorstellung des EDI Forschungs-Fokus zum Thema „Empfehlungssysteme für das Gemeinwohl“.
Empfehlungssysteme prägen einen immer größeren Teil unseres informativen, kulturellen und sozialen Umfelds im Internet. Von Nachrichten-Feeds und Streaming-Plattformen bis hin zu wissenschaftlichen Entdeckungen und öffentlichen Dienstleistungen – algorithmische Empfehlungen beeinflussen, was wir sehen, wofür wir uns entscheiden und letztlich auch, wie wir uns selbst und die Welt verstehen. Bei der Ethical Data Initiative (EDI) konzentriert sich der Forschungs-Fokus dieses Semesters auf eine zentrale Frage: Was würde es bedeuten, Empfehlungssysteme ausdrücklich zum Wohle der Gesellschaft zu entwickeln und zu bewerten?
Personalisierung wird oft als eindeutiges Gut dargestellt. Präzise, maßgeschneiderte Empfehlungen sollen angeblich die Nutzerzufriedenheit, das Engagement und sogar den Zugang zu Informationen verbessern. Diese Behauptungen sind mittlerweile nicht nur im kommerziellen Umfeld verbreitet, sondern auch in den öffentlich-rechtlichen Medien und anderen Bereichen, die traditionell mit gesellschaftlichem Wert in Verbindung gebracht werden. Doch die Forschung hat wiederholt gezeigt, dass solche Behauptungen selten fundiert sind. In der Praxis werden Empfehlungssysteme in der Regel für geschäftliche Ziele wie Kundenbindung, Wachstum und Monetarisierung optimiert, die oft nicht mit persönlicher Entfaltung oder dem Gemeinwohl im Einklang stehen.
Diese Kluft zwischen erklärten Zielen und der operativen Realität hat zu vielen besorgniserregenden Folgen geführt. Personalisierung wird mit gut dokumentierten Schäden in Verbindung gebracht, darunter Polarisierung, die Verbreitung von Falschinformationen und wettbewerbsfeindliche Dynamiken. Sie schafft zudem Anreize für die groß angelegte Erhebung personenbezogener Daten, die zunehmend zu einem sekundären Vermögenswert werden, da sie für das Training generativer KI-Modelle weit über den ursprünglichen Kontext hinaus, in dem die Daten erhoben wurden, umgenutzt werden. Diese Risiken anzuerkennen bedeutet nicht, zu leugnen, dass Empfehlungssysteme für gesellschaftlich positive Zwecke genutzt werden können. Vielmehr wird dadurch deutlich, dass Anwendungen von „Recommender Systems for Good“ (RS4Good) vergleichsweise noch wenig erforscht sind.
Ein Grund liegt in der derzeitigen Struktur des Fachgebiets selbst. Die Forschung zu Empfehlungssystemen ist stark zwischen akademischen und kommerziellen Bereichen gespalten. Akademische Arbeiten konzentrieren sich oft auf eng definierte Probleme, Benchmark-Datensätze und schrittweise Verbesserungen der Genauigkeitskennzahlen. Unterdessen arbeiten Systeme in der Praxis unter geschäftlichen Anreizen, undurchsichtigen Zielen und proprietären Daten, die für unabhängige Forscher weitgehend unzugänglich sind. Infolgedessen werden Fragen, die für das gesellschaftliche Wohl am wichtigsten sind – Welches Problem soll dieses System lösen? Wessen Werte sind in seiner Gestaltung verankert? Wie sollte Erfolg gemessen werden? – häufig vernachlässigt.
Diese Kultur, bei der „Genauigkeit an erster Stelle“ steht, lässt sich immer schwerer rechtfertigen. Genauigkeitskennzahlen setzen ein klares und stabiles Ziel voraus, das in der Regel als Vorhersage individueller Präferenzen formuliert wird. Präferenzen sind jedoch weder feststehend noch wertneutral. Sie werden durch den Kontext, Machtverhältnisse und frühere Empfehlungen selbst geprägt. Eine Optimierung allein auf Genauigkeit birgt die Gefahr, bestehende Ungleichheiten zu verstärken, die Sichtbarkeit einzuschränken und die normativen Entscheidungen zu verschleiern, die in der Systemgestaltung verankert sind. Darüber hinaus ist Genauigkeit oft nicht einmal das Hauptziel der tatsächlichen Empfehlungen. Aus ethischer Sicht besteht das Problem nicht nur darin, dass die Genauigkeit unzureichend ist, sondern dass sie oft von grundlegenderen Fragen nach Zweck und Verantwortung ablenkt.
Die Vision von EDI besteht darin, Forschung und Praxis auf diese tiefergehenden Fragen auszurichten, indem die erkenntnistheoretischen Annahmen und ethischen Implikationen gängiger Bewertungskennzahlen und Gestaltungsentscheidungen bei Empfehlungssystemen untersucht werden. Dazu gehört, Ansätze in den Vordergrund zu rücken, die die Ziele von Empfehlungssystemen hinterfragen und neu gestalten, anstatt sie als gegeben hinzunehmen. Dies bedeutet auch, das Spektrum der in der RS4Good-Forschung verwendeten Datensätze und Bewertungsmethoden zu erweitern – wobei Offenheit, Nachvollziehbarkeit und kontextuelle Relevanz Vorrang vor Bequemlichkeit haben.
Aktuelle Arbeiten im Zusammenhang mit EDI spiegeln dieses Engagement wider. In laufenden und kürzlich erschienenen Veröffentlichungen wurden die gesellschaftlichen Schäden und Risiken von Empfehlungssystemen – unter anderem im Kontext generativer Modelle – sowie die Rolle von „digitalem Nudging“ und Bewertungsverfahren untersucht. Ergänzt wurden diese Bemühungen durch einen interdisziplinären Workshop, der im Mai 2025 an der LMU und der TUM stattfand und Informatiker, Philosophen, Ökonomen und Sozialwissenschaftler zusammenbrachte, um zu untersuchen, wie Empfehlungssysteme Handlungsfähigkeit, Autonomie und Wissen bereichsübergreifend prägen.
Mit Blick auf die Zukunft zielt die EDI darauf ab, einen umfassenderen kulturellen Wandel in der Art und Weise zu fördern, wie Empfehlungssysteme untersucht und bewertet werden. Da die Vorhersagegenauigkeit auf wackeligen erkenntnistheoretischen Grundlagen beruht und dazu neigt, die wichtigeren ethischen Fragen, die bei Empfehlungen eine Rolle spielen, zu verschleiern, plädieren wir dafür, der Problemformulierung und den Bewertungsmethoden, die auf gesellschaftliche Ziele ausgerichtet sind, mehr Aufmerksamkeit zu schenken. In der Praxis umfasst dies die Unterstützung von gemeinschaftsgetriebenen Initiativen zum Austausch von Informationen über Datensätze, die für RS4Good-Anwendungen geeignet sind, sowie den Austausch bewährter Verfahren für die Bewertung über die reine Genauigkeit hinaus – wie beispielsweise Messgrößen in Bezug auf Diversität, Fairness, Interpretierbarkeit, Nutzerbefähigung und gesellschaftlich positive Ergebnisse.
Dies ist keine Herausforderung, die EDI allein bewältigen kann – oder sollte. Fortschritte bei der Entwicklung von Empfehlungssystemen, die wirklich dem Gemeinwohl dienen, hängen von der Zusammenarbeit zwischen Forschungsgemeinschaften und Disziplinen ab. Zu diesem Zweck arbeiten wir daran, Verbindungen zu Partnern wie der Research Data Alliance und anderen EDI-Partnerorganisationen aufzubauen, mit dem Ziel, gemeinsame Plattformen und Ressourcen zu schaffen, die die Hürden für die Forschung und Praxis im Bereich RS4Good senken.
