Vertrauenswürdige Recommender-Systeme

Beim TUM Science Hackathon 2023 stellte sich ein Team von Informatikstudierenden der Herausforderung, eine Social-Media-Plattform zu entwickeln, die Nutzern mehr Transparenz und Kontrolle über die in ihrem Feed angezeigten Inhalte bietet. Sie diskutierten, welche Informationen Nutzer benötigen, um besser zu verstehen, wie Inhalte in sozialen Medien personalisiert werden, und entwarfen Möglichkeiten, wie Nutzer die ihnen angezeigten Inhalte verändern können. Auf der Grundlage dieser Ideen entwarfen sie ihren Prototyp "openLYKE" - eine Social-Media-Plattform, die den Nutzern zusätzliche Funktionen bietet, um den zugrunde liegenden Empfehlungsalgorithmus zu optimieren.

Vom 19. bis 21. Mai veranstaltete die TUM: Junge Akademie den TUM Science Hackathon 2023 zum Thema vertrauenswürdige Systeme. In neun Challenges, die von Partnern aus der TUM und externen Organisationen eingereicht wurden, haben sich Studierende verschiedener Fachrichtungen zusammengetan, um Technologien zu entwickeln, die sicher, zuverlässig und transparent sind und das Vertrauen der Nutzer verdienen. Die Aufgabenstellungen reichten von Raumfahrzeugen und Absturzerkennung bis hin zu Materialwissenschaften und KI-Ethik. Eine der Herausforderungen wurde vom REMODE-Projekt der Professur für Recht, Wissenschaft und Technologie im Rahmen des Reboot Social Media Lab des TUM Think Tanks eingereicht. Unter dem Titel "Trustworthy Recommender Systems" sollten die Studierenden den Prototyp einer Social-Media-Plattform entwickeln, die den Nutzern erweiterte Möglichkeiten bietet, ihre Social-Media-Erfahrungen zu kontrollieren, indem sie die ihnen angezeigten Inhalte verändern. Aufbauend auf den neuen Anforderungen an Online-Plattformen, die in der EU-Verordnung über digitale Dienste (2022) festgelegt sind, zielte die Aufgabe auf Empfehlungssysteme ab, die es den Nutzern ermöglichen, die wichtigsten Parameter, die zur Personalisierung von Online-Inhalten verwendet werden, besser zu verstehen und zu manipulieren.

Insbesondere sollten undurchsichtige Algorithmen und irreführende Designmuster (dark patterns) vermieden werden. Auf diese Weise sollte der Wettbewerb das Vertrauen in die Gestaltung fördern und verantwortungsvollere Empfehlungssysteme in sozialen Medien ermöglichen.

Eine wichtige Erkenntnis aus dem Science Hack war, wie wichtig es ist, bei der Entwicklung innovativer Lösungen und Funktionen für Social-Media-Dienste die technische Machbarkeit im Auge zu behalten. Während sie an ihrem Prototyp arbeiteten, überlegten die Studierenden ständig, wie ihre Ideen in ihren Empfehlungsalgorithmus implementiert werden könnten: Welche Art von Daten würden für jeden Beitrag benötigt werden? Wie könnten die Präferenzen der Nutzer in die Sprache des Algorithmus übersetzt werden? Durch die Nähe zur Technologie gelang es den Studierenden, nicht nur das Front-End (Benutzeroberfläche) ihres Prototyps zu entwerfen, sondern auch das zugrunde liegende Back-End (Software) für die Verarbeitung von Daten und die Empfehlung von Inhalten.

Die Herausforderung "Trustworthy Recommender Systems" wurde vom REMODE-Projektteam bestehend aus Prof. Christian Djeffal (Principal Investigator), Daan Herpers (wissenschaftlicher Mitarbeiter) und Lisa Mette (studentische Hilfskraft) gestellt, die auch das studentische Team während des Hackathons betreute.

Vielen Dank an das openLYKE-Team (Adrian Averwald, Finn Dröge, Thomas Florian, Tim Knothe) für die Teilnahme und die Junge Akademie für die Organisation des TUM Science Hack 2023.