Beim TUM Science Hackathon 2023 stellte sich ein Team von Informatikstudierenden der Herausforderung, eine Social-Media-Plattform zu entwickeln, die Nutzern mehr Transparenz und Kontrolle über die in ihrem Feed angezeigten Inhalte bietet. Sie diskutierten, welche Informationen Nutzer benötigen, um besser zu verstehen, wie Inhalte in sozialen Medien personalisiert werden, und entwarfen Möglichkeiten, wie Nutzer die ihnen angezeigten Inhalte verändern können. Auf der Grundlage dieser Ideen entwarfen sie ihren Prototyp "openLYKE" - eine Social-Media-Plattform, die den Nutzern zusätzliche Funktionen bietet, um den zugrunde liegenden Empfehlungsalgorithmus zu optimieren.

Vom 19. bis 21. Mai veranstaltete die TUM: Junge Akademie den TUM Science Hackathon 2023 zum Thema vertrauenswürdige Systeme. In neun Challenges, die von Partnern aus der TUM und externen Organisationen eingereicht wurden, haben sich Studierende verschiedener Fachrichtungen zusammengetan, um Technologien zu entwickeln, die sicher, zuverlässig und transparent sind und das Vertrauen der Nutzer verdienen. Die Aufgabenstellungen reichten von Raumfahrzeugen und Absturzerkennung bis hin zu Materialwissenschaften und KI-Ethik. Eine der Herausforderungen wurde vom REMODE-Projekt der Professur für Recht, Wissenschaft und Technologie im Rahmen des Reboot Social Media Lab des TUM Think Tanks eingereicht. Unter dem Titel "Trustworthy Recommender Systems" sollten die Studierenden den Prototyp einer Social-Media-Plattform entwickeln, die den Nutzern erweiterte Möglichkeiten bietet, ihre Social-Media-Erfahrungen zu kontrollieren, indem sie die ihnen angezeigten Inhalte verändern. Aufbauend auf den neuen Anforderungen an Online-Plattformen, die in der EU-Verordnung über digitale Dienste (2022) festgelegt sind, zielte die Aufgabe auf Empfehlungssysteme ab, die es den Nutzern ermöglichen, die wichtigsten Parameter, die zur Personalisierung von Online-Inhalten verwendet werden, besser zu verstehen und zu manipulieren.

Insbesondere sollten undurchsichtige Algorithmen und irreführende Designmuster (dark patterns) vermieden werden. Auf diese Weise sollte der Wettbewerb das Vertrauen in die Gestaltung fördern und verantwortungsvollere Empfehlungssysteme in sozialen Medien ermöglichen.

Eine wichtige Erkenntnis aus dem Science Hack war, wie wichtig es ist, bei der Entwicklung innovativer Lösungen und Funktionen für Social-Media-Dienste die technische Machbarkeit im Auge zu behalten. Während sie an ihrem Prototyp arbeiteten, überlegten die Studierenden ständig, wie ihre Ideen in ihren Empfehlungsalgorithmus implementiert werden könnten: Welche Art von Daten würden für jeden Beitrag benötigt werden? Wie könnten die Präferenzen der Nutzer in die Sprache des Algorithmus übersetzt werden? Durch die Nähe zur Technologie gelang es den Studierenden, nicht nur das Front-End (Benutzeroberfläche) ihres Prototyps zu entwerfen, sondern auch das zugrunde liegende Back-End (Software) für die Verarbeitung von Daten und die Empfehlung von Inhalten.

Die Herausforderung "Trustworthy Recommender Systems" wurde vom REMODE-Projektteam bestehend aus Prof. Christian Djeffal (Principal Investigator), Daan Herpers (wissenschaftlicher Mitarbeiter) und Lisa Mette (studentische Hilfskraft) gestellt, die auch das studentische Team während des Hackathons betreute.

Vielen Dank an das openLYKE-Team (Adrian Averwald, Finn Dröge, Thomas Florian, Tim Knothe) für die Teilnahme und die Junge Akademie für die Organisation des TUM Science Hack 2023.

Wie Social Media besser von Menschen mit einer Lernbeeinträchtigung genutzt werden können, erforscht ein Team am TUM Think Tank – gemeinsam mit Athlet:innen der Special Olympics World Games, die vom 17. bis 25. Juni in Berlin stattfinden. Mitgemacht haben Louis Kleemeyer, dem Lesen und Schreiben schwerer fällt als anderen Menschen, und die Studentin Lena Pöhlmann. Im Interview erzählen sie, wie soziale Medien den Beruf erleichtern, wann der Zugang scheitert und wie eine neue App helfen könnte.

Sie nutzen also Social Media vor allem für Ihren Beruf?

Kleemeyer: Videos bei YouTube sehe ich mir natürlich auch zum Spaß an. Mein Fokus bei YouTube ist aber aufs Lernen gerichtet. Welche KI-Tools helfen für was genau? Wie kann man ein eigenes Business aufbauen? Das fällt mir einfach leichter, wenn mir das jemand in einem Video erklärt. Wenn ich das alles Schritt für Schritt sehen kann, statt dass ich alles lesen und mir bildlich vorstellen muss.

Sie sprechen sehr offen über Ihre Lernbeeinträchtigung. Gilt das auch in den sozialen Medien, in denen ja viele Menschen Diskriminierung erleben?

Kleemeyer: Bis ich 18 Jahre alt war, habe ich mich nicht getraut, jedem zu schreiben, weil ich mich teilweise geschämt habe, dass ich mit Rechtschreibfehlern antworte. Jetzt ist es so, dass ich das einfach zu mir dazu zähle. Und ich habe Tools gefunden, die mir helfen, meine Schwächen auszugleichen. Zum Beispiel Rechtschreib-Tools, die meine Texte überprüfen. Auf Social Media habe ich bisher nur einmal Mobbing erlebt und das ist schon Jahre her. Ich glaube, es macht auch einen Unterschied, wie man im Internet auftritt. Wenn man nur Negatives über die Behinderung postet, dann kann es schnell in eine andere Richtung gehen. Aber wenn man etwas postet, dass Menschen ohne Behinderung hilft, Menschen mit Behinderung zu verstehen, dann erlebt man das eigentlich gar nicht.

Frau Pöhlmann, wirken die sozialen Medien also inklusiv?

Pöhlmann: Louis kennt sich gut aus, ist vernetzt, macht sehr viel und bekommt positives Feedback. Dann haben wir aber auch mit Menschen gesprochen, die versuchen, medial präsenter zu sein, die aber negative, diskriminierende Kommentare bekommen haben. Eine verständliche Reaktion ist dann, doch wieder alles nur für Freund:innen sichtbar zu machen und sich dem nicht auszusetzen. Das ist schade, denn ein grundlegendes Ergebnis unseres Projekts ist: Die meisten Menschen mit Lernbeeinträchtigung haben Freude an den sozialen Medien.

Was hindert sie, neben negativen Kommentaren, die Kanäle stärker zu nutzen?

Pöhlmann: Es gibt verschiedene Zugangshürden, zunächst ganz basale: In manchen Wohneinrichtungen für Menschen mit Behinderung gibt es keine Endgeräte, keinen Internetzugang oder den Nutzer:innen steht nur ein kleines Datenvolumen zur Verfügung. Darüber hinaus haben einige betreuende Personen Sorgen – etwa, weil den nutzenden Personen nicht immer klar zu sein scheint, welche Reichweite das Internet hat und dass es schnell kein geschützter Raum mehr ist. Außerdem kann es zu Schwierigkeiten bei der Bedienung kommen, etwa wenn die Navigationswege nicht klar sind, wenn Buttons sehr klein sind oder wenig mit Symbolen gearbeitet wird. Wenn zum Beispiel Updates anstehen, ist dann nicht klar, was zu tun ist. Oder ein anderes Beispiel aus dem Alltag: Eine Wohngruppe möchte für sich eine Social-Media-Gruppe einrichten. Die Menschen wissen diffus, dass es eine solche Funktion gibt. Aber ihnen ist nicht immer im Detail bewusst, wie sie dies konkret umsetzen können.

Herr Kleemeyer, auf welche Hürden stoßen Sie?

Kleemeyer: Mir fehlt zum Beispiel eine Vorlesefunktion. Bei langen Textbeiträgen, die als Bild formatiert sind, wäre es super, wenn ich sie mir in der Social-Media-App vorlesen lassen könnte. Man kann ja teilweise aus den Apps nicht mal etwas rauskopieren. Es gibt zwar eine Lösung, aber die ist umständlich: Screenshot machen, mit einem Tool den Text aus diesem Bild kopieren, dann in eine spezielle App rein, die das vorliest. Das behindert natürlich viele, die nicht lesen können oder nicht viel lesen wollen, weil es für sie zu anstrengend ist oder zu lange dauert. Ich lese solche langen Texte auch nur, wenn es wirklich notwendig ist.

Was wünschen Sie sich von den Betreiber:innen?

Kleemeyer: Dass häufiger leichte Sprache benutzt wird. Wo viel Text steht, schauen, dass es auch Alternativen gibt – genauso wie man hinter Bildern etwas für blinde Menschen schreibt, das vorgelesen werden kann.

Pöhlmann: Wichtig wäre allein schon, dass es jeden Text auf Deutsch gibt, weil viele einfach kein Englisch verstehen. Gut wäre zudem eine visuelle Unterstützung. Was für Menschen mit Seheinschränkungen eine große Rolle spielt: Können die Inhalte groß genug angezeigt werden, ohne dass komplett unklar ist, wo ich mich in der Navigation befinde? Ideal wäre, wenn schon im Entwicklungsprozess eines neuen Produkts die Barrierefreiheit regelmäßig getestet werden würde, so wie es bei Webseiten schon üblicher ist.

Im Projekt „Inclusive Social Media“ haben Sie einen eigenen Lösungsvorschlag entwickelt.

Pöhlmann: Wir haben eine App konzipiert, die Menschen mit Lernbeeinträchtigung Kompetenzen vermitteln soll, die sozialen Medien zu nutzen – und zwar so, dass sie den eigenen Interessen dienen. Ich würde ganz einfach erklärt bekommen, was der jeweilige Zweck der Kanäle ist und welche Möglichkeiten ich habe: Wie kann ich meinen Status einstellen, ein Foto senden oder eine Person blocken? Hier könnte man jederzeit nachschauen, wie das Internet und einzelne Apps funktionieren – in leichter Sprache, mit Sprachausgabe, unterstützenden Videos und vielen Symbolen.

Zu den Personen:

Louis Kleemeyer hat eine Ausbildung als Fachpraktiker für IT-Systeme absolviert und die Unique United GmbH gegründet, eine Online-Plattform von Menschen mit Behinderung für Menschen mit Behinderung. Der 22-Jährige berät außerdem Unternehmen zu einer inklusiven Arbeitswelt. Derzeit ist er Teil des Organisationsteams der Special Olympics World Games 2023. Bei den nationalen Spielen der Special Olympics gewann er 2022 Gold im Tennis. Kleemeyer fällt Lernen, Lesen und Schreiben schwerer, weil sein Gehirn bei seiner Geburt nicht ausreichend mit Sauerstoff versorgt wurde.

https://www.louis-kleemeyer.de

Lena Pöhlmann studierte im Bachelor Public Health an der Universität Bremen, Soziale Arbeit an der Katholischen Stiftungshochschule München sowie Philosophie (Nebenfach) an der Hochschule für Philosophie München. Nach mehrjähriger beruflicher Tätigkeit im Rehabilitationsmanagement in der Stiftung Pfennigparade studiert die 29-Jährige derzeit im Master Health Sciences mit dem Fokus auf Prävention und Gesundheitsförderung an der TUM. Sie ist Stipendiatin der Hans-Böckler-Stiftung und der Bayerischen EliteAkademie.

https://www.sg.tum.de/sg/studium/studierende/studiengaenge/masterstudiengaenge-msc/msc-health-science/

Weitere Informationen:

Im Projekt “Inclusive Social Media (InSoMe)” haben Studierende mehr als 60 Menschen mit Lernbeeinträchtigung und rund 90 Angehörige und Personen, die mit Menschen mit Behinderung arbeiten, befragt. Auf dieser Basis haben sie Lösungsvorschläge entwickelt, darunter die „Easy App“. Geleitet wird “Inclusive Social Media” an der Professur für Sport- und Gesundheitsdidaktik.

Das Projekt ist Teil des Re-Boot Social Media Lab am TUM Think Tank. Hier arbeiten Forscher:innen aus verschiedenen Disziplinen gemeinsam mit gesellschaftlichen Akteuren daran, die sozialen Medien zu verbessern.

Das Team von “Inclusive Social Media” arbeitet mit Athlet:innen der Special Olympics zusammen, der nach eigener Beschreibung weltweit größten Bewegung für Menschen mit geistiger und mehrfacher Behinderung. Vom 17. bis 25. Juni finden in Berlin die Special Olympics World Games statt. Das Projektteam und weitere Angehörige der TUM unterstützen die Veranstaltung und das große Rahmenprogramm zu Inklusion, beispielsweise mit einem Instagram-Kanal. In den vergangenen Tagen hat sich das Athlet:innen-Team aus Kanada an der Fakultät für Sport- und Gesundheitswissenschaften auf die Spiele vorbereitet.

Mit dem Ziel, das Problem des schädlichen Online-Diskurses anzugehen, haben wir uns mit dem Bayerischen Staatsministerium der Justiz zusammengetan, um eine Community of Practice aufzubauen. In einer Reihe von Veranstaltungen des Reboot Social Media Labs brachten wir Akademiker und Praktiker zusammen, die sich mit Hassreden und anderen Formen von hasserfüllten Inhalten im Internet befassen, um aktuelle Probleme und mögliche Lösungen zu diskutieren.

Unsere Podiumsdiskussion mit Teresa Ott (Hate Speech Officer bei der Generalstaatsanwaltschaft), Anna Wegscheider (Anwältin bei HateAid) und Svea Windwehr (Policy Analyst bei Google), moderiert von Georg Eisenreich, MDL (Bayerischer Staatsminister der Justiz) und Urs Gasser (TU München), eröffnete den Dialog und gab den rund 100 Gästen, die an der Veranstaltung teilnahmen, tiefere Einblicke in den aktuellen Stand des EU-Gesetzes über digitale Dienste und seine Auswirkungen auf Staatsanwälte, Plattformen und Nutzer.

Wichtige Erkenntnisse aus der Diskussion

Während die EU-weite Harmonisierung durch den DSA großes Potenzial hat, gibt es im Vergleich zum NetzDG immer noch Mängel, wie z.B. das Fehlen von Löschungsfristen oder konkreten Details zur Durchsetzung von Verstößen gegen Hassreden. Es wurde daher als entscheidend angesehen, Wege zu finden, um zu gewährleisten, dass die stärkeren und besser durchsetzbaren Aspekte des NetzDG auch dann noch zur Verfügung stehen, wenn das DSA und seine unklareren Vorschläge in Kraft treten.

Im Allgemeinen stellten die Diskutierenden fest, dass die internen Prozesse der großen Plattformen in Bezug auf die Praktiken der Inhaltsmoderation sowohl für die Strafverfolgungsbehörden als auch für die Opfer von Online-Hass immer noch eine "Black Box" sind. Es herrschte ein breiter Konsens darüber, dass dies durch eine erweiterte Zusammenarbeit und Kommunikation zwischen den Akteuren der Zivilgesellschaft, den Behörden und den Plattformbetreibern verbessert werden könnte und sollte.

Ein letzter Punkt betraf das öffentliche Bewusstsein für Hassreden. Nur 2 von 10 Online-Delikten werden derzeit angezeigt. Um Online-Hass vermehrt anzuzeigen und strafrechtlich zu verfolgen, muss das Bewusstsein für digitale Gewalt weiter geschärft werden - nicht nur in der Bevölkerung, sondern auch in der Justiz und den Strafverfolgungsbehörden. Mit zunehmender Zahl der gemeldeten Fälle werden dann aber auch zusätzliche Ressourcen für die zuständigen Behörden notwendig, um diese Fälle zu verfolgen.

Sitzung 1 befasste sich mit den neuesten Erkenntnissen über Hassreden, Unhöflichkeit und Frauenfeindlichkeit im Online-Diskurs. Auf der Grundlage von Beiträgen von Yannis Theocharis, Janina Steinert und Jürgen Pfeffer (alle TU München) diskutierten die Teilnehmenden eine Abwägung zwischen der Notwendigkeit verschiedener Formen der Inhaltsmoderation und der Meinungsfreiheit als grundlegende Norm. Es herrschte Einigkeit darüber, dass ein besseres Verständnis der "Grauzonen" von Hassrede und der Umgang damit notwendig sind, aber es war auch klar, dass einige Arten von Online-Verhalten nicht normalisiert werden sollten. Es wurde auch betont, dass Online-Hass von vergleichsweise wenigen verbreitet wird, die extrem lautstark sind und daher eine große Reichweite haben. Dies wiederum hat Auswirkungen darauf, an wen sich Maßnahmen zur Regulierung schädlicher Online-Inhalte richten sollten: an die wenigen Hasser oder an die große Masse?

© Thomas Gunnar Kehrt-Reese

Sitzung 2 befasste sich mit Fragen im Zusammenhang mit der Umsetzung des Gesetzes über digitale Dienste in Bezug auf Online-Hass. Nach Inputs von Till Guttenberger (Bayerisches Staatsministerium der Justiz) und Teresa Ott (Referentin für Hate Speech bei der Generalstaatsanwaltschaft) wurde diskutiert, wie effektive Maßnahmen des NetzDG nach Inkrafttreten des Digitalisierungsgesetzes am Leben erhalten werden können. Ein Kernthema war, wie zukünftige Institutionen und Mechanismen gestaltet werden sollten. Die Teilnehmenden fragten sich auch, wie man Opfer und die Öffentlichkeit am besten für Möglichkeiten zur Meldung von Hassreden sensibilisieren kann.

Sitzung 3 beschäftigte sich mit der Frage, wie über das Gesetz hinaus gegen unhöflichen Online-Diskurs vorgegangen werden kann. Christian Djeffal (TU München) sprach über die Moderation von Inhalten gemeinsam mit den Usern, während Sandra Cortesi (Universität Zürich & Harvard University) einen Überblick darüber gab, wie Kinder dazu befähigt werden können, sich in Online-Diskursen auf sozialen Medien zurechtzufinden. Die großen Fragen konzentrierten sich auf die Suche nach dem goldenen Mittelweg zwischen Bildung und Regulierung - was wahrscheinlich kein "entweder/oder" ist - sowie auf die Frage, wer am besten in der Lage ist, Bildungsinhalte zu erstellen, und betonten, dass alle relevanten Akteure an Bord sein müssen.

Partner und Organisation

Die Veranstaltungen wurden gemeinsam vom TUM Think Tank, der Professur für Public Policy, Governance und innovative Technologien und dem Bayerischen Staatsministerium der Justiz organisiert. Unser besonderer Dank gilt unseren Podiumsteilnehmern Teresa Ott, Svea Windwehr und Anna Wegscheider für die Bereitstellung ihrer Expertise. Wir danken allen Teilnehmern für ihre Beiträge und engagierten Diskussionen und freuen uns auf die Fortsetzung des begonnenen Gesprächs.