News / Beachtenswert

Toxisches Entertainment?

09. Jan 2024

In diesem Projekt werden Unterhaltungstheorien, visuelle Kommunikation und toxische Sprache zusammengeführt, um zu verstehen, wie und warum Toxizität als akzeptabler angesehen wird, wenn sie als Unterhaltung getarnt wird. Es setzt KI-Methoden ein, um toxische Unterhaltung in großem Maßstab zu identifizieren, zu klassifizieren und zu kartieren, qualitative Methoden, um ihre Eigenschaften zu untersuchen, sowie experimentelle Methoden, um ihre Auswirkungen auf das individuelle Verhalten zu verstehen.

Das durch das Bayerische Forschungsinstitut für Digitale Transformation (BIDT) geförderte Forschungsprojekt "Einsatz von KI zur Erhöhung der Resilienz gegen Toxizität in der Online-Unterhaltung", von Prof. Dr. Yannis Theocharis (Lehrstuhl für Digital Governance), erforscht die Verbreitung extremistischer, verschwörerischer und irreführender Inhalte in sozialen Medien und untersucht dabei, wie diese Inhalte durch unterhaltsame Inhalte eingebettet werden. Es zielt darauf ab, durch die Kombination von Unterhaltungstheorien, visueller Kommunikation und toxischer Sprache mit KI-Methoden, das Verständnis für die Wirkung dieser Inhalte auf das Nutzerverhalten zu vertiefen. Dieses Projekt leistet einen wichtigen Beitrag zur Analyse und Bekämpfung von Online-Toxizität. Mehr Informationen finden Sie auf der Projektseite oder der Pressemitteilung des BIDT.

 

Projekte

The Content Moderation Lab explores how digital platforms regulate online speech—and how these choices influence user behavior, public attitudes, and democratic engagement.​

Lab

Events

Workshop

Joint Effort Against Toxic Online Speech

Bringing together stakeholders from academia, civil society, the public sector, and industry, the third edition of the Facilitating Constructive Dialogue Workshop will focus on tackling issues related to hate speech and mis- and disinformation online. Over the course of a two-day event, we will delve into strategies, tactics, and tools that democratic societies can use to address and combat toxic online speech.

TUM Think Tank
13. Nov 2024