Wie wird Generative KI bei Wahlen eingesetzt? Eine Schlüsselaufgabe für 2024

Allein im Jahr 2024 finden in über 70 Ländern nationale Wahlen statt – ein entscheidendes Jahr für Demokratien weltweit. Mit dem Aufkommen der generativen KI besteht ein dringender Bedarf, ihre Auswirkungen auf die Integrität und Fairness dieser Wahlprozesse zu verstehen. So hat beispielsweise eine Studie des Massachusetts Institute of Technology gezeigt, dass von KI gesteuerte Desinformationskampagnen bis zu sechsmal schneller verbreitet werden können als tatsächliche Nachrichten. Eine weitere Studie des AI Democracy Projects – unter Leitung von Alondra Nelson, die 2023 den Friedrich Schiedel-Preis für Sozialwissenschaften und Technologie von der TUM erhielt – zeigt, dass die meisten Antworten von KI-Modellen auf Wählerfragen ungenau, unvollständig oder schädlich waren. Die Auswirkungen auf das Wahlverhalten und die Wahlergebnisse sind tiefgreifend und erfordern gründliche Untersuchungen.

Ziele des Projekts

1. Kartierung des Feldes: Analyse der globalen Wahllandschaft des letzten Jahres, der Rolle generativer KI in Wahlkampagnen und bei den Wahlen sowie der bestehenden Rahmenbedingungen zur Risikominderung.
2. Lernen aus Wahlen rund um den Globus: Erkenntnisse aus den weltweiten Wahlen 2024 gewinnen, um zu verstehen, wie Generative KI Wahlprozesse negativ oder positiv beeinflussen kann.
3. Bekämpfung von Miss-/Desinformation:Entwicklung von Strategien zur Minderung der Risiken durch Mis- und Desinformation im Wahlkontext, mit besonderem Fokus auf die kommende Bundestagswahl 2025.

Über Amélie Hennemann-Heldt

Dr. Amélie Hennemann-Heldt bringt eine Fülle an Fachwissen aus ihrer herausragenden Karriere in der digitalen Politik und Medienforschung mit. Sie trat 2022 ins Bundeskanzleramt ein und ist stellvertretende Leiterin des Referats „Allgemeine Fragen der Digitalpolitik“. Zuvor arbeitete sie als Wissenschaftlerin am Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI) und war mit dem Humboldt-Institut für Internet und Gesellschaft verbunden. Zudem war sie Dozentin für Grund- und Menschenrechte an der Hochschule für Wirtschaft und Recht Berlin sowie an der Universität Jena. Amélie absolvierte Fellowships am Information Society Project der Yale Law School, dem Center for Cyber, Law & Policy der Universität Haifa und dem Weizenbaum-Institut.

In ihrer Forschung konzentrierte sie sich auf Plattformregulierung, Social-Media-Governance, die Auswirkungen neuer Technologien auf die digitale Öffentlichkeit und die Ausübung von Grundrechten im Kontext algorithmischer Entscheidungsfindung und autonomer Systeme. Sie ist Mitbegründerin des HBI Digital Disinformation Hub und Mitherausgeberin eines Bandes über die Konstitutionalisierung sozialer Medien. In ihrer Doktorarbeit untersuchte sie die mittelbare Drittwirkung der Meinungsfreiheit auf Social-Media-Plattformen.

Fellowship of Practice in Zusammenarbeit mit unseren Labs

Als Fellow of Practice wird Amélie mit dem Civic Machines Lab unter der Leitung von Orestis Papkyriakopoulos, dem Content Moderation Lab unter der Leitung von Yannis Theocharis und verschiedenen Mitgliedern der GenAI Task Force zusammenarbeiten, um die Auswirkungen von GenAI auf Wahlen zu erforschen.