Die Rolle von GenAI bei Wahlen: Ein entscheidendes Unterfangen für 2024
Allein im Jahr 2024 finden in über 70 Ländern nationale Wahlen statt – ein entscheidendes Jahr für Demokratien weltweit. Mit dem Aufstieg generativer KI besteht ein dringender Bedarf, deren Auswirkungen auf die Integrität und Fairness von Wahlprozessen zu verstehen.
Dr. Amélie Hennemann-Heldt arbeitet als Fellow of Practice mit dem Civic Machines Lab, dem Content Moderation Lab und der GenAI Task Force am TUM Think Tank zusammen, um die Auswirkungen generativer KI auf Wahlen zu untersuchen. Dabei liegt der Fokus auf der Kartierung von Risikofeldern sowie positiven Anwendungsfällen, dem Lernen aus früheren Wahlen und dem Entgegenwirken von Miss- und Desinformation.
Hintergrund
Allein im Jahr 2024 finden in über 70 Ländern nationale Wahlen statt – ein entscheidendes Jahr für Demokratien weltweit. Mit dem Aufstieg generativer KI besteht ein dringender Bedarf, deren Auswirkungen auf die Integrität und Fairness von Wahlprozessen zu verstehen.
So hat beispielsweise Forschung am Massachusetts Institute of Technology gezeigt, dass von KI unterstützte Desinformationskampagnen sich bis zu sechsmal schneller verbreiten können als faktenbasierte Nachrichten. Außerdem zeigt eine aktuelle Studie der AI Democracy Projects – eine Zusammenarbeit zwischen Proof News und dem Science, Technology, and Social Values Lab am Institute for Advanced Study unter der Leitung von Alondra Nelson – dass die Antworten der meisten KI-Modelle auf Fragen, die Wähler stellen könnten, ungenau, unvollständig oder sogar schädlich waren. Die Auswirkungen auf das Wählerverhalten und die Wahlergebnisse sind tiefgreifend und erfordern eine gründliche Untersuchung.
Projektziele
- Feldanalyse: Analyse der globalen Wahllandschaft des vergangenen Jahres – von den Wahlkampagnen bis zu den Wahlen – sowie Untersuchung der Rolle generativer KI und der bestehenden Rahmenbedingungen zur Risikominderung.
- Lernen aus weltweiten Wahlen: Gewinnung von Erkenntnissen aus den weltweiten Wahlen im Jahr 2024, um zu verstehen, wie generative KI Wahlprozesse – sowohl negativ als auch positiv – beeinflussen kann.
- Bekämpfung von Desinformation: Entwicklung von Strategien zur Eindämmung von Des- und Fehlinformationen im Wahlkontext, mit besonderem Fokus auf die bevorstehende Bundestagswahl in Deutschland im Jahr 2025.
Über Amélie Hennemann-Heldt
Dr. Amélie Hennemann-Heldt verfügt über umfassende Expertise in der Digitalpolitik und Medienforschung, die sie in ihrer erfolgreichen Laufbahn erworben hat. Seit 2022 ist sie in der Staatskanzlei tätig und fungiert dort als stellvertretende Referatsleiterin für Grundsatzfragen der Digitalpolitik.
Zuvor war sie als Wissenschaftlerin am Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI) tätig und dem Humboldt-Institut für Internet und Gesellschaft assoziiert. Zudem lehrte sie Grund- und Menschenrechte an der Hochschule für Wirtschaft und Recht Berlin sowie an der Universität Jena. Amélie absolvierte Forschungsaufenthalte am Information Society Project der Yale Law School, am Center for Cyber, Law & Policy der Universität Haifa sowie am Weizenbaum-Institut.
In ihrer Forschung konzentrierte sie sich auf Plattformregulierung, die Governance sozialer Medien, die Auswirkungen neuer Technologien auf die digitale Öffentlichkeit sowie die Ausübung von Grundrechten im Kontext algorithmischer Entscheidungsfindung und autonomer Systeme. Sie war Mitbegründerin des HBI Digital Disinformation Hub und Mitherausgeberin eines Sammelbandes zur Konstitutionalisierung sozialer Medien. In ihrer Dissertation untersuchte sie die mittelbare Drittwirkung der Meinungsfreiheit auf sozialen Medienplattformen.
