Generative AI Taskforce
Aufklärung der Entscheidungsträger und Angebot eines offenen Diskussionsforums über die Risiken und Vorteile der generativen KI
Über die Taskforce
Die Fortschritte auf dem Gebiet der generativen künstlichen Intelligenz sind atemberaubend - ebenso wie die Geschwindigkeit, mit der neue Anwendungen wie ChatGPT weltweit in den verschiedensten Bereichen eingesetzt werden. Von der Arbeit über die Bildung bis hin zu Medizin und Wirtschaft dienen diese generativen KI-Anwendungen auch als Grundlage für nachfolgende Innovationen. Die zunehmende Komplexität von KI-Technologien, ihre großflächige Anwendung und die entstehende Landschaft von Rechtsnormen und anderen Richtlinien führen zu einem hohen Maß an Unsicherheit im privaten und öffentlichen Sektor darüber, wie diese technologischen Innovationen verantwortungsvoll entwickelt, eingesetzt und geregelt werden können oder sollten. Während generative KI-Technologien auf den Markt kommen, sind die möglichen mittel- und langfristigen Auswirkungen auf die Gesellschaft noch nicht absehbar, beispielsweise im Hinblick auf Bildung und Forschung, den Arbeitsmarkt und die Wirtschaft, aber auch auf die Zukunft der Demokratie und die Beteiligung der Zivilgesellschaft. Die jüngste Forderung nach einem Moratorium hat einige dieser Bedenken in den Blickpunkt der Öffentlichkeit gerückt.
Vor diesem Hintergrund richtet der TUM Think Tank eine interdisziplinäre Task Force zu generativer KI (Gen AI Task Force) für einen Zeitraum von 18 Monaten ein, um Entscheidungsträger in Regierung, Industrie und Zivilgesellschaft sowie andere Stakeholder in Fragen der Gestaltung, Steuerung und Nutzung generativer KI-Technologien in ihren jeweiligen Anwendungskontexten zu beraten. Die Task Force bringt Spezialisten aus verschiedenen Disziplinen der TUM mit Partnern aus Industrie, Verwaltung und Gesellschaft zusammen und konzentriert sich zunächst auf drei Kernaktivitäten:
Entwicklung von Leitlinien und Regulierungsansätzen
Die Gen AI Task Force unterstützt Entscheidungsträger im öffentlichen Sektor bei der Bewertung des Bedarfs, der ethischen Fundierung und der Gestaltung von Leitlinien im Bereich der generativen KI, beispielsweise in Form von Empfehlungen, Best Practices sowie Politiken, einschließlich zukünftiger Regulierungsansätze. Ziel ist es, die Chancen und Risiken im jeweiligen Anwendungsbereich sorgfältig zu analysieren und zu managen sowie die verschiedenen (politischen) Instrumente proaktiv aufeinander abzustimmen. Ein weiterer Schwerpunkt ist die Überwachung und Vorbereitung der neuen Gesetzgebung, insbesondere des Europäischen KI-Gesetzes (inkl. "Regulatory Sandboxes").
Challenges Forum
Die Gen AI Task Force bietet eine kuratierte Plattform für den Informations- und Wissensaustausch, in der Entscheidungsträger im Rahmen eines sogenannten "Challenges Forum" gemeinsam mit Peers und Experten sowohl strategische als auch praktische aktuelle Herausforderungen im Umgang mit generativer KI diskutieren können. Dies kann in Form von Round Tables, Workshops, Forschungssprints zu spezifischen Problemstellungen oder "Seed-Projekten" zur Entwicklung von Prototypen unter Einbeziehung von Studierenden im Rahmen der an der TUM bereits etablierten Tech Policy Practice erfolgen.
Horizon Scanning
Mit der Methode der "Foresight-Analyse" und im Sinne eines sensorischen Frühwarnsystems arbeitet die Gen AI Task Force mit Partnern aus der Industrie zusammen, um Einblicke in die Dynamik der generativen KI zu geben und das Bewusstsein von Entscheidungsträgern für zukünftige Entwicklungen und aufkommende Fragen zu schärfen. Dabei geht es nicht nur um die Technologieentwicklung, sondern auch um Verhaltensänderungen und Einstellungen der Nutzer sowie um Veränderungen in der Akzeptanz und Wahrnehmung. In diesem Zusammenhang sind partizipative Formate mit Bürgerinnen und Bürgern und der Zivilgesellschaft vorgesehen (z.B. Citizen Assembly, Pulse Surveys, Citizen Panel, etc.).
Neben allgemeiner (Querschnitts-)Expertise in den Bereichen KI, Gesellschaft und Politik konzentriert sich die Task Force auf die Anwendungsbereiche Bildung/Ausbildung, Forschung, Medien/Journalismus, öffentliche Verwaltung/Justiz, Wirtschaft/Corporate Compliance und Gesundheit/Medizin.
Außerdem vereint die Taskforce folgende Expertinnen und Experten:
- Prof. Dr. Alena Buyx (Ethik in Gesundheit und Gesundheitstechnologien)
- Prof. Dr. Stefania Centrone (Ethik)
- Prof. Dr. Stephanie Combs (KI in Gesundheite & Medizin)
- Prof. Dr. Annette Diefenthaler (Design & Transdisziplinarität)
- Prof. Dr. Christian Djeffal (Recht, Wissenschaft & Technologie)
- Prof. Dr. Matthias Grabmair (Legal Tech)
- Prof. Dr. Georg Groh (Social Computing)
- Prof. Dr. Stephan Günnemann (Machine Learning)
- Prof. Dr. Dirk Heckmann (Recht und Sicherheit in Digitaler Transformation)
- Prof. Dr. Gjergji Kasneci (Responsible Data Science)
- Prof. Dr. Stephan Krusche (Software Engineering)
- Prof. Dr. Alexander Pretschner (Systems & Software Engineering)
- Prof. Dr. Daniel Rückert (KI in Medizin & Gesundheitswesen)
- Prof. Dr. Astrid Séville (Politische Theorie)
- Prof. Dr. Janina Steinert (Global Health)
- Prof. Dr. Yannis Theocharis (Digital Governance)
- Prof. Dr. Ingo Weber (IT Service Management, Entwicklung und Operations)
- Prof. Dr. Isabell Welpe (Leadership, Innovation, Organisation)
Partnerschaften
Die Gen AI Task Force arbeitet mit verschiedenen Organisationen im In- und Ausland zusammen, insbesondere mit dem Berkman Klein Center for Internet & Society an der Harvard University und dem Global Network of Internet & Society Research Centers, um nur einige zu nennen. Sie baut auch auf einer Forschungskooperation zwischen TUM und HfP und der Norwegian Business School, dem Berkman Klein Center und ITS Rio auf, die vom Norwegischen Forschungsrat unterstützt wird.
Podcast Generative AI Taskforce
Sie sehen gerade einen Platzhalterinhalt von YouTube. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen-
Enkelejda Kasneci on AI Learning Assistants in School
-
Guest article in FAZ by Dirk Heckmann, Jan Gogoll and Alexander Pretschner on ChatGPT and exams
-
Position paper by Enkelejda Kasneci on the chances of ChatGPT for schools and universities
-
Urs Gasser's assessment of the call for a moratorium on AI development
-
Contribution in the program quer (BR) about the chances and risks of AI by Urs Gasser
-
Daily talk in Bayern2 on the topic of AI with Urs Gasser
-
Alena Buyx in the podcast “Zukunft verstehen - Wie Technik die Welt verändert” on ethics of AI
-
SPIEGEL interview with Urs Gasser on a new policy approach
-
Alexander Pretschner on ChatGPT in FAZ
-
Dirk Heckmann and Alexander Pretschner in FAZ on novel ways to examinate students
-
Christian Djeffal on Natural Language Processing and Legal TechProjekt NLawP
-
Publication on translation and AI in public administration by Christian Djeffal
-
Interview with Stefania Centrone on AI and philosophy
-
Janina Steinert on online misogyny
-
Georg Groh on LLMs and their ability to write code in BR
-
Tagesspiegel Background on AI regulation with Urs Gasser
-
SZ article on AI and its power with Stephan Günnemann
-
SCIENCE Editorial: An EU Landmark for AI governance by Urs Gasser
-
Article in Handelsblatt about AI in Education: Enkelejda Kasneci
