Generative AI Task Force

Die Fortschritte auf dem Gebiet der generativen künstlichen Intelligenz sind atemberaubend - ebenso wie die Geschwindigkeit, mit der neue Anwendungen wie ChatGPT weltweit in den verschiedensten Bereichen eingesetzt werden. Von der Arbeit über die Bildung bis hin zu Medizin und Wirtschaft dienen diese generativen KI-Anwendungen auch als Grundlage für nachfolgende Innovationen. Die zunehmende Komplexität von KI-Technologien, ihre großflächige Anwendung und die entstehende Landschaft von Rechtsnormen und anderen Richtlinien führen zu einem hohen Maß an Unsicherheit im privaten und öffentlichen Sektor darüber, wie diese technologischen Innovationen verantwortungsvoll entwickelt, eingesetzt und geregelt werden können oder sollten. Während generative KI-Technologien auf den Markt kommen, sind die möglichen mittel- und langfristigen Auswirkungen auf die Gesellschaft noch nicht absehbar, beispielsweise im Hinblick auf Bildung und Forschung, den Arbeitsmarkt und die Wirtschaft, aber auch auf die Zukunft der Demokratie und die Beteiligung der Zivilgesellschaft. Die jüngste Forderung nach einem Moratorium hat einige dieser Bedenken in den Blickpunkt der Öffentlichkeit gerückt.

Vor diesem Hintergrund richtet der TUM Think Tank eine interdisziplinäre Task Force zu generativer KI (Gen AI Task Force) für einen Zeitraum von 18 Monaten ein, um Entscheidungsträger in Regierung, Industrie und Zivilgesellschaft sowie andere Stakeholder in Fragen der Gestaltung, Steuerung und Nutzung generativer KI-Technologien in ihren jeweiligen Anwendungskontexten zu beraten. Die Task Force bringt Spezialisten aus verschiedenen Disziplinen der TUM mit Partnern aus Industrie, Verwaltung und Gesellschaft zusammen und konzentriert sich zunächst auf drei Kernaktivitäten:

Entwicklung von Leitlinien und Regulierungsansätzen

Die Gen AI Task Force unterstützt Entscheidungsträger im öffentlichen Sektor bei der Bewertung des Bedarfs, der ethischen Fundierung und der Gestaltung von Leitlinien im Bereich der generativen KI, beispielsweise in Form von Empfehlungen, Best Practices sowie Politiken, einschließlich zukünftiger Regulierungsansätze. Ziel ist es, die Chancen und Risiken im jeweiligen Anwendungsbereich sorgfältig zu analysieren und zu managen sowie die verschiedenen (politischen) Instrumente proaktiv aufeinander abzustimmen. Ein weiterer Schwerpunkt ist die Überwachung und Vorbereitung der neuen Gesetzgebung, insbesondere des Europäischen KI-Gesetzes (inkl. "Regulatory Sandboxes").

Challenges Forum

Die Gen AI Task Force bietet eine kuratierte Plattform für den Informations- und Wissensaustausch, in der Entscheidungsträger im Rahmen eines sogenannten "Challenges Forum" gemeinsam mit Peers und Experten sowohl strategische als auch praktische aktuelle Herausforderungen im Umgang mit generativer KI diskutieren können. Dies kann in Form von Round Tables, Workshops, Forschungssprints zu spezifischen Problemstellungen oder "Seed-Projekten" zur Entwicklung von Prototypen unter Einbeziehung von Studierenden im Rahmen der an der TUM bereits etablierten Tech Policy Practice erfolgen.

Horizon scanning

Mit der Methode der "Foresight-Analyse" und im Sinne eines sensorischen Frühwarnsystems arbeitet die Gen AI Task Force mit Partnern aus der Industrie zusammen, um Einblicke in die Dynamik der generativen KI zu geben und das Bewusstsein von Entscheidungsträgern für zukünftige Entwicklungen und aufkommende Fragen zu schärfen. Dabei geht es nicht nur um die Technologieentwicklung, sondern auch um Verhaltensänderungen und Einstellungen der Nutzer sowie um Veränderungen in der Akzeptanz und Wahrnehmung. In diesem Zusammenhang sind partizipative Formate mit Bürgerinnen und Bürgern und der Zivilgesellschaft vorgesehen (z.B. Citizen Assembly, Pulse Surveys, Citizen Panel, etc.).

Neben allgemeiner (Querschnitts-)Expertise in den Bereichen KI, Gesellschaft und Politik konzentriert sich die Task Force auf die Anwendungsbereiche Bildung/Ausbildung, Forschung, Medien/Journalismus, öffentliche Verwaltung/Justiz, Wirtschaft/Corporate Compliance und Gesundheit/Medizin. Die Gen AI Task Force wird gemeinsam von Prof. Dr. Enkelejda Kasneci (KI in der Bildung) und Prof. Dr. Urs Gasser (Public Policy & Governance) geleitet und vereint unter anderem folgende Experten:

• Prof. Dr. Alena Buyx (Ethik in Gesundheit und Gesundheitstechnologien)
• Prof. Dr. Stefania Centrone (Ethik)
• Prof. Dr. Stephanie Combs (KI in Gesundheite & Medizin)
• Prof. Dr. Annette Diefenthaler (Design & Transdisziplinarität)
• Prof. Dr. Christian Djeffal (Recht, Wissenschaft & Technologie)
• Prof. Dr. Matthias Grabmair (Legal Tech)
• Prof. Dr. Georg Groh (Social Computing)
• Prof. Dr. Stephan Günnemann (Machine Learning)
• Prof. Dr. Dirk Heckmann (Recht und Sicherheit in Digitaler Transformation)
• Prof. Dr. Gjergji Kasneci (Responsible Data Science)
• Prof. Dr. Stephan Krusche (Software Engineering)
• Prof. Dr. Alexander Pretschner (Systems & Software Engineering)
• Prof. Dr. Daniel Rückert (KI in Medizin & Gesundheitswesen)
• Prof. Dr. Astrid Séville (Politische Theorie)
• Prof. Dr. Janina Steinert (Global Health)
• Prof. Dr. Yannis Theocharis (Digital Governance)
• Prof. Dr. Ingo Weber (IT Service Management, Entwicklung und Operations)
• Prof. Dr. Isabell Welpe (Leadership, Innovation, Organisation)

Die Gen AI Task Force arbeitet mit verschiedenen Organisationen im In- und Ausland zusammen, insbesondere mit dem Berkman Klein Center for Internet & Society an der Harvard University und dem Global Network of Internet & Society Research Centers, um nur einige zu nennen. Sie baut auch auf einer Forschungskooperation zwischen TUM und HfP und der Norwegian Business School, dem Berkman Klein Center und ITS Rio auf, die vom Norwegischen Forschungsrat unterstützt wird.

Podcast

Ausgewählte Resourcen:

Artikel im Handelsblatt über KI in der Bildung: Enkelejda KasneciLink

Artikel im Handelsblatt über KI in der Bildung: Enkelejda KasneciLink