Friedrich Schiedel Fellows

Lernen Sie die Friedrich-Schiedel-Stipendiaten kennen, die daran arbeiten, Brücken zwischen Sozialwissenschaften, Technologie und anderen Disziplinen zu schlagen. Ihre interdisziplinären Forschungsprojekte unter dem Motto "Human-Centered Innovation for Technology in Society" beschäftigt sich mit der Frage, wie Technologien verantwortungsvoll, menschenzentriert und demokratisch entwickelt werden können um dem Gemeinwohl dienen.

AUXANE BOCH: PSYCHOLOGY IMPACT ASSESSMENT FOR INTERACTIONAL SYSTEMS: DEFINING THE EVALUATION SCOPE (PSAIS)

Dieses Forschungsprojekt zielt darauf ab, den Mangel an Rahmenwerken für die systematische Bewertung der verschiedenen psychologischen Auswirkungen von KI zu beheben. Durch die Anwendung eines partizipativen Ansatzes und die Berücksichtigung kultureller Werte soll ein multikulturelles Mapping-Rahmenwerk für die Bewertung der psychologischen Auswirkungen von KI-Systemen entwickelt werden. Das Forschungsprojekt wird Workshops und Konsultationen mit Interessenvertretern aus verschiedenen Sektoren und Regionen umfassen, um Bewertungskriterien zu definieren. Außerdem wird das Projekt zur Entwicklung konkreter Handlungsempfehlungen beitragen, indem es einen kulturell informierten Rahmen bereitstellt, der die verantwortungsvolle Entwicklung und Anwendung von KI-Technologien leiten kann. Die Wirkung des Projekts erstreckt sich auf akademische Disziplinen, Partnerinstitutionen, gesellschaftliche Interessengruppen und politische Akteure. Es wird den interdisziplinären Wissensaustausch fördern, Diskussionen über die Standardisierung anregen und zum Abbau potenzieller Ungleichheiten beitragen, die sich aus der Einführung von Technologien ergeben. Das Projekt zielt darauf ab, den Wandel voranzutreiben, indem es aktiv zur Umsetzung der Empfehlungen beiträgt und das Wohlbefinden der Nutzer und das Vertrauen in KI-Systeme sicherstellt.

EFE BOZKIR: ECHOES OF PRIVACY: EXPLORING USER PRIVACY DECISION-MAKING PROCESSES TOWARDS LARGE LANGUAGE MODEL-BASED AGENTS IN IMMERSIVE REALITIES

Die Bedenken und Präferenzen der Nutzer in Bezug auf den Datenschutz wurden im Zusammenhang mit verschiedenen Technologien wie intelligenten Lautsprechern, IoT-Geräten und Augmented-Reality-Brillen umfassend erforscht, um eine bessere Entscheidungsfindung in Bezug auf den Datenschutz und menschenzentrierte Lösungen zu ermöglichen. Mit dem Aufkommen der generativen künstlichen Intelligenz (KI) wurden große Sprachmodelle (LLMs) in unsere täglichen Routinen integriert, wobei die Modelle mit großen Datenmengen, einschließlich sensibler Informationenmarbeiten. Die Möglichkeit, diese Modelle in immersive Umgebungen einzubetten, wirft eine Fülle von Fragen in Bezug auf den Datenschutz und die Benutzerfreundlichkeit auf. In diesem Projekt werden wir durch mehrere Nutzerstudien, darunter auch Crowdsourcing-Studien, Datenschutzbedenken und Präferenzen gegenüber LLM- und sprachbasierten Chat-Agenten für immersive Umgebungen und die Wahrscheinlichkeit der Inferenz von alarmierenden Nutzerattributen untersuchen. Die Ergebnisse werden dazu beitragen, die Auswirkungen solcher Einstellungen auf die Privatsphäre zu verstehen, Verfahren zur informierten Zustimmung zu entwerfen, die Nutzer in immersiven Räumen mit LLMs unterstützen, und datenschutzfreundliche technische Lösungen zu erleichtern.

BARIS C. CANTÜRK: FUTURE FINANCE LAW HUB (“F2L_HUB”)

Der Future Finance Law Hub ("F2L_Hub") ist ein an der TUM angesiedeltes Projekt, das sich zum Ziel gesetzt hat, eine Drehscheibe für politische Entscheidungsträger an der Schnittstelle von IT-Recht und Wirtschaftsrecht zu werden und mittel- bis langfristig Einfluss auf Deutschland und die Europäische Union zu nehmen. Zentraler Bestandteil der Arbeitsweise ist die Zusammenführung prominenter Akteure aus Wissenschaft und Wirtschaft in multidisziplinären Bereichen, einschließlich Recht, Finanzen und IT, um signifikante Ergebnisse zu erzielen.
Wie in der vorstehenden Zusammenfassung dargelegt, verkörpert F2L_Hub eine Aufgabe von beträchtlicher Tragweite, mit der mittel- und langfristige Ziele zur Institutionalisierung einer Tradition in diesem Bereich festgelegt werden. Somit ist dieses Stipendium in der Lage, als Katalysator für die Einrichtung von F2L_Hub zu fungieren, indem es sowohl finanzielle Mittel als auch den Zugang zu einem hervorragenden akademischen Umfeld bereitstellt. Durch dieses geschätzte Stipendium wird ein bemerkenswerter organisatorischer Meilenstein erreicht, der die Beschaffung der erforderlichen Finanzmittel und Partnerschaften erleichtert, die für die Durchführung von Nebenprozessen unerlässlich sind.

DARYNA DEMENTIEVA: HARMFUL SPEECH PROACTIVE MODERATION

Beleidigende Äußerungen sind trotz laufender Bemühungen nach wie vor ein allgegenwärtiges Problem, wie die jüngsten EU-Verordnungen zur Eindämmung digitaler Gewalt unterstreichen. Bestehende Ansätze stützen sich in erster Linie auf binäre Lösungen, wie z. B. die völlige Sperrung oder das Verbot, werden aber der komplexen Natur von Hassreden nicht gerecht. In dieser Arbeit möchten wir für einen umfassenderen Ansatz plädieren, der darauf abzielt, beleidigende Äußerungen in mehreren neuen Kategorien zu bewerten und zu klassifizieren: (i) Hassreden, deren Veröffentlichung verhindert werden kann, indem eine entschärfte Version empfohlen wird; (ii) Hassreden, die Gegenredeinitiativen erfordern, um den Sprecher zu überzeugen; (iii) Hassreden, die tatsächlich blockiert oder verboten werden sollten, und (iv) Fälle, die ein weiteres menschliches Eingreifen erfordern.

MENNATULLAH HENDAWY: SETTING UP THE FUTURE WITH SUSTAINABLE CHOICES: GENAI SUPPORT IN RESOLVING MULTI- STAKEHOLDER CONFLICTS IN SUSTAINABLE CRITICAL METALS & MINERALS DEVELOPMENT

Dieses Projekt skizziert einen innovativen Ansatz zur Lösung von Multi-Stakeholder-Konflikten bei der nachhaltigen Entwicklung von kritischen Metallen und Mineralien, die für die Dekarbonisierung unerlässlich sind. In Anbetracht der Komplexität und der Nachhaltigkeitsherausforderungen innerhalb der Lieferketten dieser Materialien, insbesondere jener, die aus dem globalen Süden / den Schwellenländern stammen, schlägt das Projekt eine digitale Plattform vor, die reaktive maschinelle KI (RM-AI) und generative KI (Gen-AI) mit Human-in-the-Loop-Funktionalitäten nutzt. Diese Plattform soll transparente und integrative Diskussionen zwischen Vertretern der Öffentlichkeit/Gemeinschaft, der Regierung und der Industrie ermöglichen und eine ausgewogene Berücksichtigung ökologischer, wirtschaftlicher und sozialer Nachhaltigkeitsziele gewährleisten. Durch die gemeinsame Entwicklung eines Konzepts für ein interaktives, spielbasiertes Entscheidungsfindungswerkzeug, das von Gen-AI unterstützt wird, zielt das Projekt darauf ab, gemeinsame Interessen zu identifizieren, Nachhaltigkeitskompromisse zu modellieren und Konsenslösungen zu finden, die mit den gesellschaftlichen Zielen der Verringerung von Ungleichheit und der Förderung von Wirtschaftswachstum mit menschenwürdigen Arbeitsbedingungen übereinstimmen. Durch die Integration von RM und Gen-AI soll die Kluft zwischen technischen und nicht-technischen Entscheidungsträgern überbrückt werden, um das Engagement der Interessengruppen und das Vertrauen in KI-gesteuerte Prozesse zu stärken. Dies steht in engem Einklang mit der Mission des Stipendiums, die auf menschenzentrierte Innovation und interdisziplinäre Zusammenarbeit für das Gemeinwohl ausgerichtet ist.

FRANZISKA M. POSZLER: RESEARCH-BASED THEATER: AN INNOVATIVE METHOD FOR COMMUNICATING AND CO-SHAPING AI ETHICS RESEARCH & DEVELOPMENT

Dieses Projekt wird einen kreativen Ansatz für die Durchführung, Aufklärung und Vermittlung von KI-Ethikforschung durch die Brille der Kunst (d. h. forschungsbasiertes Theater) umsetzen. Der Kerngedanke ist die Durchführung von qualitativen Interviews und Nutzerstudien zu den Auswirkungen von KI-Systemen auf die menschliche ethische Entscheidungsfindung. Dabei geht es insbesondere darum, die potenziellen Chancen und Risiken des Einsatzes dieser Systeme als Hilfsmittel für ethische Entscheidungen zu erforschen, ebenso wie ihre breiteren gesellschaftlichen Auswirkungen und empfohlenen Systemanforderungen. Die gewonnenen wissenschaftlichen Erkenntnisse werden in ein Theaterskript und eine (immersive) Aufführung umgesetzt. Diese Aufführung soll die Zivilgesellschaft auf ansprechende Weise über aktuelle Forschungsergebnisse aufklären und gemeinsame Diskussionen (z. B. über notwendige und bevorzugte Systemanforderungen oder -beschränkungen) ermöglichen. Die Erkenntnisse aus diesen Diskussionen sollen wiederum die wissenschaftliche Gemeinschaft informieren und so eine menschenzentrierte Entwicklung und Nutzung von KI-Systemen als moralische Dialogpartner oder Berater erleichtern. Insgesamt soll dieses Projekt als Proof-of-Concept für innovative Lehre, Wissenschaftskommunikation und Co-Design in der KI-Ethikforschung dienen und den Grundstein für ähnliche Projekte in der Zukunft legen.

Weitere Informationen über das Projekt finden Sie hier: https://www.ieai.sot.tum.de/research/moralplai/

MALTE TOETZKE: DEVELOPING THE GOOGLE MAPS FOR THE CLIMATE TRANSITION

Ich stelle mir vor, Google Maps für den Klimawandel zu entwickeln. Wirtschaftsführer und politische Entscheidungsträger brauchen umfassendere und zeitnahe Erkenntnisse, um die industrielle Entwicklung von Klimatechnologien wirksam zu beschleunigen. Dank der jüngsten Fortschritte im Bereich der künstlichen Intelligenz (KI) ist es nun möglich, Modelle zu entwickeln, die solche Erkenntnisse in großem Maßstab und nahezu in Echtzeit generieren. Im Rahmen des Projekts werde ich das globale Netzwerk von Organisationen analysieren, die im Bereich der Klimatechnologie-Innovation zusammenarbeiten. Das Netzwerk basiert auf der Verarbeitung der Social-Media-Posts von Organisationen mittels großer Sprachmodelle (LLMs). Es umfasst wichtige öffentliche und private Akteure und erstreckt sich auf verschiedene Arten von Klimatechnologien (z. B. Solar, Wasserstoff, Elektrofahrzeuge) und Arten von Kooperationen (F&E-Kooperationen, Demonstrationsprojekte, Kapitalbeteiligungen). Ich werde das Stipendium nutzen, um eingehende Analysen durchzuführen, die Managern und politischen Entscheidungsträgern wertvolle Erkenntnisse zur Förderung von Innovationsclustern liefern. Außerdem plane ich, die Informationsbeschaffung und -verarbeitung zu operationalisieren, um Analysen in Echtzeit zu ermöglichen.

CHIARA ULLSTEIN: PARTICIPATORY AUDITING (IN COOPERATION WITH AUDIT.EU)

Das EU-KI-Gesetz sieht vor, dass Anbieter (Management und Entwickler) von KI-Systemen mit hohem Risiko einer Konformitätsbewertung unterzogen werden müssen. Die Konformitätsbewertung umfasst mehrere Maßnahmen, die bestätigen sollen, dass ein System rechtskonform, technisch robust und ethisch einwandfrei ist und als "vertrauenswürdige KI" betrachtet werden kann. Das Projekt "Partizipatives Auditing" soll einen Beitrag zum Projekt Audit.EU leisten, indem es (1) untersucht, wie Unternehmen ihre Erkenntnisse aus etablierten Compliance-Praktiken, z. B. für die DSGVO, nutzen können, und (2) indem es Partizipation als Ansatz vorschlägt, um für die Einhaltung des KI-Gesetzes relevante Informationen von geeigneten Stakeholdern zu erhalten, um die Inklusivität zu erhöhen und Diskriminierungsrisiken zu mindern. Es wird davon ausgegangen, dass die Beteiligung den Prozess der Einhaltung der Vorschriften durch einen umfassenden Test- und Feedbackprozess verbessert. Auf der Grundlage der Erfahrungen mit etablierten Compliance-Maßnahmen wird ein Rahmen für die Durchführung von Audits auf partizipative Weise und in Übereinstimmung mit dem EU AI Act entwickelt und evaluiert. Das primäre Ziel des Frameworks ist es, Entwicklerteams als Leitfaden zu dienen.

NIKLAS WAIS: LAW & AI: NAVIGATING THE INTERSECTION

Die meisten Rechtsgebiete, die prinzipiell für KI relevant sind, lassen derzeit viele übergreifende Fragen unbeantwortet. Der Grund für diese offenen Fragen liegt darin, dass die Rechtswissenschaft ihrer Aufgabe, KI in die bestehende Dogmatik einzubinden, nicht nachkommen kann, weil es ihr an ausreichendem technologischen Verständnis fehlt. Gleichzeitig mangelt es den Entwicklern an Rechtskenntnissen, so dass sie sich bei ihren Designentscheidungen nur an der Leistung orientieren, nicht aber an der Einhaltung z.B. des Datenschutzes oder des Antidiskriminierungsrechts. Obwohl Studierende mit unterschiedlichem beruflichem Hintergrund mehr über die zugrundeliegenden Schnittstellenprobleme erfahren wollen, fehlt es an wirklich interdisziplinärem Lehrmaterial. Mein Projekt wird hier ansetzen und die seltene Fachexpertise, die es derzeit nur an der TUM gibt, in einen frei verfügbaren Online-Kurs überführen. Durch die Förderung der interdisziplinären Zusammenarbeit zwischen Recht und Technik und die möglichst effektive Weitergabe von Spitzenwissen soll das Projekt den verantwortungsvollen Einsatz von KI zum Nutzen der Gesellschaft fördern.

Wie können wir abstrakte Technologien wie die Quantentechnologie erlebbar machen?

Auf den ersten Blick scheinen Kunst und Technologie getrennte Bereiche zu sein. Neue Technologien inspirieren jedoch häufig die Kreativität in der Kunst und erweitern ihren Horizont kontinuierlich. Darüber hinaus bietet die Kunst einzigartige und manchmal überraschende Perspektiven auf technologische Fortschritte, die die tiefe Verbindung zwischen den beiden Bereichen offenbaren.

Beim QuantWorld-Projekt sind wir der festen Überzeugung, dass die Kunst als Übersetzer dienen kann, um die oft schwer fassbaren Konzepte der Quantentechnologien und ihre Auswirkungen auf unser tägliches Leben greifbar zu machen, und dass ein ganzheitlicher Ansatz, der Gedanken der Verantwortung und des Bewusstseins einschließt, weitere Entwicklungen verbessern kann.

Deshalb haben wir beschlossen, künstlerische Interventionen und Künstler prominent in das Projekt einzubeziehen.

Wir freuen uns, mit einer Gruppe bemerkenswerter Künstler zusammenzuarbeiten, deren künstlerische Interventionen der abstrakten Welt der Quantentechnologien eine einzigartige Perspektive verleihen. Wir sind davon überzeugt, dass durch diesen kreativen Ansatz die transformative Kraft dieser neuen Technologien für jedermann verständlich und erlebbar wird.

Gleichzeitig haben wir mit MATTER und dem XR Hub Bavaria tolle Partner an unserer Seite,  um innovative Wege an der Schnittstelle von Kunst und Technologie zu beschreiten. Mit MATTER entwickeln wir einen einzigartigen Rahmen für künstlerische Interventionen, während der XR Hub Bavaria es uns ermöglicht, Kunst in immersiven Extended Reality (XR) Formaten zum Leben zu erwecken.

Für die Vorstellung der kreativen Köpfe beim QuantWorld, hier entlang zur Englischen Version.

Wie können wir den Weg für eine strahlende Quantenzukunft ebnen?

Letzten Donnerstag startete PushQuantum sein Semesterprogramm in Zusammenarbeit mit dem Quantum Social Lab. Wir haben uns gefreut, Ilyas Khan an diesem besonderen Tag im TUM Think Tank begrüßen zu dürfen. Der Gründer und CPO von Quantinuum nahm nicht nur an einer Podiumsdiskussion teil, sondern verbrachte auch einige schöne Stunden mit den Mitgliedern des Studentenclubs.

Ein Höhepunkt der Veranstaltung war die Podiumsdiskussion, bei der es um die Zukunft der Quantentechnologien ging. Neben Ilyas Khan diskutierten Robert Wille, Professor an der TU München und Chief Scientific Officer am Software Competence Center Hagenberg, und Fabienne Marco, Leiterin des Quantum Social Lab und Projektleiterin von QuantWorld.

Die Podiumsteilnehmer tauschten ihre Ansichten über die Zukunft der Quantentechnologien aus und brachten dabei ihre unterschiedlichen Hintergründe ein, die von der Quantencomputerindustrie über Mathematik und Politikwissenschaft bis hin zur Softwareentwicklung reichen.

Der Moderator des Panels, Alexander Orlov (PushQuantum), stellte den Diskussionsteilnehmern Fragen, die von den erwarteten Fortschritten und großen Herausforderungen im Quantencomputing, einschließlich Bildung und Politik, bis hin zu persönlichen Erfahrungen reichten. Darüber hinaus entlockte er den Podiumsteilnehmern seltene Ratschläge, wie man die Karrieren der Studenten in den mit der Quantentechnologie zusammenhängenden Bereichen auf wirkungsvolle Weise beschleunigen kann.

Zu den wichtigsten Erkenntnissen zählten das Lernes aus den Fehlern der Vergangenheit, die Suche nach geeigneten Ansätzen für die Ausbildung im Bereich der Quantentechnologien (und insbesondere des Quantencomputings) sowie die Notwendigkeit interdisziplinärer Arbeit auf dem Gebiet der Quantentechnologie.

Auf die Frage nach der Zukunft der Quantentechnologie und was der entscheidende Faktor für die weitere und schnelle Entwicklung sein wird, schlug Ilyas Khan vor, den Schwerpunkt von der Kohärenzzeit auf die Entropie zu verlagern. "Ich würde sagen, dass von all den Dingen, die im Zusammenhang mit einem möglichen Vorteil von Bedeutung sind, ich Sie ermutigen würde, an die Kreuzentropie zu denken, weil sie validiert werden kann oder nicht. [...] Und ich denke, in diesem Jahr werden wir diese Schwelle unbestreitbar überschreiten. Daran besteht für mich kein Zweifel."

Was die Bildung und die zukünftigen Talente betrifft, so besteht die "aktuelle Herausforderung darin, die Bedürfnisse der verschiedenen Teile der Gesellschaft zu erfüllen und einen ganzheitlicheren und interdisziplinären Ansatz in der Bildung zu verfolgen", so Fabienne Marco.

Die Podiumsteilnehmer waren sich einig, dass es wichtig ist, das Bild in den Medien von der Verbreitung von Angst auf die Chancen der Quantentechnologie zu verlagern.

Robert Wille wies darauf hin, wie wichtig es ist, zu unterscheiden, wer am besten in der Lage ist, verschiedene Herausforderungen zu lösen: "Wenn es um Software für das Quantencomputing geht, müssen Informatiker den Weg weisen". Aus seiner persönlichen Erfahrung heraus betonte er auch, wie wichtig es ist, sich manchmal selbst herauszufordern, indem man sich in neue wissenschaftliche Blasen begibt, um Lösungen auszutauschen und zu vermeiden, dass man sich wieder in den Vordergrund drängt.

Danke für diese aufschlussreiche Podiumsdiskussion!

PushQuantum ist ein in München ansässiger Studierendenclub, der eine praxisnahe Ausbildung im Bereich der Quantentechnologie anbietet. Im Rahmen des TUM Think Tank's Public Policy Impact Programms konzentriert sich PushQuantum darauf, aktiv zur Gestaltung einer verantwortungsvollen Quantenzukunft beizutragen - eine Vision, die das Quantum Social Lab teilt.

Zur Ausschreibung

Was?

Der TUM Think Tank und byte – Bayerische Agentur für Digitales setzen gemeinsam auf die Zukunft mit einer KI-Roadshow für die Staatsministerien in Bayern! Ziel? Mitarbeiter:innen für generative Künstliche Intelligenz begeistern, Potenziale für die öffentliche Verwaltung aufzeigen und Bewusstsein für mögliche Risiken schärfen.

Wen suchen wir?

Studierende mit Neugierde und ersten Erfahrungen in den Bereichen:
- Generativer KI
- Erstellung didaktischer Lernmaterialien
- Informations- und Wissensaustausch im öffentlichen Sektor
- Technischer und/oder sozialwissenschaftlicher Expertise

Aufgabenfelder:

- Gestaltung der KI-Roadshow: Anwendungsfälle von generativer KI in der Verwaltung, co-kreative Workshop-Formate, Lernmaterialien.
- Durchführung der KI-Roadshow mit Bayerischen Staatsministerien: Präsentation, Informationsveranstaltungen, Mini-Workshops.
- Erarbeitung von Informations- und Lernmaterialien als Open Educational Resources.
- Aufbau einer Workbench für generative KI in der Verwaltung.

Was bieten wir?

- ECTS-Anrechnung z. B. als Teil eines Pflichtpraktikums oder Forschungspraktikums.
- Co-Working im Herzen Münchens.
- Möglichkeit einer Abschlussarbeit mit TUM Think Tank und byte.
- Einblicke in zwei tolle Institutionen sowie eine Zusammenarbeit mit mehreren bayerischen Ministerien

Wann?

Bewirb dich ab jetzt und sei dabei, wenn die Zukunft gestaltet wird!