Friedrich Schiedel Fellows - Kohorte 1

Friedrich Schiedel Fellows

Lernen Sie die Friedrich-Schiedel-Stipendiaten kennen, die daran arbeiten, Brücken zwischen Sozialwissenschaften, Technologie und anderen Disziplinen zu schlagen. Ihre interdisziplinären Forschungsprojekte unter dem Motto "Human-Centered Innovation for Technology in Society" beschäftigt sich mit der Frage, wie Technologien verantwortungsvoll, menschenzentriert und demokratisch entwickelt werden können um dem Gemeinwohl dienen.

AUXANE BOCH: PSYCHOLOGY IMPACT ASSESSMENT FOR INTERACTIONAL SYSTEMS: DEFINING THE EVALUATION SCOPE (PSAIS)

Dieses Forschungsprojekt zielt darauf ab, den Mangel an Rahmenwerken für die systematische Bewertung der verschiedenen psychologischen Auswirkungen von KI zu beheben. Durch die Anwendung eines partizipativen Ansatzes und die Berücksichtigung kultureller Werte soll ein multikulturelles Mapping-Rahmenwerk für die Bewertung der psychologischen Auswirkungen von KI-Systemen entwickelt werden. Das Forschungsprojekt wird Workshops und Konsultationen mit Interessenvertretern aus verschiedenen Sektoren und Regionen umfassen, um Bewertungskriterien zu definieren. Außerdem wird das Projekt zur Entwicklung konkreter Handlungsempfehlungen beitragen, indem es einen kulturell informierten Rahmen bereitstellt, der die verantwortungsvolle Entwicklung und Anwendung von KI-Technologien leiten kann. Die Wirkung des Projekts erstreckt sich auf akademische Disziplinen, Partnerinstitutionen, gesellschaftliche Interessengruppen und politische Akteure. Es wird den interdisziplinären Wissensaustausch fördern, Diskussionen über die Standardisierung anregen und zum Abbau potenzieller Ungleichheiten beitragen, die sich aus der Einführung von Technologien ergeben. Das Projekt zielt darauf ab, den Wandel voranzutreiben, indem es aktiv zur Umsetzung der Empfehlungen beiträgt und das Wohlbefinden der Nutzer und das Vertrauen in KI-Systeme sicherstellt.

EFE BOZKIR: ECHOES OF PRIVACY: EXPLORING USER PRIVACY DECISION-MAKING PROCESSES TOWARDS LARGE LANGUAGE MODEL-BASED AGENTS IN IMMERSIVE REALITIES

Die Bedenken und Präferenzen der Nutzer in Bezug auf den Datenschutz wurden im Zusammenhang mit verschiedenen Technologien wie intelligenten Lautsprechern, IoT-Geräten und Augmented-Reality-Brillen umfassend erforscht, um eine bessere Entscheidungsfindung in Bezug auf den Datenschutz und menschenzentrierte Lösungen zu ermöglichen. Mit dem Aufkommen der generativen künstlichen Intelligenz (KI) wurden große Sprachmodelle (LLMs) in unsere täglichen Routinen integriert, wobei die Modelle mit großen Datenmengen, einschließlich sensibler Informationenmarbeiten. Die Möglichkeit, diese Modelle in immersive Umgebungen einzubetten, wirft eine Fülle von Fragen in Bezug auf den Datenschutz und die Benutzerfreundlichkeit auf. In diesem Projekt werden wir durch mehrere Nutzerstudien, darunter auch Crowdsourcing-Studien, Datenschutzbedenken und Präferenzen gegenüber LLM- und sprachbasierten Chat-Agenten für immersive Umgebungen und die Wahrscheinlichkeit der Inferenz von alarmierenden Nutzerattributen untersuchen. Die Ergebnisse werden dazu beitragen, die Auswirkungen solcher Einstellungen auf die Privatsphäre zu verstehen, Verfahren zur informierten Zustimmung zu entwerfen, die Nutzer in immersiven Räumen mit LLMs unterstützen, und datenschutzfreundliche technische Lösungen zu erleichtern.

BARIS C. CANTÜRK: FUTURE FINANCE LAW HUB (“F2L_HUB”)

Der Future Finance Law Hub ("F2L_Hub") ist ein an der TUM angesiedeltes Projekt, das sich zum Ziel gesetzt hat, eine Drehscheibe für politische Entscheidungsträger an der Schnittstelle von IT-Recht und Wirtschaftsrecht zu werden und mittel- bis langfristig Einfluss auf Deutschland und die Europäische Union zu nehmen. Zentraler Bestandteil der Arbeitsweise ist die Zusammenführung prominenter Akteure aus Wissenschaft und Wirtschaft in multidisziplinären Bereichen, einschließlich Recht, Finanzen und IT, um signifikante Ergebnisse zu erzielen.
Wie in der vorstehenden Zusammenfassung dargelegt, verkörpert F2L_Hub eine Aufgabe von beträchtlicher Tragweite, mit der mittel- und langfristige Ziele zur Institutionalisierung einer Tradition in diesem Bereich festgelegt werden. Somit ist dieses Stipendium in der Lage, als Katalysator für die Einrichtung von F2L_Hub zu fungieren, indem es sowohl finanzielle Mittel als auch den Zugang zu einem hervorragenden akademischen Umfeld bereitstellt. Durch dieses geschätzte Stipendium wird ein bemerkenswerter organisatorischer Meilenstein erreicht, der die Beschaffung der erforderlichen Finanzmittel und Partnerschaften erleichtert, die für die Durchführung von Nebenprozessen unerlässlich sind.

DARYNA DEMENTIEVA: HARMFUL SPEECH PROACTIVE MODERATION

Beleidigende Äußerungen sind trotz laufender Bemühungen nach wie vor ein allgegenwärtiges Problem, wie die jüngsten EU-Verordnungen zur Eindämmung digitaler Gewalt unterstreichen. Bestehende Ansätze stützen sich in erster Linie auf binäre Lösungen, wie z. B. die völlige Sperrung oder das Verbot, werden aber der komplexen Natur von Hassreden nicht gerecht. In dieser Arbeit möchten wir für einen umfassenderen Ansatz plädieren, der darauf abzielt, beleidigende Äußerungen in mehreren neuen Kategorien zu bewerten und zu klassifizieren: (i) Hassreden, deren Veröffentlichung verhindert werden kann, indem eine entschärfte Version empfohlen wird; (ii) Hassreden, die Gegenredeinitiativen erfordern, um den Sprecher zu überzeugen; (iii) Hassreden, die tatsächlich blockiert oder verboten werden sollten, und (iv) Fälle, die ein weiteres menschliches Eingreifen erfordern.

MENNATULLAH HENDAWY: SETTING UP THE FUTURE WITH SUSTAINABLE CHOICES: GENAI SUPPORT IN RESOLVING MULTI- STAKEHOLDER CONFLICTS IN SUSTAINABLE CRITICAL METALS & MINERALS DEVELOPMENT

Dieses Projekt skizziert einen innovativen Ansatz zur Lösung von Multi-Stakeholder-Konflikten bei der nachhaltigen Entwicklung von kritischen Metallen und Mineralien, die für die Dekarbonisierung unerlässlich sind. In Anbetracht der Komplexität und der Nachhaltigkeitsherausforderungen innerhalb der Lieferketten dieser Materialien, insbesondere jener, die aus dem globalen Süden / den Schwellenländern stammen, schlägt das Projekt eine digitale Plattform vor, die reaktive maschinelle KI (RM-AI) und generative KI (Gen-AI) mit Human-in-the-Loop-Funktionalitäten nutzt. Diese Plattform soll transparente und integrative Diskussionen zwischen Vertretern der Öffentlichkeit/Gemeinschaft, der Regierung und der Industrie ermöglichen und eine ausgewogene Berücksichtigung ökologischer, wirtschaftlicher und sozialer Nachhaltigkeitsziele gewährleisten. Durch die gemeinsame Entwicklung eines Konzepts für ein interaktives, spielbasiertes Entscheidungsfindungswerkzeug, das von Gen-AI unterstützt wird, zielt das Projekt darauf ab, gemeinsame Interessen zu identifizieren, Nachhaltigkeitskompromisse zu modellieren und Konsenslösungen zu finden, die mit den gesellschaftlichen Zielen der Verringerung von Ungleichheit und der Förderung von Wirtschaftswachstum mit menschenwürdigen Arbeitsbedingungen übereinstimmen. Durch die Integration von RM und Gen-AI soll die Kluft zwischen technischen und nicht-technischen Entscheidungsträgern überbrückt werden, um das Engagement der Interessengruppen und das Vertrauen in KI-gesteuerte Prozesse zu stärken. Dies steht in engem Einklang mit der Mission des Stipendiums, die auf menschenzentrierte Innovation und interdisziplinäre Zusammenarbeit für das Gemeinwohl ausgerichtet ist.

FRANZISKA M. POSZLER: RESEARCH-BASED THEATER: AN INNOVATIVE METHOD FOR COMMUNICATING AND CO-SHAPING AI ETHICS RESEARCH & DEVELOPMENT

Dieses Projekt wird einen kreativen Ansatz für die Durchführung, Aufklärung und Vermittlung von KI-Ethikforschung durch die Brille der Kunst (d. h. forschungsbasiertes Theater) umsetzen. Der Kerngedanke ist die Durchführung von qualitativen Interviews und Nutzerstudien zu den Auswirkungen von KI-Systemen auf die menschliche ethische Entscheidungsfindung. Dabei geht es insbesondere darum, die potenziellen Chancen und Risiken des Einsatzes dieser Systeme als Hilfsmittel für ethische Entscheidungen zu erforschen, ebenso wie ihre breiteren gesellschaftlichen Auswirkungen und empfohlenen Systemanforderungen. Die gewonnenen wissenschaftlichen Erkenntnisse werden in ein Theaterskript und eine (immersive) Aufführung umgesetzt. Diese Aufführung soll die Zivilgesellschaft auf ansprechende Weise über aktuelle Forschungsergebnisse aufklären und gemeinsame Diskussionen (z. B. über notwendige und bevorzugte Systemanforderungen oder -beschränkungen) ermöglichen. Die Erkenntnisse aus diesen Diskussionen sollen wiederum die wissenschaftliche Gemeinschaft informieren und so eine menschenzentrierte Entwicklung und Nutzung von KI-Systemen als moralische Dialogpartner oder Berater erleichtern. Insgesamt soll dieses Projekt als Proof-of-Concept für innovative Lehre, Wissenschaftskommunikation und Co-Design in der KI-Ethikforschung dienen und den Grundstein für ähnliche Projekte in der Zukunft legen.

Weitere Informationen über das Projekt finden Sie hier: https://www.ieai.sot.tum.de/research/moralplai/

MALTE TOETZKE: DEVELOPING THE GOOGLE MAPS FOR THE CLIMATE TRANSITION

Ich stelle mir vor, Google Maps für den Klimawandel zu entwickeln. Wirtschaftsführer und politische Entscheidungsträger brauchen umfassendere und zeitnahe Erkenntnisse, um die industrielle Entwicklung von Klimatechnologien wirksam zu beschleunigen. Dank der jüngsten Fortschritte im Bereich der künstlichen Intelligenz (KI) ist es nun möglich, Modelle zu entwickeln, die solche Erkenntnisse in großem Maßstab und nahezu in Echtzeit generieren. Im Rahmen des Projekts werde ich das globale Netzwerk von Organisationen analysieren, die im Bereich der Klimatechnologie-Innovation zusammenarbeiten. Das Netzwerk basiert auf der Verarbeitung der Social-Media-Posts von Organisationen mittels großer Sprachmodelle (LLMs). Es umfasst wichtige öffentliche und private Akteure und erstreckt sich auf verschiedene Arten von Klimatechnologien (z. B. Solar, Wasserstoff, Elektrofahrzeuge) und Arten von Kooperationen (F&E-Kooperationen, Demonstrationsprojekte, Kapitalbeteiligungen). Ich werde das Stipendium nutzen, um eingehende Analysen durchzuführen, die Managern und politischen Entscheidungsträgern wertvolle Erkenntnisse zur Förderung von Innovationsclustern liefern. Außerdem plane ich, die Informationsbeschaffung und -verarbeitung zu operationalisieren, um Analysen in Echtzeit zu ermöglichen.

CHIARA ULLSTEIN: PARTICIPATORY AUDITING (IN COOPERATION WITH AUDIT.EU)

Das EU-KI-Gesetz sieht vor, dass Anbieter (Management und Entwickler) von KI-Systemen mit hohem Risiko einer Konformitätsbewertung unterzogen werden müssen. Die Konformitätsbewertung umfasst mehrere Maßnahmen, die bestätigen sollen, dass ein System rechtskonform, technisch robust und ethisch einwandfrei ist und als "vertrauenswürdige KI" betrachtet werden kann. Das Projekt "Partizipatives Auditing" soll einen Beitrag zum Projekt Audit.EU leisten, indem es (1) untersucht, wie Unternehmen ihre Erkenntnisse aus etablierten Compliance-Praktiken, z. B. für die DSGVO, nutzen können, und (2) indem es Partizipation als Ansatz vorschlägt, um für die Einhaltung des KI-Gesetzes relevante Informationen von geeigneten Stakeholdern zu erhalten, um die Inklusivität zu erhöhen und Diskriminierungsrisiken zu mindern. Es wird davon ausgegangen, dass die Beteiligung den Prozess der Einhaltung der Vorschriften durch einen umfassenden Test- und Feedbackprozess verbessert. Auf der Grundlage der Erfahrungen mit etablierten Compliance-Maßnahmen wird ein Rahmen für die Durchführung von Audits auf partizipative Weise und in Übereinstimmung mit dem EU AI Act entwickelt und evaluiert. Das primäre Ziel des Frameworks ist es, Entwicklerteams als Leitfaden zu dienen.

NIKLAS WAIS: LAW & AI: NAVIGATING THE INTERSECTION

Die meisten Rechtsgebiete, die prinzipiell für KI relevant sind, lassen derzeit viele übergreifende Fragen unbeantwortet. Der Grund für diese offenen Fragen liegt darin, dass die Rechtswissenschaft ihrer Aufgabe, KI in die bestehende Dogmatik einzubinden, nicht nachkommen kann, weil es ihr an ausreichendem technologischen Verständnis fehlt. Gleichzeitig mangelt es den Entwicklern an Rechtskenntnissen, so dass sie sich bei ihren Designentscheidungen nur an der Leistung orientieren, nicht aber an der Einhaltung z.B. des Datenschutzes oder des Antidiskriminierungsrechts. Obwohl Studierende mit unterschiedlichem beruflichem Hintergrund mehr über die zugrundeliegenden Schnittstellenprobleme erfahren wollen, fehlt es an wirklich interdisziplinärem Lehrmaterial. Mein Projekt wird hier ansetzen und die seltene Fachexpertise, die es derzeit nur an der TUM gibt, in einen frei verfügbaren Online-Kurs überführen. Durch die Förderung der interdisziplinären Zusammenarbeit zwischen Recht und Technik und die möglichst effektive Weitergabe von Spitzenwissen soll das Projekt den verantwortungsvollen Einsatz von KI zum Nutzen der Gesellschaft fördern.