Cheng​ Yu​

lab member

Cheng Yu ist Masterstudentin im Studiengang Risk and Safety an der Technischen Universität München (TUM) und dem Civic Machines Lab zugeordnet. Ihre Forschung untersucht die Sicherheitsimplikationen generativer KI, insbesondere Retrieval-Augmented Generation (RAG) sowie das Entstehen von Bias und schädlichem Verhalten bei Web-Interaktionen von KI-Agenten. Sie interessiert sich besonders dafür, wie der Zugriff auf externe Wissensquellen die Alignment-Eigenschaften von KI beeinflusst und wie Bewertungsrahmen für verantwortungsvolles KI-Verhalten in realen Anwendungen entwickelt werden können. Mit ihrem interdisziplinären Hintergrund möchte Cheng dazu beitragen, KI-Systeme zu gestalten, die nicht nur leistungsstark, sondern auch transparent, robust und ethisch ausgerichtet sind.

Projekte

The Civic Machines Lab explores the full lifecycle of artificial intelligence, from the semiconductors powering computation to the algorithms shaping human experience.
Situated within the TUM Think Tank, the lab views AI as a socio-technical system rather than a purely technical challenge.
By integrating perspectives from computer science, social sciences, and public policy, the Civic Machines Lab aims to shape technologies that are democratic, sustainable, and globally inclusive.

Lab

Innovation in nachhaltige Veränderung umsetzen

In Zusammenarbeit mit dem Global Innovation Team des WWF und dem Innovation for Impact Network (IFIN) entwickelt das Civic Machines Lab ein validiertes Rahmenkonzept und ein KI-gestütztes Coaching-Tool, um Projektteams von Nichtregierungsorganisationen dabei zu unterstützen, Innovationen effektiver zu konzipieren, zu skalieren und zu messen.

Projekt

Öffentliche Werte im Zeitalter personalisierter Nachrichten

Ein gemeinsames Forschungsprojekt des Civic Machines Lab der Queensland University of Technology, des Bayerischen Rundfunks und der Australian Broadcasting Corporation.

Projekt