Cheng​ Yu​

lab member

Cheng Yu ist Masterstudentin im Studiengang Risk and Safety an der Technischen Universität München (TUM) und dem Civic Machines Lab zugeordnet. Ihre Forschung untersucht die Sicherheitsimplikationen generativer KI, insbesondere Retrieval-Augmented Generation (RAG) sowie das Entstehen von Bias und schädlichem Verhalten bei Web-Interaktionen von KI-Agenten. Sie interessiert sich besonders dafür, wie der Zugriff auf externe Wissensquellen die Alignment-Eigenschaften von KI beeinflusst und wie Bewertungsrahmen für verantwortungsvolles KI-Verhalten in realen Anwendungen entwickelt werden können. Mit ihrem interdisziplinären Hintergrund möchte Cheng dazu beitragen, KI-Systeme zu gestalten, die nicht nur leistungsstark, sondern auch transparent, robust und ethisch ausgerichtet sind.

Projekte

The Civic Machines Lab explores the full lifecycle of artificial intelligence, from the semiconductors powering computation to the algorithms shaping human experience.
Situated within the TUM Think Tank, the lab views AI as a socio-technical system rather than a purely technical challenge.
By integrating perspectives from computer science, social sciences, and public policy, the Civic Machines Lab aims to shape technologies that are democratic, sustainable, and globally inclusive.

Lab