Chiara Ullstein

friedrich schiedel fellow

Partizipatives Auditing (in Zusammenarbeit mit Audit.EU)

Das EU-KI-Gesetz sieht vor, dass Anbieter (Management und Entwickler) von KI-Systemen mit hohem Risiko einer Konformitätsbewertung unterzogen werden müssen. Die Konformitätsbewertung umfasst mehrere Maßnahmen, die bestätigen sollen, dass ein System rechtskonform, technisch robust und ethisch einwandfrei ist und als „vertrauenswürdige KI“ betrachtet werden kann. Das Projekt „Partizipatives Auditing“ soll einen Beitrag zum Projekt Audit.EU leisten, indem es (1) untersucht, wie Unternehmen ihre Erkenntnisse aus etablierten Compliance-Praktiken, z. B. für die DSGVO, nutzen können, und (2) indem es Partizipation als einen Ansatz vorschlägt, um für die Einhaltung des KI-Gesetzes relevante Informationen von geeigneten Stakeholdern zu erhalten, um die Inklusivität zu erhöhen und Diskriminierungsrisiken zu mindern. Es wird davon ausgegangen, dass die Beteiligung den Prozess der Einhaltung der Vorschriften durch einen umfassenden Test- und Feedbackprozess verbessert. Auf der Grundlage der Erfahrungen mit etablierten Maßnahmen zur Einhaltung der Vorschriften wird ein Rahmen für die Durchführung von Audits auf partizipative Weise und in Übereinstimmung mit dem EU AI-Gesetz entwickelt und evaluiert. Das primäre Ziel des Rahmens ist es, Entwicklerteams als Leitfaden zu dienen.

Projekte

Das Civic Machines Lab erforscht KI als sozio-technisches System und gestaltet demokratische und integrative Technologien vom Chip bis zum Code.

Lab

Jenseits traditioneller Fachgrenzen begleitet das Friedrich Schiedel Fellowship Fellows mit vielfältigen Hintergründen, die sich der Lösung gesellschaftlicher Herausforderungen widmen und Ansätze zum Wohle der Allgemeinheit entwickeln möchten.

Fellowship

Outputs

  • Discussion Paper

    Neubewertung der Ethik und Nachhaltigkeit von Halbleitern

    Erkenntnisse aus einem zweitägigen interdisziplinären Workshop, veranstaltet vom Civic Machines Lab

    10. Dez 2025