Chiara Ullstein

Partizipatives Auditing (in Zusammenarbeit mit Audit.EU)

Das EU-KI-Gesetz sieht vor, dass Anbieter (Management und Entwickler) von KI-Systemen mit hohem Risiko einer Konformitätsbewertung unterzogen werden müssen. Die Konformitätsbewertung umfasst mehrere Maßnahmen, die bestätigen sollen, dass ein System rechtskonform, technisch robust und ethisch einwandfrei ist und als „vertrauenswürdige KI“ betrachtet werden kann. Das Projekt „Partizipatives Auditing“ soll einen Beitrag zum Projekt Audit.EU leisten, indem es (1) untersucht, wie Unternehmen ihre Erkenntnisse aus etablierten Compliance-Praktiken, z. B. für die DSGVO, nutzen können, und (2) indem es Partizipation als einen Ansatz vorschlägt, um für die Einhaltung des KI-Gesetzes relevante Informationen von geeigneten Stakeholdern zu erhalten, um die Inklusivität zu erhöhen und Diskriminierungsrisiken zu mindern. Es wird davon ausgegangen, dass die Beteiligung den Prozess der Einhaltung der Vorschriften durch einen umfassenden Test- und Feedbackprozess verbessert. Auf der Grundlage der Erfahrungen mit etablierten Maßnahmen zur Einhaltung der Vorschriften wird ein Rahmen für die Durchführung von Audits auf partizipative Weise und in Übereinstimmung mit dem EU AI-Gesetz entwickelt und evaluiert. Das primäre Ziel des Rahmens ist es, Entwicklerteams als Leitfaden zu dienen.