Einblicke in den EU AI Act

Wir haben Mitglieder unserer Community nach ihren Einschätzungen zum AI Act gefragt. Das ist ihre Sicht:

Samson Esaias: Associate Professor of Law an der BI Norwegian Business School, Faculty Associate am Berkman Klein Center of Internet and Society an der Harvard University 

„Seit dem Vorschlag der Europäischen Kommission im April 2021 hat sich innerhalb der EU-Gesetzgebungsorgane ein Konsens über einen risikobasierten Ansatz zur Regulierung von KI herausgebildet – ergänzt durch innovationsfördernde Maßnahmen wie Regulatory Sandboxes. Die Debatten konzentrierten sich auf sensible Themen wie die biometrische Identifizierung zu Strafverfolgungszwecken und die Regulierung von General Purpose AI (GPAI).

Das Europäische Parlament setzte sich für stärkere Grundrechtsschutzmechanismen ein, während der Rat für weitreichendere Ausnahmen bei der Nutzung biometrischer Identifizierung durch Strafverfolgungsbehördenplädierte. Der Vorschlag des Parlaments zur Regulierung von GPAI stieß ebenfalls auf Widerstand des Rates – teilweise, weil er sich auf die Technologie selbst statt auf die damit verbundenen Risiken konzentriert.

Trotzdem scheint das Parlament laut den Pressemitteilungen wichtige Erfolge erzielt zu haben, darunter Verbote der biometrischen Identifizierung mit sensiblen Daten, das Scraping von Internetfotos zur Gesichtserkennung, Beschränkungen für Predictive Policing sowie verpflichtende Grundrechts-Folgenabschätzungen für Hochrisikosysteme.

Ebenso enthält der jüngste Entwurf – trotz Widerstands einiger Mitgliedstaaten – wichtige Verpflichtungen für GPAI und systemische Basismodelle, auch wenn die Kriterien für Letztere möglicherweise zu streng sind.

Der Fokus auf die GPAI-Regulierung, die im ursprünglichen Kommissionsentwurf noch fehlte, verdeutlicht den Wandel der Prioritäten in den letzten zwei Jahren. Die entscheidende Frage bleibt, ob diese Ergänzungen in zwei Jahren – wenn das Gesetz in Kraft tritt – noch relevant sein werden, oder ob sie bereits dann einen Neubeginn in der Regulierung schnell entwickelnder Technologien erforderlich machen.“

Urs Gasser: Professor für Public Policy, Governance and Innovative Technology, Rektor der Hochschule für Politik (HfP) und Dekan der TUM School of Social Sciences and Technology, Leiter der TUM Generative AI Taskforce

„Die Einigung über den AI Act stellt einen wichtigen Meilenstein dar. Vor allem ist sie ein kraftvolles politisches Signal an die internationale Gemeinschaft: Die EU-Gesetzgebungsorgane sind handlungsfähig und in der Lage, sinnvolle Leitplanken in einem komplexen und dynamischen normativen Feld zu setzen – mit Menschenrechten und demokratischen Werten als Orientierungspunkten.

Ob der AI Act als komplexes rechtliches und regulatorisches Instrument – das mitunter einem Rorschach-Test gleicht – den hohen Erwartungen seiner Befürworter gerecht werden kann, bleibt abzuwarten.

KI-Governance als normatives Feld ist mit vielen Unbekannten verbunden. Vielleicht besteht die größte Herausforderung darin, kontinuierlich zu lernen und sowohl rechtliche Pfadabhängigkeiten als auch ungewollte Nebenfolgen zu steuern – Phänomene, die nach den Lehren der jüngeren Geschichte an der Schnittstelle von Recht, Technologie und Gesellschaft häufig auftreten.“

Noha Lea Halim:Doktorandin und wissenschaftliche Mitarbeiterin am Lehrstuhl für Governance, Public Policy & Innovative Technologies an der TUM School of Governance, sowie Assistentin der TUM Generative AI Taskforce

„Mit der Einigung über den AI Act legt die EU einen globalen Referenzrahmen vor – den bislang ambitioniertesten Regulierungsansatz im Bereich Künstliche Intelligenz. Indem sie anerkennt, dass es nicht nur um die ökonomischen, sondern auch um die gesellschaftlichen Auswirkungen von KI geht, setzt sie den Ton dafür, wie sich KI in Zukunft entfalten könnte, und hat weitreichende Folgen für Forschung und Entwicklung von KI-Systemen – in Europa und darüber hinaus.

Die 12- bis 24-monatige Umsetzungsphase wird einen ersten Einblick geben, inwieweit die Verordnung langfristig in der Lage ist, sich an das disruptive Potenzial der Technologie anzupassen – ebenso wie in die Fähigkeit der EU, die notwendigen Strukturen aufzubauen, um den Vorschlag mit Leben zu füllen.

Dieser bahnbrechende Vorschlag markiert jedoch erst den Beginn der Auseinandersetzung mit den zukünftigen Herausforderungen der KI – viele weitere werden folgen.“

Timo Minssen: Professor für Rechtswissenschaften, Direktor des CeBIL an der Universität Kopenhagen und Global Visiting Professor an der TUM im Frühjahr 2024

„Trotz aller verbleibenden Kontroversen war es entscheidend, eine Einigung über den EU AI Act zu erzielen – denn jetzt ist der Zeitpunkt, um zu entscheiden, wo reguliert werden soll (oder nicht). KI entwickelt sich in rasantem Tempo und wird bereits heute täglich von Millionen Menschen in unterschiedlichsten Lebensbereichen genutzt. Die Chancen und Risiken sind gleichermaßen real, und wir müssen sie schnell und gezielt adressieren, wenn wir diese Technologie auf nachhaltige, sichere und faire Weise gestalten wollen.

Angesichts der Komplexität des Themas und der notwendigen Abwägungen waren die Verzögerungen während der Verhandlungen kaum überraschend. Viele der restriktiveren Bestimmungen des AI Act scheinen im Laufe der Zeit abgeschwächt worden zu sein – vor allem aufgrund von Industrieinteressen und Wettbewerbsbedenken wurden regulatorische Schwellen gesenkt und wertbasierte Grenzen zunehmend gedehnt. Ähnliche Entwicklungen lassen sich auch in anderen Ländern beobachten – etwa in den chinesischen Zwischenregelungen zu generativer KI, aber auch in westlichen Staaten wie den USA und dem Vereinigten Königreich.

Diese veränderten politischen Perspektiven verdeutlichen, wie KI unsere traditionellen Werte und Konzepte herausfordert – und welch enorme Tragweite die anstehende Aufgabe hat. Die Auswirkungen betreffen nicht nur Unternehmen, Industrie, Innovation und das Wissensökosystem, sondern auch den Zugang und Schutz des Einzelnen gegenüber mächtigen Technologien. Forderungen nach Verboten oder stärkerer Regulierung bestimmter Anwendungen in der EU aus ethischen oder rechtlichen Vorsichtsgründen müssen sorgfältig gegen Wettbewerbsnachteile oder gesundheitliche Risiken durch verpasste Chancen abgewogen werden. Daher ist anzunehmen, dass die Bedeutung von sogenannten Regulatory Sandboxes weiter zunehmen wird – auch wenn dieses Konzept noch weiter präzisiert werden muss.

Zugleich scheint mir, dass der AI Act – bei aller Betonung des Schutzes von Grundrechten und Werten – mit seinem risikobasierten Ansatz im Allgemeinen eine Haltung verfolgt, die sich als „so offen wie möglich, so geschlossen (reguliert) wie nötig“ beschreiben lässt. Insbesondere für niedrigriskante KI-Systeme könnte das gute Nachrichten für Innovatoren und KMU sein, auch wenn manche sich noch weniger Regulierung gewünscht hätten. Umgekehrt hätten Risiko-orientierte Akteure oder große Unternehmen mit umfangreichen IP-Portfolios und Compliance-Abteilungen womöglich ein Modell bevorzugt, das „so geschlossen wie möglich, so offen wie nötig“ ist – sei es, um Risiken oder schlicht neue Konkurrenz zu vermeiden.

Wichtig ist außerdem, dass sich die derzeitigen Debatten vor allem auf grundsätzliche Regelungen beziehen. Entscheidend ist letztlich, wie diese Regeln in der Praxis umgesetzt werden, ob sie durchsetzbar und realistisch sind und ob ihre Einhaltung überwacht werden kann. Wenn die Wahl besteht zwischen einem Dschungel aus übermäßig detaillierten Vorschriften ohne effektive Durchsetzung und einem schlanken, aber robusten und durchsetzbaren Regelwerk, ziehe ich eindeutig Letzteres vor – denn nur so lässt sich Respekt vor dem Recht stärken.“ 
 

Armando Guio Espanol:  Affiliate am Berkman Klein Center for Internet & Society der Harvard University

„Der EU AI Act ist eine Regulierung, die nicht nur Europa, sondern die ganze Welt beeinflussen wird. Seine Verabschiedung wird viele Länder dazu bewegen, eigene Regeln für die Entwicklung und Anwendung dieser Technologie festzulegen. Entscheidend wird sein, die Arbeiten der kommenden Monate und den Umsetzungsprozess innerhalb der EU genau zu verfolgen.

Im Jahr 2024 werden wir beobachten, dass mehrere Länder Europa folgen und neue Regulierungen für KI-Systemeoffiziell verabschieden. So diskutieren derzeit mehrere lateinamerikanische Staaten über entsprechende Gesetzesvorschläge. Der EU AI Act wird eine wichtige Rolle dabei spielen, viele dieser Debatten anzustoßen und zu beschleunigen.

Ebenso spannend wird es sein zu sehen, wie diese zunehmende politische Fragmentierung die Nutzung und Verbreitung von KI-Technologien beeinflusst – und wie einige der größten Unternehmen auf diesen Prozess reagieren werden.“

Dirk Heckmann:  Professor für Rechtswissenschaften an der TUM School of Social Sciences and Technology, Direktor von bidt.digital, Mitglied der Generative AI Taskforce

„Ob der AI Act sich als wirksames Regulierungsinstrument für Künstliche Intelligenz erweisen wird, wird sich erst in der rechtlichen Praxis zeigen. Politische Zufriedenheit ersetzt keine Rechtssicherheit.“