Der aktuelle Stand der KI-Governance und -Politik in Europa

Am Freitag, den 23. Juni 2023, nahmen Mitglieder der Generative AI Taskforce an einem Arbeitstreffen teil, das von der Electronic Transactions Development Agency (ETDA) in Thailand organisiert wurde. Ein Schwerpunkt des Treffens war es, mehr über den europäischen Ansatz zur KI-Governance zu erfahren und insbesondere das EU-KI-Gesetz (AIA) unter die Lupe zu nehmen und zu untersuchen, wie Europa mit dem Aufstieg der generativen KI umgeht. Christian Djeffal, Assistenzprofessor für Recht, Wissenschaft und Technologie und Mitglied unserer Gen AI Taskforce, gab einen Beitrag zu diesem Thema. In diesem Blogartikel teilt er seine wichtigsten Erkenntnisse mit.

Der AI-Act der Europäischen Union könnte als wirksamer Balanceakt zwischen Risikoregulierung und Innovationsförderung dienen. Das Rezept für ein ideales Gleichgewicht beinhaltet meiner Meinung nach:

• Beibehaltung des schlanken, klaren Ansatzes des AI Acts und Vermeidung einer Überregulierung zu vieler Themen durch dieses Gesetz. Es ist erwähnenswert, dass klare Regeln Innovationen begünstigen können, indem sie Haftungsrisiken minimieren und es auch kleineren Unternehmen ermöglichen, sich in riskante Bereiche vorzuwagen.
• Es ist unbestreitbar, dass die Regulierung den Entwicklern Kosten auferlegt. Es gibt jedoch zahlreiche Strategien zur Verringerung dieser Kosten. Die Einrichtung von Infrastrukturen für die Rechtsberatung und die Organisation von Wissen könnte sich als unschätzbar wertvoll erweisen, insbesondere für Neugründungen.
• Durch die Einführung von Rahmenwerken wie verantwortungsvolle Forschung, menschenzentrierte Technik und integrierte Forschung kann die rechtliche Regulierung als integraler Bestandteil des Innovationsprozesses betrachtet werden. Diese Denkweise ermöglicht es Entwicklern, rechtliche, ethische und gesellschaftliche Überlegungen frühzeitig einzubeziehen, ihre Produkte zu verbessern und potenzielle Herausforderungen in Chancen zu verwandeln.

Daher hat das KI-Gesetz mit seiner Mischung aus einem breit angelegten Rahmen und sektorspezifischen Vorschriften und Durchsetzung durchaus Potenzial. Es sind jedoch die Feinheiten, die verfeinert werden müssen, damit es sich wirklich durchsetzen kann. Ein Hauptaugenmerk sollte auf der Verfeinerung der Definition des Hochrisikosystems liegen. So sind beispielsweise die derzeitigen Umrisse in Annex III so weit gefasst, dass sie Anwendungen einschließen könnten, die die Hochrisikokriterien kaum erfüllen.

Vor diesem Hintergrund bergen KI-Sandkästen ein großes Potenzial und dienen als Nährboden für Innovationen und als praktisches Instrument für regulatorisches Lernen. Bei den aktuellen Vorschlägen rund um das KI-Gesetz geht es vor allem um die Etablierung allgemeiner Strukturen sowie um die Koordination und Kooperation zwischen den Mitgliedsstaaten. Der Erfolg dieser Sandkästen hängt in hohem Maße von ihrer effektiven Einführung durch diese Staaten ab. Interessanterweise könnten andere europäische Rechtsentwicklungen wie der Data Governance Act - der den geschützten Austausch von Daten ermöglicht - die Sandboxen auf ein völlig neues Niveau heben, da sie auch den Austausch von Daten unter dem Schutz des Datenschutzes oder des Rechts des geistigen Eigentums ermöglichen würden.

Wenn ich mir in Bezug auf das KI-Gesetz etwas wünschen dürfte, würde ich mir mehr partizipative Elemente wünschen, insbesondere beim Risikomanagement. Die Einbindung von Nutzern und Bürgern in die Identifizierung und Abschwächung von Risiken ist von entscheidender Bedeutung. Daher wäre es vorteilhaft, solche Praktiken "gegebenenfalls" einzubeziehen. Entsprechende Bestimmungen gibt es bereits in der Allgemeinen Datenschutzverordnung und im Gesetz über digitale Dienste. Es ist ein Trugschluss zu glauben, dass nur Unternehmen, Compliance-Abteilungen und Stellen, die für algorithmische Bewertungen zuständig sind, die gesellschaftlichen Auswirkungen neuer Systeme vollständig verstehen können.