Regulierung digitaler Schäden ohne Grenzen

Sandboxes als Instrumente für Experimente, gemeinsame Innovation und regulatorisches Lernen

Auf der Grundlage des Policy Briefs des TUM Think Tanks zu KI-Sandboxen und einer kürzlich bei „Privacy Laws & Business“ veröffentlichten Analyse untersuchte Andras, wann und wie regulatorische Sandboxen als echte Governance-Instrumente fungieren. In der aktuellen internationalen Praxis lassen sich drei Logiken erkennen: Einhaltung regulatorischer Vorgaben (EU-KI-Gesetz, britische ICO); Aufbau institutioneller Kapazitäten (Zentralamerika-Initiative der ITU, Kanton Zürich); sowie rechtsbasiertes Co-Design, veranschaulicht durch den Fokus der COR-Sandbox auf Rechtsbehelfe für Kinder im Internet. Die wiederkehrende Erkenntnis: Der Lernansatz, der Sandboxen als Governance-Instrumente auszeichnet, ist der Aspekt, der am systematischsten unterbelichtet ist und am stärksten Gefahr läuft, von den dringlicheren Anforderungen der Innovationsförderung verdrängt zu werden. Wirksame Sandboxen erfordern klare Ausstiegskriterien und eine benannte Behörde, die dafür verantwortlich ist, die Ergebnisse in regulatorische Maßnahmen umzusetzen.

Digitale Sicherheit in sozialen Medien erfordert einen gesamtgesellschaftlichen Ansatz

Inhaltsmoderation und „Safety by Design“-Tools werden immer ausgereifter. Die größere Herausforderung besteht darin, schädliche Inhalte grenzüberschreitend zu bekämpfen, wo nationale Gesetze, kulturelle Normen und die Perspektiven der Opfer aufeinanderprallen können. Andras stützte sich auf den Bericht Frontiers in Digital Child Safety Bericht (der gemeinsam mit dem Berkman Klein Center der Harvard University erarbeitet wurde) sowie auf die Arbeiten der OECD zum Thema „Safety by Design“, um zu argumentieren, dass Altersüberprüfung, datenschutzfreundliche Standardeinstellungen, zugängliche Rechtsbehelfsmechanismen und eine echte Beteiligung von Kindern an der Gestaltung digitaler Dienste keine optionalen Merkmale sind. Sie sind vielmehr das, was eine proaktive, kindzentrierte Sicherheit tatsächlich erfordert.

Safety by Co-Design Jam

Andras leitete gemeinsam mit Ioanna Noula und der „Child Online Redress (COR) Sandbox“ einen partizipativen Workshop, bei dem er direkt mit jugendlichen Teilnehmenden aus Griechenland, Irland und Frankreich an der gemeinsamen Gestaltung von Konzepten für digitale Sicherheit arbeitete. Ein Grundprinzip, das sich durch die gesamte Arbeit des TUM-Think-Tanks zieht, fand hier seinen direktesten Ausdruck: Die Menschen, die am stärksten von digitalen Systemen betroffen sind, sollten eine maßgebliche Rolle bei deren Gestaltung spielen.

Wichtige Erkenntnisse

1. Sandboxes sind kein einheitliches Instrument. Die wissenschaftliche Literatur unterscheidet mindestens zwei unterschiedliche Logiken, die ihre Gestaltung prägen: Innovationsförderung, bei der Geschwindigkeit und Marktzugang im Vordergrund stehen, und regulatorisches Lernen, bei dem die Qualität der Evidenz und institutionelle Beständigkeit Priorität haben. Eine Vermischung dieser beiden Logiken führt zu schlecht abgestimmten Steuerungsinstrumenten. In der Praxis legt die erste Logik den Schwerpunkt auf Geschwindigkeit und Marktzugang, die zweite auf die Qualität der Evidenz und institutionelle Beständigkeit.
2. Der Schutz von Kindern im digitalen Umfeld erfordert „Safety by Design“ und keine standardmäßigen Einschränkungen. Die bloße Kennzeichnung eines Dienstes als „nicht für Kinder geeignet“ stellt keine Schutzmaßnahme dar. Maßnahmen im Sinne von „Safety by Design“, wie Altersüberprüfung, kindgerechtes Design, datenschutzfreundliche Standardeinstellungen und zugängliche Rechtsbehelfsmechanismen, müssen von Anfang an integriert werden.
3. Die Menschen, die am stärksten von digitalen Systemen betroffen sind, sollten an deren Gestaltung mitwirken. Sowohl im Sandbox-Gremium als auch im Co-Design-Workshop zeigte sich, dass eine sinnvolle Beteiligung der Interessengruppen – einschließlich von Kindern und Jugendlichen – nicht nur eine verfahrenstechnische Formalität ist, sondern eine wesentliche Voraussetzung für eine wirksame und legitime Steuerung darstellt.
4. Regulierungslernen erfordert Strukturen der Rechenschaftspflicht. Sandboxen bergen das inhärente Risiko, dass Regulierungsentscheidungen unter dem Deckmantel fortlaufender Experimente dauerhaft aufgeschoben werden. Ohne eine benannte Rechenschaftspflicht für die Umsetzung der Erkenntnisse in regulatorische Maßnahmen wird das Experimentieren zu einem Ersatz für Governance statt zu einem Beitrag dazu.
5. Kein einzelner Akteur kann digitale Schäden allein bewältigen. Die das Forum prägende Überzeugung, die in jeder Sitzung bekräftigt wurde, lautet, dass sektorübergreifende, grenzüberschreitende und interdisziplinäre Zusammenarbeit keine Präferenz, sondern eine strukturelle Voraussetzung für die Bewältigung von Schäden ist, die institutionelle oder nationale Grenzen nicht respektieren.

Wir freuen uns darauf, zu weiteren Gesprächen über digitale Sicherheit und Sandboxen beizutragen und gemeinsam mit den Interessengruppen in diesen Bereichen effiziente Governance-Strukturen zu gestalten.