Output / Publikation
Eine Frage des Designs
Wie digitale Umgebungen die Sicherheit, Selbstbestimmung und das Wohlbefinden von Kindern fördern können
Report zu digitaler Sicherheit von Kindern und Jugendlichen
Die jüngsten Urteile in den USA gegen Meta und YouTube markieren einen Wendepunkt in unserer Denkweise über die digitale Kindersicherheit. Zum ersten Mal machten US-Gerichte Plattformen nicht für die Inhalte haftbar, die auf ihren Diensten erschienen, sondern dafür, wie diese Dienste gebaut wurden: Designentscheidungen, die Schäden für Kinder vorhersehbar machten. Gerichte sanktionierten Funktionen, die als suchtfördernd, unsicher oder unzureichend schützend angesehen wurden. Die rechtliche Begründung ist bedeutsam: Wenn schädliches Design bestraft werden kann, ist besseres Design möglich.
Diese Frage – wie besseres Plattformdesign tatsächlich aussehen könnte – steht im Mittelpunkt eines neuen Artikels, der in Science von den TUM-Professor:innen und TUM Think Tank Lab-PIs Sandra Cortesi und Urs Gasser veröffentlicht wurde. Basierend auf den Erkenntnissen der einjährigen Expertengruppe Frontiers in Digital Child Safety identifiziert der Beitrag vier Designansätze, die die Rechte, Selbstbestimmung und das Wohlbefinden von Kindern fördern.
Jenseits der Verbotsdebatte
“Wir sprechen uns nicht per se gegen Regulierung aus, gesetzliche Vorgaben sind unverzichtbar. Allerdings sind wir der Ansicht, dass die Politik mehr tun sollte als rote Linien zu ziehen. Vielmehr sollte sie die Anbieter verpflichten, ihre Plattformen und Produkte kindgerecht zu gestalten. Das ist anspruchsvoller als ein pauschales Verbot, aber auch vielversprechender. Denn wir wollen ja eigentlich, dass Kinder und Jugendliche lernen können, die Medien selbstbestimmt und mit einer für sie positiven Wirkung einzusetzen.”
- Urs Gasser, Co-Autor
Forschung aus Psychologie, Erziehungswissenschaft und Informatik zeigt, dass pauschale Einschränkungen kaum wirksam sind, häufig das Vertrauen von Kindern untergraben und wenig dazu beitragen, junge Menschen auf das digitale Leben vorzubereiten. Breite Verbote nivellieren zudem wichtige Unterschiede zwischen Altersgruppen, Entwicklungsstufen und Risikoarten. Ein wirksamerer Ansatz verbindet rechtlichen und regulatorischen Druck mit Designstrategien, die die Umgebungen verbessern, in denen sich Kinder bewegen.
Vier Designansätze
Gestützt auf den einjährigen Expertenprozess im Rahmen des Projekts Frontiers in Digital Child Safety, an dem mehr als 40 Forschende, Kinderrechtsaktivist:innen und Praktiker:innen mitwirkten – koordiniert vom TUM Think Tank, dem Berkman Klein Center der Harvard University und der Universität Zürich – identifizieren Cortesi und Gasser vier konkrete und sich ergänzende Designansätze.
Vertrauen und schrittweise Autonomie gestalten
One of the clearest lessons from evidence is that trust provides a more durable foundation for child safety than control. Surveillance tools and unilateral restrictions may reassure adults, but they erode children's trust and drive technology use underground. Collaborative approaches, where caregivers and children jointly adjust privacy and usage settings, foster open communication and greater adherence. And as children mature, systems should expand responsibility and freedom rather than impose the same restrictions across all ages.
Eine der deutlichsten Erkenntnisse aus der Forschung ist, dass Vertrauen eine dauerhaftere Grundlage für Kindersicherheit bietet als Kontrolle. Überwachungswerkzeuge und einseitige Einschränkungen mögen Erwachsene beruhigen, untergraben jedoch das Vertrauen von Kindern und drängen die Technologienutzung in den Untergrund. Kollaborative Ansätze, bei denen Betreuende und Kinder gemeinsam Datenschutz- und Nutzungseinstellungen anpassen, fördern offene Kommunikation und größere Akzeptanz. Wenn Kinder heranwachsen, sollten die Systeme ihnen mehr Verantwortung und Freiheit einräumen, anstatt für alle Altersgruppen dieselben Einschränkungen vorzuschreiben.
Wege zur Hilfesuche und Meldung schaffen
Selbst wenn Kinder im digitalen Umfeld ernsthaften Gefahren ausgesetzt sind ,von Cybermobbing bis hin zu Grooming, schweigen viele. Die Angst vor Strafe, Scham oder dem Gefühl, nicht ernst genommen zu werden, hält sie oft davon ab, sich an Erwachsene zu wenden, wenn Unterstützung am dringendsten benötigt wird. Anonyme Meldemöglichkeiten fördern die Anzeige von Vorfällen, dabei sind einfache, mehrsprachige Benutzeroberflächen effektiver als komplexe. Suchen Gleichaltrige Hilfe, ist die Wahrscheinlichkeit größer, dass andere ihrem Beispiel folgen. Durch geeignetes Design kann die Suche nach Hilfe zu einer Routinehandlung werden und ist nicht mehr nur der letzte Ausweg.
Selbst wenn Kinder im digitalen Raum ernsthaften Risiken ausgesetzt sind, von Cybermobbing bis hin zu Grooming, schweigen viele. Angst vor Strafe, Scham oder der Sorge, nicht geglaubt zu werden, hält sie oft davon ab, sich in den Momenten an Erwachsene zu wenden, in denen Unterstützung am dringendsten gebraucht wird. Anonyme Meldetools erhöhen die Bereitschaft zur Offenlegung, und einfache, mehrsprachige Oberflächen schneiden besser ab als komplexe. Und wenn Gleichaltrige Hilfe suchen, folgen andere eher. Design kann die Hilfesuche zu einer selbstverständlichen Reaktion machen und nicht zum letzten Ausweg.
On-Device-Unterstützung: Leitplanken und Anregungen in Echtzeit
Risiken treten oft spontan auf, sei es in Form von unerwünschten Inhalten, Gruppenzwang oder belästigenden Kontakten. On-Device-Ansätze bieten Unterstützung in Echtzeit, die auf auftretende Risiken reagiert. Leitplanken und Anregungen, wie beispielsweise eine Abfrage vor dem Teilen eines Bildes oder eine Erinnerung, eine Pause einzulegen, können gesündere digitale Gewohnheiten fördern, ohne die Eigenständigkeit zu beeinträchtigen. Kinder akzeptieren diese Hilfen zudem eher, da sie ihnen Wahlmöglichkeiten lassen, anstatt ihnen Einschränkungen aufzuerlegen. KI-basierte Erkennungswerkzeuge können Grooming oder Notlagen in Echtzeit melden, müssen jedoch mit Schutzmechanismen gegen Fehlalarme, Vorurteile und Überschreitungen ausgestattet sein.
Resilienz fördern durch Bildung, Mitgestaltung und Gestaltung von Benutzeroberflächen
Restriktionen schränken den Zugang ein, stärken jedoch nicht die Resilienz. Sicherheit ist am wirksamsten, wenn sie in den Lernalltag eingebunden wird, anstatt als einmalige Sensibilisierungsmaßnahme behandelt zu werden. Wenn Kinder die von ihnen genutzten Hilfsmittel mitgestalten, sind die Ergebnisse oft relevanter, ansprechender und finden breitere Akzeptanz. Dieser Ansatz erkennt Kinder als fähige Partner an, deren Resilienz durch Vorsorge und Mitgestaltung wächst.
Gestaltung und Verantwortlichkeit in Einklang bringen
Laut Cortesi und Gasser werden sich diese Gestaltungsansätze ohne stärkere Strukturen der Verantwortlichkeit nicht durchsetzen. Sie verweisen auf strukturelle Hindernisse, darunter wirtschaftliche Anreize, die stärker auf Engagement als auf Sicherheit ausgerichtet sind, Probleme des kollektiven Handelns, die Vorreiter benachteiligen, sowie Lücken in der Regulierungskapazität, die dazu führen, dass Sicherheitsversprechen ungeprüft bleiben. Als Reaktion darauf fordern sie politische Maßnahmen, darunter Haftungsregeln, Transparenzanforderungen mit unabhängiger Prüfung sowie regulatorische Testumgebungen, in denen Sicherheitsansätze vor ihrer vollständigen Einführung erprobt werden können. Die beiden argumentieren, dass diese Kombination aus Gestaltung und Verantwortlichkeit anspruchsvoller ist als pauschale Verbote, letztlich aber vielversprechender, da sie die Ursachen angeht, Kapazitäten aufbaut und digitale Umgebungen fördern kann, die nicht nur sicherer, sondern auch reichhaltiger sind und Kindern mehr Selbstbestimmung ermöglichen.
Über die Forschung
Der Artikel „Digital child safety at the frontier: From evidence to action“ wurde in der Fachzeitschrift Science veröffentlicht. Er stützt sich auf die Ergebnisse des Berichts „Frontiers in Digital Child Safety“, der gemeinsam vom TUM Think Tank an der Hochschule für Politik München, dem Berkman Klein Center for Internet & Society der Harvard University und der Universität Zürich erarbeitet wurde.
