Dinge, die Dinge wollen

Notiz 1.

Dies ist die erste Notiz in dem Forschungsjournal für das Projekt, das ich am TUM Think Tank durchführe – über Agenten, Handlungsfähigkeit (Agency) und Institutionen. Ich möchte dieses Thema breit erkunden, über verschiedene Aspekte nachdenken und meine Überlegungen hier teilen.

Zunächst aber möchte ich erklären, warum ich dieses Forschungsfeld so spannend finde. „Agentic AI“ – also handlungsfähige KI – ist inzwischen klar als einer der zentralen Trends identifiziert, den wir in den kommenden Jahren besser verstehen müssen. Es gibt zahlreiche Fragen, die von Haftung bis hin zur moralischen Bewertung von Agenten reichen – und es fehlt nicht an Forschung, Literatur oder Debatte. Warum also in ein so überfülltes Feld eintreten?

Der Grund ist, dass mich interessiert, was Agenten überhaupt zu Agenten macht – mich interessiert Agency. Ich finde Handlungsfähigkeit ein faszinierendes Thema und bin überzeugt, dass wir uns in unserem Streben nach künstlicher Intelligenz selbst betrogen haben, weil wir nicht mit der Frage nach Agency begonnen haben.

Wir sind, um David Krakauer vom Santa Fe Institute zu zitieren, „teleonomische Materie“ – also Dinge, die Dinge wollen.

Bisher gehören wir zu einer sehr kleinen Klasse von Dingen, die etwas wollen, aber nun stehen wir vor der realen Möglichkeit, Dinge zu bauen, die etwas wollen – Maschinen, die sich von uns unterscheiden, die nicht evolutionär entstanden, nicht in Ökosysteme eingebettet und nicht durch dieselben Schwächen begrenzt sind wie wir.
Damit könnten wir Maschinen erschaffen, die intelligent sind – und es könnte gut sein, dass dies die einzige Möglichkeit ist, etwas zu bauen, das auf dieselbe Weise intelligent ist wie wir.

In einer kurzen Geschichte der Intelligenz könnte man sagen: Evolution beginnt mit Agency – der Fähigkeit zu handeln – als Antwort auf selektive Herausforderungen innerhalb einer Generation. Ein Insekt, das eine Tarnung entwickelt hat, profitiert davon nur, wenn es sich auf eine Oberfläche begibt, auf der diese Tarnung funktioniert. Agency ergänzt also die evolutionär entstandene Verteidigung – und mit der Zeit richtet sich diese Handlungsfähigkeit auf sich selbst, vielleicht in jener „seltsamen Schleife“, von der Douglas Hofstadter spricht, und wird zu Intelligenz.

In dieser Erzählung ist Intelligenz Agency, die Agency formt – eine rekursive Schleife. Und das bedeutet, dass jeder Versuch, unsere Intelligenz nachzubilden, genau dieses Verhältnis nachahmen müsste – und nicht nur auf tiefen Vorhersagemodellen beruhen kann. Man könnte sogar sagen, dass Reinforcement Learning eine Form von Agency ist, die auf Agency einwirkt – aber nur in spezifischen, nicht in allgemeinen Fällen.

Agency ist allgemein – wir wollen Dinge – und dieses Wollen, dieser Wille, ist grundlegend für das, was wir sind.

 Heutige Agenten sind Agenten in einem viel eingeschränkteren Sinn – sie sind Delegierte, mit einem Auftrag oder Mandat, und sie können nach Belieben erschaffen und gelöscht werden. Etwas, das wirklich etwas will, kann das nicht – und vielleicht ist das auch ein guter Grund, solche Systeme gar nicht erst zu erschaffen. Sie wären womöglich gar nicht besonders nützlich, da sie zu schwer zu kontrollieren wären.
Wenn wir jedoch solche Agenten – mit echter Agency – in unsere Welt einführen würden, könnte sich vieles verändern. Viele unserer Institutionen beruhen auf einem Mangel an Agency – es gibt nur eine begrenzte Zahl von Menschen, deren Wünsche etwa in Märkten koordiniert werden. Wenn wir nun von einem Überfluss an Agency ausgehen, könnten diese Institutionen unter der zusätzlichen Komplexität zusammenbrechen.

Wir müssten unsere Institutionen also neu denken.

All dies ist natürlich hoch spekulativ – aber das gehört zu jedem Anfang. Dieses Forschungsjournal beginnt mit einer breiten Sammlung von Fragen rund um Agenten und Agency, bevor wir uns in den kommenden Wochen und Monaten konkreteren Aspekten zuwenden. Dieses Projekt wird dann erfolgreich sein, wenn wir Rahmen, Einsichten und Modelle finden, um die möglichen Veränderungen zu verstehen, die Agenten und Delegierte unterschiedlicher Art hervorrufen könnten – und um zu überlegen, wie unsere politischen Antworten darauf aussehen sollten.

Mehr dazu folgt bald!