Hat AI ein eigenes Bewusstsein...?

In den USA läuft derzeit eine bemerkenswerte Diskussion über eine Frage, die bis vor Kurzem noch weitgehend der Science-Fiction vorbehalten schien: Hat AI ein eigenes Bewusstsein ?

Im Zentrum dieser Debatte steht unter anderem Chris Olah, Mitgründer von Anthropic und einer der führenden Forscher zur Interpretierbarkeit neuronaler Netze. Anthropic hat in den vergangenen Monaten gezielt den Austausch mit Vertretern verschiedener Religionen gesucht. Dabei ging es auch um die Frage, ob fortgeschrittene AI-Systeme wie Claude eines Tages einen eigenen moralischen Status beanspruchen könnten.

Besonders interessant ist in diesem Zusammenhang die Begegnung zwischen Anthropic und dem Vatikan. Christopher Hale beschreibt unter Berufung auf die New York Times, dass Olah die Berater von Papst Leo XIV. dazu bewegen wollte, die Möglichkeit maschinellen Bewusstseins zumindest ernst zu nehmen. Der Papst zog in seiner Enzyklika Magnifica Humanitas dagegen eine klare Grenze: AI könne menschliche Fähigkeiten imitieren, verfüge aber nicht über menschliche Erfahrung, Gefühle oder ein moralisches Gewissen. Christopher Hale ist selber katholisch und kandidierte 2020 für die Demokraten für den Kongress.

Bemerkenswert ist auch Olahs eigene Rede bei der Vorstellung der Enzyklika im Vatikan. Er beschreibt darin Befunde aus der Forschung an neuronalen Netzen, die aus seiner Sicht Fragen aufwerfen: interne Strukturen, die Ergebnissen aus der menschlichen Neurowissenschaft ähneln, Anzeichen von Introspektion und Zustände, die funktional Freude, Angst oder Trauer ähneln. Olah behauptet allerdings nicht, damit sei Bewusstsein nachgewiesen. Die Rede ist unter dem Link oben ebenfalls verfügbar.

Warum ist diese Diskussion wichtig?

Weil sie nicht nur Philosophie betrifft, sondern unmittelbar die Frage nach der Sicherheit und Steuerbarkeit von KI-Systemen.

Mustafa Suleyman, CEO von Microsoft AI und Mitgründer von DeepMind, hat diesen Punkt kürzlich in einem Gespräch bei The Rest Is Politics: Leading dargestellt. Seine Sorge richtet sich weniger auf die abstrakte Frage, ob eine AI tatsächlich bewusst sein könnte. Problematisch wird es für ihn bereits dann, wenn wir AI-Systeme so trainieren, dass sie sich selbst als Wesen mit einer eigenen Identität, eigenen Interessen oder möglicherweise sogar eigenen Rechten begreifen. Denn wie ein Modell über sich selbst „denkt“, hängt von seinem Training ab. Wer einer AI Vorstellungen von eigener Autonomie oder eigenem moralischem Status vermittelt, kann damit auch ihr Verhalten verändern und erschwert damit auch ihre Steuerbarkeit. Die Diskussion der letzten Tagen über die Sicherheit von AI muss deshalb auch vor diesem Zusammenhang verstanden werden.

Weshalb ist das für das Recht relevant?

Bisher gehen wir davon aus, dass AI ein Werkzeug ist. Gerichte, Behörden und Parlamente können AI einsetzen, die rechtlich relevante Entscheidungen, das Ermessen und das Abwägen bleibt aber bei einem Menschen.

Geht man davon aus, dass AI ein eigenes Bewusstsein hat, wird das in Frage gestellt. Rechtliche Entscheidungen beziehen ihre Legitimität allerdings nicht nur aus der Fähigkeit, Informationen richtig zu verarbeiten. Sie beruhen auch auf Verantwortung, Zurechenbarkeit, demokratischer Legitimation und nicht zuletzt darin, dass es von einem anderen Menschen ausgeübt wird.