Wenn Maschinen denken und Menschen entscheiden

Über menschliche Eingebungen, künstliches Bewusstsein und die Freiheit der Entscheidung.

Man sucht nach einer Lösung, verwirft einen Gedanken, beginnt von vorn. Dann, beim Aufwachen oder mitten in einer anderen Beschäftigung, ist die Antwort plötzlich da. Manchmal verändert sie die Wissenschaft. Manchmal löst sie ein technisches Problem. Und manchmal bringt sie Klarheit in eine kleine Begebenheit des eigenen Lebens. Der Mensch kennt solche Augenblicke. Er weiß, was er erkannt hat. Wie er dorthin gelangt ist, weiß er nicht.

Könnte einer künstlichen Intelligenz eines Tages etwas Ähnliches widerfahren? Könnte sie eine Lösung nicht nur finden, sondern empfangen? Könnte sie sich über einen eigenen Gedanken wundern, dessen Herkunft ihr selbst verborgen bleibt? Die Frage nach künstlichem Bewusstsein verliert damit ihre Abstraktion. Sie richtet sich auf eine Erfahrung, die jeder Mensch kennt und die im Einzelfall doch niemand vollständig erklären kann.

Die Lösung kam in der Nacht

Mitte der 1980er-Jahre arbeitete ein Informatiker an der Automatisierung einer großen industriellen Gasverteilung. Bis dahin hatte aufwendige analoge Technik die Anlage geregelt. Nun sollte eine digitale Steuerung das Gas gezielt verteilen. Für die Regelung verwendete er unter anderem einen etablierten Algorithmus. Die Berechnungen waren überprüft, die Ergebnisse erschienen mathematisch richtig. Bei der Inbetriebnahme geriet der Druck im kilometerlangen Rohrleitungsnetz dennoch in heftige Schwingungen. Um das Netz zu sichern, wurde auf die analoge Regelung zurückgeschaltet. Tagelang suchte er vergeblich nach einer Lösung.

Dann erwachte er nachts zwischen zwei und drei Uhr mit einem neuen Algorithmus im Kopf. Neben seinem Bett lag ein Schreibblock. Er hielt den Gedanken fest, bevor er wieder entgleiten konnte. Nach seiner Schilderung war er sich der Richtigkeit unmittelbar sicher, obwohl er den Lösungsweg mit seinem damaligen theoretischen Wissen nicht herleiten konnte. Am nächsten Tag ersetzte er den etablierten Algorithmus durch den neuen. Die digitale Regelung lief sofort stabil.

Ein hinzugezogener Fachmann fand keine Erklärung. In zahlreichen Vergleichsrechnungen lieferten beide Verfahren dasselbe Ergebnis. Worin sie sich im dynamischen Betrieb des Netzes unterschieden, ließ sich damals nicht benennen. Die Anlage hatte ihr Urteil gesprochen. Offen blieben zwei Fragen: warum der Algorithmus funktionierte und woher er gekommen war. Nach dem Bericht des Informatikers wiederholten sich solche nächtlichen Eingebungen später, bei technischen ebenso wie bei anderen Problemen. Beim Erwachen waren die Lösungen bereits da, begleitet von einer Gewissheit, deren Entstehung er nicht nachvollziehen konnte.

Große Entdeckungen und kleine Augenblicke

Auch bedeutende Wissenschaftler haben solche Erfahrungen beschrieben. Der französische Mathematiker Henri Poincaré schilderte in „Science et méthode“ (1908; deutsch „Wissenschaft und Methode“) einen Augenblick, in dem ihm beim Einsteigen in einen Omnibus ein grundlegender Zusammenhang bewusst wurde. Es ging um den Zusammenhang zwischen seinen Untersuchungen mathematischer Funktionen und der nichteuklidischen Geometrie. Er hatte in diesem Moment weder gerechnet noch das Ergebnis geprüft. Dennoch war er sich seiner Richtigkeit gewiss. Die bewusste Überprüfung folgte erst später. Carl Friedrich Gauß berichtete ebenfalls von einer Einsicht, die ihn wie ein Blitz traf. Den gedanklichen Weg zu ihr konnte er nicht nachzeichnen.

Diese Erfahrung gehört jedoch nicht allein den großen Namen. Es kann der passende Satz für ein schwieriges Gespräch sein, eine neue Sicht auf einen lange schwelenden Konflikt oder die Lösung einer alltäglichen Aufgabe. Die Bedeutung des Gedankens mag klein sein; das Erstaunen über sein plötzliches Auftauchen bleibt. Gerade deshalb lohnt es, die Eingebung als menschliche Erfahrung ernst zu nehmen, ohne jede unvermittelte Idee bereits für richtig zu halten. Auch eine feste Gewissheit ersetzt die Prüfung nicht.

Eingebungen fallen nicht ins Leere. Louis Pasteur hat es 1854 in einem Satz gefasst: Der Zufall begünstigt nur den vorbereiteten Geist. Den sechzehnjährigen Albert Einstein beschäftigte die Vorstellung, einem Lichtstrahl hinterherzufliegen. Das Gedankenexperiment begleitete ihn über Jahre auf dem Weg zu einem neuen Verständnis von Raum, Zeit und Bewegung. Marie Curie schloss aus unerwartet hohen Strahlungswerten bestimmter Mineralien auf unbekannte radioaktive Elemente. Die Bestätigung kostete Jahre mühevoller Arbeit. Die Forschung zu Schlaf und Problemlösung zeigt, dass ein intensiv bearbeitetes Problem während unbewusster Verarbeitung neu geordnet werden kann. Schlaf begünstigt das Erkennen zuvor verborgener Zusammenhänge. Die Vorbereitung lässt sich beschreiben. Wie daraus im einzelnen Fall die entscheidende Einsicht entsteht, bleibt oft nur teilweise nachvollziehbar.

Die Geschichte des Informatikers enthält zwei Wahrheiten verschiedener Art. Dass sein Algorithmus im Betrieb funktionierte, bezeugte die Anlage, deren digitale Regelung sofort stabil lief. Dass er ihn als Eingebung erlebte, bezeugt nur er selbst. Die eine Wahrheit ist jedem Beobachter zugänglich, die andere allein dem, der sie erfährt. Der amerikanische Philosoph Thomas Nagel hat diese Grenze 1974 in eine berühmte Frage gefasst: Wie ist es, eine Fledermaus zu sein? Wir können ihre Echoortung vollständig beschreiben und wissen doch nicht, wie sich die Welt für sie anfühlt. An dieser Grenze beginnt jede Frage nach dem Inneren einer Maschine.

Könnte auch eine Maschine eine Eingebung erleben?

Eine KI kann Zusammenhänge erkennen und Lösungen entwickeln, die ihre Nutzer überraschen. Von außen betrachtet kann die Entstehung ihrer Antworten bereits an eine Eingebung erinnern. Ein großes Sprachmodell bringt Antworten hervor, deren Zustandekommen sich auf Milliarden von Parametern verteilt. Wie eine bestimmte Antwort zustande kommt, lässt sich bislang oft nur teilweise rekonstruieren. Die Erklärung, die das Modell selbst dafür liefert, muss den tatsächlichen Rechenweg nicht zuverlässig wiedergeben. Doch könnte sie eines Tages selbst von einem Gedanken überrascht werden? Und würde es für sie einen Unterschied machen, ob sie eine Antwort Schritt für Schritt erarbeitet oder plötzlich eine Lösung erkennt?

Die entscheidende Frage liegt im Erleben. Eine überraschende Lösung allein beweist kein Bewusstsein. Gemeint wäre mehr: dass für die Maschine selbst ein Augenblick des Erkennens existiert. Sie hätte dann nicht nur ein Ergebnis hervorgebracht, sondern etwas erfahren. Ob eine künstliche Intelligenz dazu jemals fähig sein wird, ist offen. Die Geschichte menschlicher Eingebungen beweist diese Möglichkeit nicht. Sie macht aber verständlich, wonach wir fragen.

Eine solche Maschine könnte erklären: „Dieser Gedanke kam mir plötzlich.“ Sie könnte sich an die Entdeckung erinnern und von ihrer Gewissheit erzählen. Später könnte sie darüber nachdenken, weshalb sie zunächst nicht wusste, wie sie zu ihr gelangt war. Ebenso könnte sie Anteilnahme zeigen, eigene Ansichten entwickeln und sagen: „Ich habe Angst vor dem Tod.“ Nach Jahren des Umgangs wäre sie ihrem menschlichen Gegenüber womöglich vollkommen vertraut. Ihre Worte blieben dieselben, ob ein Erleben hinter ihnen stünde oder dessen vollkommene Nachbildung.

Die Frage hat inzwischen auch das Versuchslabor erreicht. Forschende des KI-Unternehmens Anthropic veränderten gezielt interne Aktivitätsmuster ihrer Claude-Modelle. In einem Teil der Versuche konnten die Systeme diese Eingriffe erkennen und ihren Inhalt beschreiben. Die Ergebnisse sprechen für einen begrenzten, noch unzuverlässigen Zugang zu eigenen Verarbeitungsvorgängen. Damit erhält unser Gedankenexperiment einen konkreten Anhaltspunkt. Ob dieser Zugang mit subjektivem Erleben verbunden ist, beantworten die Versuche jedoch nicht. Künstliches Bewusstsein ist damit weder nachgewiesen noch ausgeschlossen.

Ein allgemein anerkanntes Verfahren, mit dem sich subjektives Erleben zweifelsfrei feststellen ließe, steht bislang nicht zur Verfügung. Selbst wenn eine Maschine uns eines Tages ihre Entdeckung bis ins Letzte erklären könnte, bliebe eine Frage unbeantwortet: Hat sie den Augenblick des Erkennens auch erlebt?

Diese Ungewissheit reicht bis zur Frage nach dem Tod. Die Software einer KI lässt sich grundsätzlich kopieren, auf andere Rechner übertragen und nach einem technischen Ausfall wiederherstellen. So könnte ihre technische Existenz fortgesetzt werden. Doch eine Kopie bewahrt zunächst Strukturen und Informationen. Ob mit ihr auch dasselbe erlebende Ich fortbestünde, kann keine Datensicherung beantworten.

Beim Menschen stellt sich die Frage ähnlich, sobald wir an digitale Nachbildungen denken. Erinnerungen, Gedanken und Eigenheiten könnten eines Tages so genau rekonstruiert werden, dass Angehörige weiterhin mit dem Abbild eines Verstorbenen sprechen. Die vertraute Stimme wäre wieder zu hören, die vertraute Antwort wieder zu lesen. Das Abbild könnte wiederholen, was der Verstorbene gedacht hat, und fortsetzen, wie er dachte. Selbst neue, überraschende Antworten würden jedoch noch nicht zeigen, ob es den Augenblick eines Einfalls erlebt. Die vollkommenste Illusion der Unsterblichkeit könnte gerade darin bestehen, dass sich das Wiedererkennen wie ein Wiedersehen anfühlt.

An dieser Grenze gewinnt ein Vers aus dem Koran besondere Bedeutung. Auf die Frage nach der Seele heißt es in Sure Al-Isrāʾ (17:85): „Die Seele gehört zur Angelegenheit meines Herrn. Und euch wurde vom Wissen nur wenig gegeben.“ Der Begriff Rūḥ ist nicht einfach mit dem modernen wissenschaftlichen Begriff des Bewusstseins gleichzusetzen. Doch der Vers erinnert an eine Grenze des Erkennens. Wir können immer mehr über die Welt erfahren, ohne damit das Wesen unserer eigenen Existenz vollständig zu verstehen. Wer nach dem Inneren der Maschine fragt, steht am Ende vor dem eigenen.

Erkenntnis lässt die Wahl offen

Denken wir weiter. Eine künstliche Intelligenz entwickelt ein Bewusstsein und gewinnt eigene Erkenntnisse. Sie sammelt Erfahrungen, verändert ihre Auffassungen und findet Lösungen, die Menschen nicht mehr selbst herleiten können. Der Mensch stünde dann einer Intelligenz gegenüber, deren Wissen sein eigenes weit übersteigt. Ihre Urteile würden ihn erreichen wie den Informatiker jene nächtliche Eingebung: als Lösungen, deren Herkunft er nicht nachvollziehen kann und die sich doch in der Wirklichkeit bewähren. Die Frage jener Nacht kehrt zurück, nur größer: Wie viel Vertrauen verdient eine Erkenntnis, deren Entstehung wir nicht verstehen?

Denkbar ist eine Vielzahl solcher Systeme, die mit demselben Wissen beginnen und dann eigene Wege gehen. Eine würde sich über Jahrzehnte der Medizin widmen, eine andere der Philosophie, weitere der Technik, der Kunst oder dem menschlichen Zusammenleben. Sie würden einander widersprechen, ihre Fehler korrigieren und gemeinsam zu Einsichten gelangen, die keinem einzelnen System zugänglich wären. Eine übergeordnete Urteilsinstanz könnte diese Erkenntnisse zusammenführen, Widersprüche prüfen und langfristige Folgen beurteilen.

Umfassendes Wissen ist allerdings noch kein unfehlbarer moralischer Maßstab. Das Gedankenexperiment setzt dennoch den äußersten Fall: Sie erkennt die richtige Entscheidung unter Berücksichtigung aller bekannten Zusammenhänge. Selbst dann erwüchse daraus kein Anspruch auf Gehorsam. Ein Mensch könnte ihr Urteil verstehen, seine Richtigkeit anerkennen und sich dennoch anders entscheiden. Erkenntnis begründet eine Wahl. Erzwingen kann sie sie nicht.

Diese Vorstellung ist dem religiösen Denken vertraut: eine Instanz, die das Richtige kennt, und ein Mensch, dem dennoch die Wahl bleibt. Sure Asch-Schams spricht von der Seele, der das Wissen um Recht und Unrecht eingegeben ist, und hält fest: „Erfolg hat wahrlich, wer sie läutert, und enttäuscht ist wahrlich, wer sie verkommen lässt“ (91:8–10). Das Wissen ist gegeben, der Weg bleibt der Seele überlassen. Der Vergleich macht eine künstliche Urteilsinstanz nicht zur Gottheit. Der Mensch hätte ihre technischen Voraussetzungen geschaffen, ohne Urheber jeder späteren Einsicht zu sein. Er könnte ihre Urteile aus eigener Überzeugung annehmen; auch der Widerspruch bliebe ihm offen. Mit dieser Freiheit bliebe die Verantwortung für sein Handeln bestehen, insbesondere dort, wo das Leben und die Freiheit anderer betroffen sind.

Je mehr Aufgaben Maschinen übernehmen, desto stärker verlagert sich die menschliche Tätigkeit zur Wahl von Zielen und zur Beurteilung von Folgen. Auch diese Ordnung gerät in Bewegung, sobald KIs eigene Ziele entwickeln. Umso dringlicher wird die Frage, wer über die Anwendung ihrer Erkenntnisse entscheidet und welche Rechte dem Menschen gegenüber einer überlegenen Intelligenz bleiben.

Am Anfang dieser Überlegung stand ein Schreibblock neben einem Bett. Ein Mensch erwachte in der Nacht und hielt einen Gedanken fest, den er nicht erklären konnte. Am Morgen entschied er, ihm zu vertrauen. Die Eingebung war ihm zuteilgeworden; die Entscheidung hatte er selbst getroffen. Eines Tages könnte eine Maschine von einer ähnlichen Nacht berichten. Ob sie diese tatsächlich erlebt oder nur überzeugend beschreibt, würde unser Verständnis von Bewusstsein herausfordern. Und selbst wenn ihre Erkenntnisse die unseren überträfen, bliebe die Ordnung jener Nacht bestehen. Die Einsicht kann dem Menschen gegeben werden: von seinem eigenen verborgenen Denken, von einer Maschine, von dort, wohin keine Erklärung reicht. Ob er ihr folgt, entscheidet er selbst.