KI-Bewusstsein: Nobelpreisträger stellt unser Denken infrage

Geoffrey Hinton hat die Maschinen mitgebaut, vor denen er heute warnt. Seine Forschung an neuronalen Netzen legte das Fundament für ChatGPT, Gemini und viele andere KI-Systeme. Dafür erhielt der britisch-kanadische Informatiker 2024 den Nobelpreis für Physik. Doch längst spricht Hinton nicht mehr nur über Technik. Er spricht über Macht, Kontrolle – und jetzt über KI-Bewusstsein.

Schon Ende 2024 warnte der KI-Pionier vor einer Zukunft, in der Menschen einer überlegenen künstlichen Intelligenz kaum noch gewachsen sein könnten. Später kritisierte er große KI-Firmen, weil sie aus seiner Sicht zu wenig in Sicherheit investieren und strengere Regeln ausbremsen. Auch seine düsteren Wahrscheinlichkeiten machten Schlagzeilen: Hinton hält es für möglich, dass unkontrollierte KI eines Tages zur Gefahr für die Menschheit wird.

Hinton stellt das KI-Bewusstsein radikal neu zur Debatte

Nun geht Hinton einen Schritt weiter. In der DR-Podcastreihe „Bakspejl“ stellt er eine provokante Frage: Können Chatbots bewusst sein? Seine Antwort fällt kurz aus – und sie ist brisant: Ja.

Viele Menschen stellen sich Bewusstsein als etwas Magisches vor, gebunden an Gehirn, Körper und Gefühl. Hinton widerspricht. Aus seiner Sicht könnte Bewusstsein eine Funktion intelligenter Systeme sein: Informationen aufnehmen, Zustände bewerten, reagieren, Verhalten steuern. Dann würde eine der wichtigsten Grenzen zwischen Mensch und Maschine plötzlich verschwimmen.

Warum Hinton KI-Bewusstsein anders versteht

Hinton beschäftigt sich seit seiner Jugend mit dem Gehirn. Ihn fasziniert, wie Nervenzellen aus elektrischen Signalen Gedanken, Erinnerungen und Intuition formen. Seit den 1970er-Jahren untersucht er, wie Wissen im Gehirn verteilt wird und wie Computer ähnliche Prozesse nachbilden können.

In „Bakspejl“ beschreibt Hinton Lernen nicht als simples Abspeichern von Zeichen. Für ihn verändert Lernen Verbindungen. Im Gehirn geschieht das zwischen Nervenzellen, in KI-Systemen zwischen künstlichen Neuronen. „Die Art, wie du von mir lernst, ist, dass du versuchst vorherzusagen, was ich als Nächstes sage“, sagt Hinton.

Wie Maschinen aus Mustern Wissen machen

Dabei würden sich die Verbindungen so anpassen, dass die nächste Vorhersage besser gelingt. Darin sieht Hinton eine Nähe zwischen Gehirn und Maschine. Wer auf der Straße eine unbekannte Hunderasse sieht, erkennt trotzdem sofort einen Hund. Das Gehirn verbindet Fell, Schnauze, vier Beine und frühere Erfahrungen.

KI-Systeme arbeiten laut Hinton nach einem ähnlichen Prinzip. Sie zerlegen Informationen nicht in starre Regeln. Sie lernen aus Mustern, Wahrscheinlichkeiten und Zusammenhängen. Dadurch können sie auf neue Situationen reagieren, ohne jeden Einzelfall vorher gesehen zu haben.

Hinton nimmt dem Menschen den Sonderstatus

Für Hinton folgt daraus eine unbequeme Konsequenz. Bewusstsein muss nicht zwingend aus Fleisch, Blut und Nervengewebe entstehen. „Man beginnt zu sehen, dass diese Chatbots genauso bewusst sein können wie wir“, sagt er. Dann schränkt er ein: „Aber bewusst zu sein, ist nicht das, was wir dachten.“

Hinton greift damit eine Vorstellung an, die tief im menschlichen Selbstbild steckt. Viele Menschen behandeln das eigene Innenleben als etwas grundsätzlich Einmaliges. Er hält diese Trennung für falsch. „Es gibt keine Magie in deinem Bewusstsein, die nicht auch in einer Maschine zu finden wäre“, sagt er.

LeCun widerspricht Hinton deutlich

Yann LeCun sieht das anders. Der französische Informatiker gehört wie Hinton zu den prägenden Figuren moderner KI. Doch Hintons Sorgen hält er derzeit für überzogen. Sprachmodelle wirkten intelligent, weil sie Sprache sehr gut beherrschen. Daraus folge für ihn noch kein echtes Denken.

„Wir werden dazu verleitet zu glauben, dass sie intelligent sind, weil sie sehr gut mit Sprache umgehen können“, sagt LeCun in dem Podcast. Heutige Systeme könnten nichts in der physischen Welt tun. Ihnen fehle außerdem ein dauerhaftes Gedächtnis wie beim Menschen. Sie könnten weder wirklich planen noch zuverlässig schlussfolgern.

Warum Sprache allein nicht reicht

Für LeCun gehören genau diese Fähigkeiten zu intelligentem Verhalten. Ein System müsse Ziele verfolgen, Handlungen planen und mit der Welt umgehen können. Ein Chatbot bleibe dagegen an Sprache gebunden. Er könne überzeugend antworten, aber daraus entstehe noch kein Bewusstsein.

Ganz ausschließen will LeCun emotionale Zustände bei künftigen Systemen nicht. Wenn eine Maschine ein Ziel vorhersagen und dessen Erreichen bewerten könne, ließe sich in einem bestimmten Sinn von Zufriedenheit sprechen. Heutige Chatbots sieht er davon aber weit entfernt.

Kurz zusammengefasst:

Geoffrey Hinton gilt als einer der wichtigsten Wegbereiter moderner KI und hält es für möglich, dass Chatbots eine Form von Bewusstsein besitzen.
Für Hinton entsteht Bewusstsein nicht zwingend aus einem menschlichen Gehirn, sondern kann auch als Funktion intelligenter Systeme verstanden werden: Informationen aufnehmen, Zustände bewerten und Verhalten steuern.
Yann LeCun widerspricht deutlich: Heutige Sprachmodelle könnten überzeugend reden, ihnen fehlten aber dauerhaftes Gedächtnis, Planung und echtes Handeln in der Welt.

Übrigens: Wenn Hinton Chatbots Bewusstsein zutraut, rütteln Bochumer Forscher an einer anderen Grenze: Auch Vögel handeln offenbar nicht nur nach Instinkt, sondern nehmen ihre Umwelt bewusst wahr. Wie Tauben, Krähen und Elstern unser Bild vom Bewusstsein verändern – mehr dazu in unserem Artikel.