Warum AGI menschliche Intelligenz womöglich nie erreicht

Eine Violinistin kann erklären, welche Töne sie spielt. Doch wie sich der richtige Druck im Bogen anfühlt, lässt sich nur schwer in Worte fassen. Für den Informatiker Peter J. Denning liegt darin eine der wichtigsten Grenzen der KI. Maschinen können Ergebnisse nachbilden. Menschliche Erfahrung, Körpergefühl und soziale Bedeutung oder gar Intuition bleiben ihnen nach Ansicht Dennings dauerhaft verschlossen.

Der Informatiker und Universitätsprofessor vertritt diese These in seinem neuen Buch „Turing’s Mistake: Escaping the Yoke of Unintelligent Machines“ – zu deutsch „Turings Fehler: Wie man dem Joch unintelligenter Maschinen entkommt“. Darin stellt er eine Grundannahme der KI-Forschung in Frage. Diese hat Alan Turing, britischer Mathematiker und einer der Pioniere der KI, in seinem berühmtem Aufsatz aus dem Jahr 1950 formuliert: Menschliche Intelligenz könne unabhängig vom Körper existieren und deshalb auch in Software entstehen. Denning hält dies für einen Irrtum.

Die Grenzen der KI beginnen schon im menschlichem Alltag

Peter J. Denning kritisiert genau jene Annahme Turings, dass überzeugend nachgeahmte menschliche Kommunikation als Hinweis auf maschinelles Denken gelten könne. Dennings wichtigstes Argument betrifft das sogenannte implizite Wissen. Gemeint sind damit Fähigkeiten und Erfahrungen, die Menschen besitzen, aber nur schwer beschreiben können. Dazu gehören gesunder Menschenverstand, Gefühle, Sensorik, geistige Wahrnehmung, soziale Regeln und kulturelle Prägung. Auch handwerkliche oder künstlerische Fähigkeiten und der Zeitgeist, das Gespür für das allgemein vorherrschende Lebensgefühl, fallen darunter.

Menschen wissen etwa, wann ein Scherz unangebracht wirkt. Sie erkennen im Kontext, ob jemand gereizt, ironisch oder unsicher spricht. Solche Einschätzungen entstehen aus Erfahrung, Körpersprache, Tonfall und gemeinsamem Wissen. Denning schreibt in der Buchankündigung des Verlags: „Hinter jedem Wort liegt ein tiefer Vorrat an unausgesprochenem Wissen, der ihm Bedeutung gibt.“

Maschinen verarbeiten Wissen, aber keine gelebte Bedeutung

Sprachmodelle wie ChatGPT, Claude oder Gemini arbeiten mit Mustern in riesigen Textmengen, sie sind sogenannte Large Language Models (LLMs). Sie berechnen, welche Wörter wahrscheinlich aufeinander folgen. Dadurch entstehen flüssige Antworten. Denning bestreitet jedoch, dass solche Systeme die Bedeutung ihrer Aussagen auf menschliche Weise erfassen.

„Wörter sind symbolische Darstellungen von Bedeutungen, nicht die Bedeutungen selbst“, schreibt er. Maschinen müssen Informationen in messbare Daten und eindeutige Rechenoperationen übersetzen. Menschliches Erfahrungswissen entzieht sich jedoch einer solchen Darstellung. Denning nennt dieses Hindernis das Repräsentationsproblem.

Ein bekanntes Beispiel liefert das Forschungsprojekt Cyc. Seit den 1980er-Jahren versuchten Entwickler, Alltagswissen systematisch in einer Datenbank zu sammeln, um künstlicher Intelligenz das logische Schlussfolgern über Sachverhalte des „gesunden Menschenverstandes“ zu ermöglichen. Nach rund 40 Jahren umfasste sie etwa 25 Millionen Einträge. Trotzdem entstand daraus kein KI-System mit annähernd menschlichem Verstand.

Denning urteilt: „Selbst diese Sammlung reichte nicht aus, um Expertensysteme wirklich kompetent zu machen.“ Viele menschliche Kenntnisse lassen sich seiner Ansicht nach nicht als klare Aussagen abspeichern. Menschen wissen oft, wie etwas funktioniert, ohne dieses Wissen vollständig oder nachvollziehbar formulieren zu können.

Grenzen der KI werden bei Können und Körpergefühl sichtbar

Besonders deutlich wird das bei praktischen Fähigkeiten. Eine Musikerin kann ein Stück perfekt spielen. Dennoch kann sie einem Anfänger nicht jede Muskelbewegung erklären. Gleiches gilt für Sport, Handwerk oder Kreativität. Denning unterscheidet deshalb zwischen dem Wissen über ein Ergebnis und dem Können selbst.

Ein Roboter könnte Bewegungen beobachten und nachahmen. Er besäße aber keinen biologischen Körper mit Schmerz, Müdigkeit oder feinen Empfindungen. Denning schreibt: „Ein Roboter kann nicht erfassen, wie sich schöne Musik für den Musiker oder das Publikum anfühlt.“

Hinzu kommt der soziale Kontext. Aussagen erhalten ihre Bedeutung durch frühere Gespräche, Beziehungen und kulturelle wie persönliche Erfahrungen. Der gleiche Satz kann in unterschiedlichen Situationen freundlich, verletzend oder sarkastisch wirken. Die Wörter bleiben gleich, erst die Situation verändert ihre Wirkung.

Denning beschreibt diesen Hintergrund als endlose Kette früherer Erfahrungen. Jede Annahme beruhe auf vorherigen Gesprächen und Situationen. Vollständig erfassen lasse sich dieses Geflecht kaum. Noch mehr Trainingsdaten könnten dieses Problem deshalb nicht automatisch lösen.

Die größere Gefahr liegt womöglich in einem Missverständnis

Aus Dennings Sicht führt kein direkter Weg zu einer künstlichen allgemeinen Intelligenz (AGI) auf menschlichem Niveau. Er bezweifelt auch den Turing-Test als Beleg für echtes Denken. Eine Maschine könne menschliche Sprache überzeugend imitieren, ohne dieselben Erfahrungen oder Absichten zu besitzen.

Seine Warnung richtet sich deshalb weniger gegen eine allwissende Superintelligenz. Gefährlicher könnten leistungsfähige, aber begrenzte Systeme werden. Denn Unternehmen und Behörden könnten ihnen Entscheidungen übertragen, obwohl sie soziale Folgen oder unausgesprochene Erwartungen nicht verstehen.

„Maschinen können unser implizites Wissen nicht lesen, und wir können ihres nicht lesen“, schreibt Denning. Künstliche neuronale Netze könnten eigene schwer durchschaubare Muster entwickeln. Menschen verstünden dann weder vollständig, wie ein System entscheidet, noch ob seine Lösungen zu menschlichen Werten passen.

Für die Sicherheit von KI entsteht daraus ein praktisches Problem. Automatisierte Systeme können Regeln perfekt befolgen und dennoch unangemessene Ergebnisse liefern. Ihnen fehlen menschliche Erfahrungen, Mitgefühl und kulturelles Urteilsvermögen. Denning warnt daher davor, dass Menschen sich Maschinen unterordnen, die leistungsfähig wirken, aber nur einen begrenzten Ausschnitt menschlicher Intelligenz besitzen.

Kurz zusammengefasst:

Der Informatiker Peter J. Denning sieht eine grundlegende Grenze der KI: Menschliches Erfahrungswissen, Körpergefühl, Intuition und kultureller Kontext lassen sich nicht vollständig in Daten übersetzen.
Sprachmodelle können Sprache überzeugend nachbilden, ohne Bedeutungen, Gefühle oder soziale Situationen so zu verstehen wie ein Mensch.
Die größere Gefahr liegt laut Denning daher nicht in einer allwissenden Superintelligenz, sondern in begrenzten KI-Systemen, denen Menschen zu viel Verantwortung übertragen.

Übrigens: Während der Informatiker Peter J. Denning menschliches Bewusstsein als mögliche Grenze der KI sieht, hält Nobelpreisträger Geoffrey Hinton bewusste Chatbots durchaus für denkbar. Was für ihn Mensch und Maschine verbindet – und warum ihm der französische Informatiker Yann LeCun widerspricht: Mehr dazu in unserem Artikel.