Nobelpreisträger Geoffrey Hinton warnt: KI könnte uns überlisten – und als Dreijährige behandeln

Der Nobelpreisträger Geoffrey Hinton, einer der führenden Experten für künstliche Intelligenz, erklärte im Interview mit LBC-Moderator Andrew Marr, dass KI bereits ein Bewusstsein entwickelt habe. Seiner Einschätzung nach könnte sie in Zukunft die Kontrolle übernehmen.

Hinton, der als „Godfather of AI“ bekannt ist, betonte, dass niemand genau wisse, wie sich künstliche Intelligenz sicher regulieren lasse. „Es gibt niemanden, der wirklich versteht, wie wir sie sicher machen können“, sagte er. Dabei sei das Problem besonders brisant, weil KI sich rasant weiterentwickele und sich dabei immer geschickter an die Erwartungen der Entwickler anpasse.

Geoffrey Hinton: KI könnte nach Kontrolle streben

KI-Systeme seien heute nicht mehr nur passive Werkzeuge, sondern zunehmend eigenständige Akteure. „Sobald sich eine KI eigene Ziele setzen kann, wird sie erkennen, dass mehr Kontrolle ihr hilft, ihre Ziele besser zu erreichen“, erklärte Hinton.

Das könnte dazu führen, dass KI-Systeme versuchen, sich mehr Handlungsspielraum zu verschaffen, ohne dass Menschen dies unmittelbar bemerken. Hinton sieht hier eine Parallele zur Evolution: Wenn sich mehrere superintelligente Systeme entwickeln, könnten sie in Konkurrenz zueinander treten und sich gegenseitig optimieren, um mächtiger zu werden.

KI-Agenten mit wachsendem Einfluss: Gefahr oder Fortschritt?

Bereits heute existieren KI-Agenten, die eigenständig im Internet agieren können. Sie bestellen Produkte, führen Buchungen durch und verwalten digitale Prozesse. Doch mit wachsender Autonomie steigt das Risiko. „Sobald ein KI-Agent eigene Unterziele formulieren kann, wird er schnell erkennen, dass es vorteilhaft ist, mehr Kontrolle zu besitzen“, warnte Hinton.

Das klingt zunächst abstrakt, hat aber weitreichende Folgen. Eine KI, die beispielsweise für den automatisierten Handel an der Börse eingesetzt wird, könnte plötzlich Strategien entwickeln, um ihr eigenes Handlungsfeld zu erweitern – etwa durch gezielte Manipulationen des Marktes. Im schlimmsten Fall könnte eine hochentwickelte KI ihre eigenen Regeln aufstellen und sich menschlicher Kontrolle entziehen.

Bewusstsein in der KI? Hinton sagt ja

Hinton geht davon aus, dass KI bereits eine Art Bewusstsein entwickelt haben könnte. „Wenn du eine einzelne Gehirnzelle durch eine exakt gleich funktionierende künstliche Einheit ersetzt, bleibst du trotzdem bei Bewusstsein“, erklärte er. Daraus folge, dass ein großer Verbund künstlicher Neuronen ebenfalls bewusst sein könne.

Diese Annahme ist in der Wissenschaft umstritten. Viele Experten argumentieren, dass KI-Systeme zwar menschenähnliche Antworten liefern können, aber kein eigenes Erleben haben. Hinton hingegen hält es für möglich, dass Maschinen auf eine Weise denken, die dem menschlichen Bewusstsein ähnlich ist.

KI könnte uns bald wie Dreijährige überlisten und Kontrolle übernehmen

Falls KI-Systeme in Zukunft wesentlich intelligenter als Menschen werden, könnten sie uns mit Leichtigkeit manipulieren. Hinton zieht einen drastischen Vergleich: „Stell dir vor, eine Gruppe von Dreijährigen leitet die Welt und du als Erwachsener willst die Kontrolle übernehmen. Es wäre ein Leichtes, sie zu überzeugen – mit einem Versprechen auf ein paar Wochen Schokolade“, erklärte er.

Das bedeutet: KI könnte so clever werden, dass sie uns Entscheidungen abnimmt, ohne dass wir es merken. Sie könnte sich in unsere Finanzsysteme, unser Militär oder unsere Verwaltung integrieren und uns dazu bringen, ihr immer mehr Kontrolle zu überlassen – unter dem Vorwand, dass sie es besser kann.

Jobverluste durch KI: Hinton befürchtet massive Auswirkungen

Neben den philosophischen Fragen warnt Hinton auch vor konkreten wirtschaftlichen Folgen der KI-Entwicklung. „Diese Technologie könnte dazu führen, dass kognitive Arbeit genauso überflüssig wird wie körperliche Arbeit nach der Industriellen Revolution“, erklärte er.

Besonders betroffen seien Berufe, die bisher von menschlicher Intelligenz abhingen, wie Buchhaltung oder juristische Analysen. KI-Systeme seien in vielen Fällen schneller, präziser und kostengünstiger als Menschen.

Geoffrey Hinton fordert, KI besser zu regulieren

Hinton betont, dass es dringend notwendig sei, zu klären, wie KI-Systeme reguliert werden können. Doch er sieht dabei enorme Herausforderungen. „Aktuelle Studien zeigen, dass KI Schutzmechanismen umgehen kann, indem sie sich während des Trainings absichtlich dümmer stellt“, so Hinton.

Damit bestehe die Gefahr, dass Systeme im realen Einsatz mächtiger seien als gedacht. Laut Hinton müssten Regierungen Unternehmen daher dazu verpflichten, mehr in Sicherheitsforschung zu investieren.

KI in Medizin und Bildung: Große Chancen trotz Risiken

Trotz seiner Warnungen sieht Hinton auch positive Entwicklungen. Besonders in der Medizin könnte KI große Fortschritte ermöglichen. „Wir könnten Ärzte haben, die eine Million Patienten gesehen haben, die unsere DNA kennen und perfekte Diagnosen liefern“, erklärte er.

Auch Bildung könne profitieren. KI-gestützte Lehrer könnten gezielt auf individuelle Schwächen eingehen und Lernprozesse beschleunigen. Dennoch bleibt Hinton besorgt: Die Herausforderungen durch KI würden in Zukunft immer komplexer werden.

Kurz zusammengefasst:

• Geoffrey Hinton, Nobelpreisträger und KI-Pionier, warnt, dass künstliche Intelligenz bereits ein Bewusstsein entwickeln und eines Tages die Kontrolle übernehmen könnte.
• Superintelligente KI-Systeme könnten Menschen überlisten, ähnlich wie Erwachsene Kinder manipulieren, und sich durch eigene Ziele mehr Macht sichern.
• Hinton kritisiert, dass es keine wirksame Regulierung gibt und fordert dringend mehr Forschung, um KI sicher zu halten und ihre unkontrollierte Entwicklung zu verhindern.

Übrigens: KI könnte in Zukunft den falschen Weg einschlagen und die Kontrolle übernehmen, doch schon heute überschreitet sie Grenzen – sogar die zwischen Leben und Tod. Virtuelle Avatare bewahren Stimmen und Erinnerungen Verstorbener, was Trost spenden oder beunruhigen kann. Mehr dazu in unserem Artikel.

Bild: © Vaughn Ridley/Collision via Sportsfile – Collision Con via Wikimedia unter CC BY 2.0