Geoffrey Hinton ist froh, 77 zu sein – Kritik an KI-Firmen wird lauter

„Ich bin froh, dass ich 77 bin“ – Nobelpreisträger Geoffrey Hinton warnt immer lauter vor KI-Firmen

Nobelpreisträger Geoffrey Hinton sieht KI-Firmen auf einem gefährlichen Kurs – zu wenig Regeln, zu viel Tempo, zu großes Risiko.

Geoffrey Hinton gilt als einer der wichtigsten Wegbereiter der modernen künstlichen Intelligenz. Im Jahr 2024 wurde der gebürtige Brite mit dem Nobelpreis ausgezeichnet – für seine grundlegenden Beiträge zur Entwicklung neuronaler Netze, also jener Technologie, auf der Sprachmodelle wie ChatGPT heute basieren. Hinton nutzt seinen Ruhestand nun, um vor großen KI-Firmen zu warnen. Hinton sagt, was viele in der Branche nur hinter vorgehaltener Hand aussprechen: Die Entwicklung der KI schreitet schneller voran, als viele glauben – und könnte schon bald außer Kontrolle geraten.

„Ich bin froh, dass ich 77 bin“, sagt Hinton in einem Interview mit CBS – und deutet damit an, dass er es nicht mehr erleben würde, sollte die KI außer Kontrolle geraten. Ein Satz, der hängen bleibt. Denn was er meint, ist eine sehr reale Sorge um die Zukunft.

Geoffrey Hinton übt scharfe Kritik an KI-Firmen: „Sie wollen weniger Regulierung“

Im Gespräch mit dem kanadischen Fernsehen macht Hinton deutlich, was ihn besonders beunruhigt: das Verhalten großer Tech-Konzerne. Namen nennt er offen: Google, Meta, OpenAI, XAI. Alle investieren sie Milliarden in neue, immer leistungsfähigere KI-Modelle. Doch um die Sicherheit kümmern sie sich aus seiner Sicht nur unzureichend. „Wenn man sich anschaut, was die großen Firmen derzeit tun, dann lobbyieren sie dafür, dass es noch weniger KI-Regulierung gibt“, warnt Hinton. „Dabei gibt es schon jetzt kaum Regulierung.“

Sein Vorwurf: Die Firmen seien auf kurzfristige Gewinne fixiert – und nähmen dabei in Kauf, dass ihre Systeme langfristig außer Kontrolle geraten könnten. „Ich glaube nicht, dass man sie stoppen kann, wenn sie die Kontrolle übernehmen wollen“, sagt Hinton. Deshalb sei es entscheidend, die Technologie so zu gestalten, dass sie gar kein Interesse entwickelt, Menschen zu dominieren.

Diese Sorge ist nicht neu. Auch Elon Musk, Sundar Pichai oder Sam Altman sprechen offen über mögliche Gefahren. Doch während viele CEOs nach außen Verantwortung betonen, sieht Hinton ein anderes Bild: „Tatsächlich ist der Anteil an Rechenleistung, der für Sicherheitsforschung aufgewendet wird, viel, viel geringer als er sein sollte.“

KI als Bedrohung – nicht nur durch Technik, sondern durch Machtinteressen

Hinton glaubt: Das eigentliche Risiko besteht nicht allein in der Technologie selbst, sondern in ihrer Anwendung. Autoritäre Staaten könnten KI nutzen, um Menschen stärker zu überwachen und zu unterdrücken. Hacker könnten Schwachstellen ausnutzen, um ganze Systeme lahmzulegen – etwa im Finanzwesen. Er selbst hat Konsequenzen gezogen und sein Geld auf mehrere Banken verteilt. Der Grund: „Ich denke, Banken werden ein Ziel sein.“

Wie groß das Risiko eines Kontrollverlusts durch KI tatsächlich ist, kann niemand genau sagen. Hinton schätzt die Wahrscheinlichkeit, dass Maschinen eines Tages die Kontrolle übernehmen könnten, auf 10 bis 20 Prozent. Keine Panikmache – aber eine Warnung mit Gewicht.

Ein Forscher, der sich nie anpasste – und deshalb den Weg ebnete

Geoffrey Hinton war nie jemand, der sich dem wissenschaftlichen oder politischen Zeitgeist untergeordnet hätte. Als viele seiner Kollegen neuronale Netze belächelten, arbeitete er weiter an ihnen. Als Forschungsgelder aus den USA an Bedingungen des Militärs geknüpft waren, verließ er das Land – und ging nach Kanada. Dort forschte er weiter, gemeinsam mit jungen Talenten, unter anderem Ilya Sutskever, der später Mitbegründer und Chef-Wissenschaftler bei OpenAI wurde.

Sein Forschungsstil war immer experimentell: Modelle bauen, ausprobieren, wieder verwerfen, verbessern. „Ich liebte es, mit den Modellen zu spielen“, sagt Hinton. „Viele andere haben das nicht gemacht.“ Diese Hartnäckigkeit hat das Fundament gelegt, auf dem heute Unternehmen Milliarden verdienen.

„Es braucht Regeln – aber ich erwarte nicht, dass sie bald kommen“

Hinton fordert, dass mindestens ein Drittel der Rechenleistung großer KI-Unternehmen in Sicherheitsforschung fließen sollte. Dass dies bislang nicht geschieht, bewertet er als systemisches Versagen. Hoffnung auf baldige Regulierung macht er sich dennoch nicht: „Es braucht Regeln. Aber ich erwarte nicht, dass sie bald kommen.“

Sein Appell bleibt klar: Wer heute KI entwickelt, muss Verantwortung übernehmen – bevor die Systeme Entscheidungen treffen, die sich nicht mehr rückgängig machen lassen.

Kurz zusammengefasst:

Geoffrey Hinton, Nobelpreisträger und Mitbegründer der modernen KI, warnt vor einem Kontrollverlust durch selbstständig handelnde Systeme.
Hinton kritisiert große KI-Firmen wie Google, OpenAI und Meta, weil sie Sicherheit vernachlässigen und gegen Regulierung lobbyieren.
Der Wissenschaftler fordert, dass deutlich mehr Rechenleistung in Sicherheitsforschung fließt – er selbst verteilt sein Geld inzwischen auf mehrere Banken aus Sorge vor KI-Angriffen.

Übrigens: Nicht nur Geoffrey Hinton warnt vor den Risiken unregulierter KI – auch Historiker Yuval Noah Harari sieht in ihr eine Gefahr für Wahrheit, Demokratie und gesellschaftlichen Zusammenhalt. Wie Algorithmen Hass befeuern und politische Stabilität untergraben, erklärt er eindringlich in der schwedischen Kultursendung Babel – mehr dazu in unserem Artikel.