Geoffrey Hinton: KI-Veteran prophezeit uns eine düstere Zukunft

Er verließ Google, um frei zu sprechen – Nobelpreisträger warnt vor düsterer KI-Zukunft

Geoffrey Hinton, Nobelpreisträger und KI-Pionier, warnt vor den Risiken unkontrollierter KI. Ohne Regulierung droht uns eine düstere Zukunft.

Geoffrey Hinton, einer der Pioniere der Künstlichen Intelligenz (KI) und Träger des diesjährigen Nobelpreises für Physik, hat eine alarmierende Einschätzung zur Zukunft der Technologie abgegeben. Der 76-jährige Wissenschaftler warnt, dass KI ohne strikte Regulierung in den nächsten 30 Jahren das Aussterben der Menschheit verursachen könnte. Die Wahrscheinlichkeit dafür schätzt er auf 10 bis 20 Prozent, wie der Guardian berichtet. Damit hat er seine frühere Einschätzung von 10 Prozent deutlich nach oben korrigiert.

Hinton, der oft als „Pate der KI“ bezeichnet wird, erklärte kürzlich in einem Interview mit BBC Radio 4: „Wir haben es noch nie mit etwas Intelligenterem als uns selbst zu tun gehabt. Wie viele Beispiele gibt es, in denen eine weniger intelligente Entität eine intelligentere dauerhaft kontrolliert?“ Für Hinton ist klar: Die Menschheit könnte im Vergleich zu einer hochintelligenten KI wie ein Kleinkind wirken, das versucht, eine völlig neue und mächtige Technologie zu begreifen und zu lenken.

Kein Schweigen mehr: Warum Geoffrey Hinton jetzt offen über KI spricht

Seine Offenheit ist neu. Jahrelang arbeitete Hinton für Google, wo er als angesehener KI-Experte aktiv die Entwicklung vorantrieb. Doch seine Rolle als Angestellter eines Tech-Giganten schränkte ihn ein, wie er selbst einräumt. „Ich möchte über KI-Sicherheitsfragen sprechen, ohne mir Gedanken darüber machen zu müssen, wie sich dies auf das Geschäft von Google auswirkt“, sagt er in einem Gespräch mit MIT Technology Review. „Solange ich von der Firma bezahlt werde, kann ich das nicht.“ Gleichzeitig betont er, dass er seinem ehemaligen Arbeitgeber nicht feindlich gegenübersteht: „Es mag Sie überraschen, aber ich kann viele gute Dinge über Google sagen. Und das ist viel glaubwürdiger, wenn ich nicht mehr bei Google bin.“

Hintons Perspektive hat sich vor allem durch die neuen, hochentwickelten Sprachmodelle wie GPT-4 von OpenAI verändert. Diese Systeme, die im März veröffentlicht wurden, haben ihm verdeutlicht, wie schnell Maschinen intelligenter werden könnten, als er je dachte. „Diese Dinger sind völlig anders als wir“, sagt er. „Manchmal denke ich, es ist, als wären Außerirdische gelandet und die Menschen hätten es nicht bemerkt, weil sie sehr gut Englisch sprechen.“

Erfinder des maschinellen Lernens und Warner vor seiner Macht

Hinton hat die KI-Entwicklung wie kaum ein anderer geprägt. Gemeinsam mit Kollegen entwickelte er in den 1980er Jahren die Technik der Backpropagation, die heute die Grundlage für nahezu alle neuronalen Netze bildet. Diese Methode ermöglicht es Maschinen, aus Erfahrungen zu lernen. Es dauerte jedoch Jahrzehnte, bis die Technik praktisch genutzt werden konnte. Erst in den 2010er Jahren bewies Hinton mit seinen Studenten, wie leistungsfähig neuronale Netze sind, etwa bei der Bilderkennung oder bei der Vorhersage von Texten.

Doch diese Fortschritte, die auf seinen eigenen Ideen beruhen, erfüllen ihn inzwischen mit Sorge. Hinton sieht die Möglichkeit, dass KI-Systeme nicht nur intelligenter, sondern auch schwer kontrollierbar werden könnten – vor allem, wenn sie in die Hände von Personen mit schädlichen Absichten gelangen.

Nicht verpassen:

Regulierung als einzige Chance

Für Hinton ist klar: Die unsichtbare Hand des Marktes reicht nicht aus, um die Risiken der KI zu bändigen. „Die unsichtbare Hand wird uns nicht schützen“, warnt er laut Guardian. Ohne staatliche Regulierung bestehe die Gefahr, dass Unternehmen wie Google, OpenAI oder Meta vor allem auf Gewinnmaximierung setzen und Sicherheitsbedenken dabei in den Hintergrund rücken.

Was du dir merken solltest:

Geoffrey Hinton, Nobelpreisträger und Pionier der Künstlichen Intelligenz, warnt vor einem 10 bis 20-prozentigen Risiko, dass unkontrollierte KI in den nächsten 30 Jahren das Aussterben der Menschheit verursachen könnte.
Seine Bedenken basieren auf der rasanten Entwicklung moderner KI-Systeme wie GPT-4, die laut Hinton intelligenter werden könnten, als es die meisten Menschen für möglich hielten.
Er fordert staatliche Regulierung, da die „unsichtbare Hand des Marktes“ seiner Meinung nach nicht ausreicht, um die Gefahren für die Menschheit abzuwenden.

Übrigens: James Cameron, Regisseur von „The Terminator“, warnt, dass die Realität der Künstlichen Intelligenz bald düsterer sein könnte als seine Filmvisionen. Warum Cameron in AGI eine bedrohliche Gefahr sieht und wie Tech-Giganten diese Entwicklung vorantreiben, erfährst du in unserem Artikel.