Was tun, wenn nicht-menschliche Intelligenz unsere Existenz bedroht?

Die Frage klingt wie aus einem düsteren Science-Fiction-Roman. Doch Yuval Noah Harari meint es ernst. In der schwedischen Kultursendung Babel spricht der Historiker mit Moderatorin Jessika Gedin über die wachsende Macht von KI – und warnt: Die Welt, wie wir sie kennen, steht auf dem Spiel. Harari macht klar, dass KI nicht einfach ein neues Werkzeug ist. Sie entscheidet selbst, agiert unabhängig – und sie verändert unsere Gesellschaft bereits jetzt.

Besonders deutlich wird das auf sozialen Plattformen. Wer heute Nachrichten konsumiert, Videos schaut oder in Kommentarspalten stöbert, begegnet Inhalten, die nicht zufällig erscheinen.

Algorithmen entscheiden, was wir sehen – nicht weil es wahr ist, sondern weil es uns bei der Stange hält.

Yuval Noah Harari

Was uns aufregt, klickt besser. Deshalb landen Verschwörungstheorien, Lügen und Hetze immer öfter ganz oben im Feed.

Algorithmen verstärken Hass – weil Wut Klicks bringt

Was wie eine technische Feinheit klingt, hat reale Folgen: Polarisierung, Misstrauen, gesellschaftliche Spaltung. Wenn sich Menschen nur noch empören, geht der Raum für Verständigung verloren. Und genau das passiert bereits – in Deutschland wie weltweit. Die KI trifft diese Entscheidungen nicht aus Bosheit, sondern weil sie dafür programmiert wurde, Engagement zu maximieren. Doch Engagement ist nicht gleich Erkenntnis. Was viral geht, ist oft das Lauteste – nicht das Klügste.

Noch stammt der Großteil der Inhalte von Menschen. Doch das ändert sich. KI kann mittlerweile Texte, Videos und Bilder selbst erzeugen – und damit gezielt manipulieren. Wer kontrolliert künftig, was in Millionen Köpfen ankommt?

Yuval Noah Harari warnt mit „Nexus“ vor KI – und blickt weit über die Gegenwart hinaus

Yuval Noah Harari gehört zu den bekanntesten Intellektuellen der Gegenwart. Der israelische Historiker wurde durch seinen Bestseller Eine kurze Geschichte der Menschheit weltweit bekannt. Er verbindet historische Analyse mit philosophischen Fragen und wagt dabei regelmäßig den Blick nach vorn – auf eine Zukunft, in der Technologie, Macht und Menschlichkeit neu verhandelt werden müssen.

In seinem aktuellen Buch Nexus untersucht Harari die Geschichte globaler Informationsnetzwerke – vom Lagerfeuer in der Steinzeit bis zur künstlichen Intelligenz. Seine These: Wer verstehen will, was uns bedroht, muss wissen, wie Menschen Informationen erzeugen, teilen – und manipulieren.

Wahrheit hat es schwer – vor allem im Netz

Harari erinnert an eine unbequeme Wahrheit: In einem freien Informationsmarkt gewinnt nicht automatisch die Realität. Im Gegenteil. „Wahrheit ist kompliziert und anstrengend. Lügen sind einfach, billig und bequem“, sagt er im schwedischen Fernsehen. Während Journalisten recherchieren, prüfen und gegenlesen, reicht auf der anderen Seite ein viraler Satz, um Stimmung zu machen. Ohne gezielte Förderung bleibt Wahrheit auf der Strecke.

Dabei ist die Verlockung groß, zu glauben, der Markt wird es schon richten. Doch das hat in der Geschichte nie funktioniert – nicht bei der Dampfmaschine, nicht im Atomzeitalter. Und es wird bei künstlicher Intelligenz kaum anders sein.

Wer Geschichte kennt, erkennt Warnsignale

Harari zieht Parallelen zur industriellen Revolution. Damals probierten Gesellschaften völlig neue Modelle aus, um den Wandel zu bewältigen: Kolonialismus, Kommunismus, Faschismus. Jede dieser Ideen führte zu Gewalt, Unterdrückung und Weltkriegen. Erst nach vielen Irrwegen fanden einige Staaten einen halbwegs funktionierenden Weg – die Demokratie.

„Wenn wir denselben Irrweg mit KI und Biotechnologie wiederholen, ist der Schaden kaum vorstellbar“, sagt Harari. Niemand wisse derzeit, wie eine KI-gesteuerte Gesellschaft aussehen soll – aber erste Experimente laufen längst. Ohne klare Regeln könnte sich Geschichte wiederholen. Nur schneller. Und global.

Bürokratie formt unser Leben – nicht geheime Strippenzieher

Ein weiterer blinder Fleck: die Macht der Verwaltung. Während Serien und Filme Politik als Kampf zwischen Dynastien inszenieren, wird die stille Macht der Bürokratie kaum thematisiert. Dabei steuern Behörden, Verwaltungen und Institutionen fast alle Lebensbereiche – von der Gesundheitsversorgung bis zur Steuererklärung.

Harari warnt: „Wenn Menschen die Mechanismen nicht verstehen, glauben sie an Verschwörungen.“ Begriffe wie „Deep State“ gewinnen Zulauf – dabei steckt oft nur ein undurchsichtiges Verwaltungssystem dahinter, das schlecht erklärt, aber keineswegs bösartig ist.

Realismus statt Illusion – der Mensch kann handeln

Was also tun? Weder Panik noch rosige Hoffnung helfen weiter. Harari plädiert für Realismus: „Wir haben die Ressourcen und das Wissen, um die großen Krisen zu bewältigen.“ Das gelte für KI ebenso wie für die Klimakrise. Entscheidend sei, jetzt zu handeln – bevor Systeme entstehen, die sich nicht mehr stoppen lassen.

Ein Beispiel liefert der Klimaschutz. Laut Harari kostet es rund zwei bis fünf Prozent der weltweiten Wirtschaftsleistung, um katastrophale Folgen zu verhindern. Das klingt viel – ist aber machbar. Politik kann solche Summen bewegen. Die Menschheit steht also nicht ohnmächtig vor dem Abgrund. Aber sie muss handeln – und zwar rechtzeitig.

Kurz zusammengefasst:

• Algorithmen steuern längst, was Menschen online sehen – und verstärken dabei gezielt Empörung, Lügen und gesellschaftliche Spaltung.
• Yuval Noah Harari warnt: Ohne klare Regeln kann KI dieselben historischen Fehler auslösen wie frühere technologische Umbrüche.
• Wahrheit setzt sich nicht von allein durch: Sie braucht Schutz und aktive Förderung, um im digitalen Raum bestehen zu können.

Übrigens: Auch Nobelpreisträger Geoffrey Hinton warnt, dass KI bald so überlegen sein könnte, dass sie uns wie Dreijährige manipuliert. Warum er glaubt, dass niemand mehr weiß, wie sich KI noch sicher regulieren lässt – mehr dazu in unserem Artikel.

Bild: © Martin Kraft via Wikimedia unter CC BY-SA 4.0