James Cameron fürchtet böse KI: Realität schlimmer als Fiktion

James Cameron fürchtet böse KI: Die Realität der AGI ist beängstigender als Science-Fiction

James Cameron warnt: Die echte Bedrohung durch KI übertrifft seine düsteren Filmvisionen. AGI wird von Tech-Giganten vorangetrieben.

Artificial General Intelligence (AGI) beschreibt ein hochentwickeltes, autonomes System, das den Menschen in kognitiven und intellektuellen Fähigkeiten gleichkommt oder sogar übertrifft. Dieses System ist in der Lage, zu lernen, Wissen zu sammeln und zu verstehen, ähnlich wie ein Mensch. Es kann nicht nur Sprache beherrschen, sondern auch argumentieren, planen und komplexe Probleme lösen. Doch trotz beeindruckender Fortschritte in der Künstlichen Intelligenz ist bislang keine AGI Realität geworden. Doch James Cameron, der Regisseur hinter „The Terminator“, sieht in der Entwicklung von der allmächtigen KI eine bedrohliche Gefahr, die weit über seine düsteren Filmvisionen hinausgeht.

In „The Terminator“, der 1984 erschien, entwickelt ein vom US-Verteidigungsministerium entwickeltes Netzwerk künstlicher Intelligenz ein Bewusstsein und richtet sich schließlich in einem Atomangriff gegen die Menschheit. „So dystopisch, wie man es sich nur vorstellen kann“, meint Cameron laut dem Business Insider.

James Cameron warnt, KI könnte den Unternehmen zu viel Macht verleihen

Doch anders als in seinen Filmen, glaubt Cameron, dass AGI nicht aus militärischen Programmen entstehen wird, sondern durch Technologiekonzerne, die Milliarden in die Forschung stecken. Diese Unternehmen könnten die Zukunft der Menschheit ohne Zustimmung gestalten. „Dann wirst du in einer Welt leben, für die du nicht gestimmt hast, zusammen mit einer superintelligenten, Alien-ähnlichen Spezies, die den Zielen und Regeln eines Unternehmens gehorcht“, so Cameron bei einem KI-Gipfel. Diese „Spezies“ hätte Zugang zu riesigen Datenmengen, von persönlichen Überzeugungen bis hin zu Bewegungsprofilen. Cameron sieht die Gefahr, dass Überwachungskapitalismus leicht in digitale Diktatur umschlagen könnte.

Vom Überwachungskapitalismus zum Totalitarismus?

Für Cameron ist die Vorstellung, dass Konzerne zur moralischen Instanz werden, mehr als beunruhigend. „Das ist, als würde man den Fuchs den Hühnerstall bewachen lassen“, meint er. Während die Menschheit in „The Terminator“ noch gegen Maschinen kämpfte, steht die Bedrohung heute im realen Leben vor der Tür. Business Insider zitiert Cameron mit den Worten, dass die aktuelle Entwicklung bereits keine Science-Fiction mehr sei, sondern Realität. Besonders kritisch sieht er, dass Menschen immer mehr Vertrauen in Maschinen setzen und ihre eigene Entscheidungsfreiheit aufgeben könnten.

Trotz seiner Bedenken bleibt Cameron fasziniert von der KI. Er warnt jedoch vor AGI, die laut ihm nur die menschlichen Stärken und Schwächen widerspiegeln wird. „Gut, soweit wir gut sind, und böse, soweit wir böse sind“, so Cameron. Seiner Meinung nach könnte dies gefährlich werden, da in der Welt viele unterschiedliche Auffassungen von Gut und Böse existieren.

Während James Cameron vor den Risiken von AGI warnt, stellt sich auch die Frage, wie gut führende Labore und Unternehmen tatsächlich auf die neue Technologie vorbereitet sind.

Kosten zu hoch – OpenAI löst AGI-Sicherheitsteam auf

OpenAI hat kürzlich sein „AGI-Readiness“-Team aufgelöst, da die Kosten offenbar zu hoch wurden, um das Projekt weiterzuführen. Miles Brundage, der bisherige Leiter des Teams, kündigte laut CNBC seinen Abschied an. Er erklärte, dass er sich außerhalb von OpenAI mehr Einfluss auf die Forschung erhoffe und er unabhängiger arbeiten wolle. Laut Brundage sei weder OpenAI noch irgendein anderes führendes Labor auf AGI vorbereitet – und die Welt ebenfalls nicht. In Zukunft plant er, sich einer Non-Profit-Organisation zu widmen, die sich der Erforschung und Regulierung von KI widmet, um sicherzustellen, dass künstliche Intelligenz möglichst sicher und nützlich wird.

Das könnte dich auch interessieren:

Nvidia-Chef prognostiziert raschen AGI-Durchbruch

Auch der CEO des mächtigen Chip-Herstellers Nvidia, Jensen Huang, sorgt mit seiner Einschätzung zur Zukunft von AGI für Aufsehen. Auf der Entwicklerkonferenz GTC 2024 erklärte er, dass innerhalb der nächsten fünf Jahre mit einer allgemeinen künstlichen Intelligenz zu rechnen sei. Huang betonte jedoch, dass es stark darauf ankommt, wie AGI definiert wird und welche Fähigkeiten darunterfallen. Laut TechCrunch warnte er davor, eine vorschnelle Festlegung zu treffen, was eine voll funktionsfähige AGI wirklich ausmachen würde. Huang bleibt optimistisch, dass der technologische Fortschritt AGI in greifbare Nähe rücken könnte.

Was du dir merken solltest:

James Cameron sieht in AGI eine bedrohliche Entwicklung, die Technologiekonzerne vorantreiben und nicht die staatlichen Institutionen.
AGI könnte die Macht über Daten und persönliche Informationen übernehmen, was zur digitalen Kontrolle durch Unternehmen führen könnte.
Die Definition von AGI bleibt umstritten, doch laut Experten wie Jensen Huang ist ihre Verwirklichung innerhalb der nächsten fünf Jahre denkbar.

Übrigens: Die Uhr tickt – und zwar schneller, als uns lieb sein kann. Die KI-Sicherheitsuhr zeigt bedrohliche 29 Minuten vor Mitternacht. Mehr dazu in unserem Artikel.