KI-Gipfel in Seoul: Der Kampf um die Kontrolle der KI

Dystopische Welt verhindern: Der Kampf um die Kontrolle der Künstlichen Intelligenz

Experten warnen in „Science“ vor unkontrollierter KI und rufen vor dem KI-Sicherheitsgipfel in Seoul zu strengeren Regulierungen auf.

Ein internationales Expertenteam warnt vor den Risiken unkontrollierter Künstlicher Intelligenz (KI). Vor dem zweiten KI-Gipfel in Seoul wurde ein Artikel im „Science“-Magazin veröffentlicht, indem sie zu strengeren Regulierungen aufrufen. Sie befürchten, dass autonome KI-Systeme ohne ausreichende Kontrollen schwere gesellschaftliche Schäden anrichten könnten.

Globales Treffen in Seoul

Am Dienstag startete in Seoul der zweite KI-Sicherheitsgipfel. Dieses wichtige Ereignis findet kurz nach der Veröffentlichung eines kritischen Meinungsartikels statt, in dem 25 Fachleute aus der ganzen Welt ihre Bedenken äußern. Sie betonen die Notwendigkeit, die KI-Entwicklung strenger zu überwachen, um Risiken wie totale Überwachungsstaaten und sogar die Auslöschung der Menschheit zu verhindern. Wie der Guardian meldet, folgt der Gipfel auf das Treffen in Bletchley Park im November 2023, bei dem die ersten 16 Unternehmen freiwillige Sicherheitsstandards für KI unterschrieben haben, wie Rishi Sunak am Vorabend betonte.

Kritik an freiwilligen Standards

Trotz der positiven Resonanz auf die Initiative kritisieren viele die freiwilligen Standards als zahnlos. Unternehmen verpflichten sich lediglich dazu, „auf“ den Austausch von Informationen „hinzuarbeiten“, in Cybersicherheit zu „investieren“ und die Forschung zu gesellschaftlichen Risiken zu „priorisieren“. Sunak hebt hervor, dass diese Verpflichtungen „Transparenz und Rechenschaft über ihre Pläne zur Entwicklung sicherer KI gewährleisten“ sollen. Dies setze einen Präzedenzfall für globale Standards im Bereich der KI-Sicherheit.

Forderung nach strengeren Regeln

Die Experten, darunter auch Philip Torr von der Universität Oxford, heben laut dem Tagesspiegel hervor, dass die Vorteile der KI überwiegen könnten, „wenn wir vorsichtig vorgehen“. Der Vergleich von Stuart Russell von der Universität von Kalifornien in Berkeley bringt es auf den Punkt:

Es gibt mehr Vorschriften für Sandwich-Läden als für KI-Unternehmen.

Diese Aussage unterstreicht das Missverhältnis zwischen der Regulierung alltäglicher Geschäfte und potenziell weltverändernder Technologien.

Gefahr einer dystopischen Zukunft

Ein weiteres bedrohliches Szenario, das die Experten beschreiben, ist das einer „Orwell’schen Zukunft“. In einer solchen könnten KI-Systeme die vollständige Kontrolle übernehmen und einen totalitären Staat etablieren. Die Forderung nach strengeren Gesetzen und klaren Sicherheitsnachweisen ist daher drängender denn je.

Ein Weckruf für die Welt

Die Autoren des Artikels, zu denen auch Yoshua Bengio, ein renommierter Computerwissenschaftler von der Universität Montreal, gehört, fordern weltweit politische Maßnahmen. Nur so könnten die Risiken, die mit fortschrittlichen KI-Systemen einhergehen, effektiv eingedämmt werden. Laut Bengio ist es höchste Zeit, von vagen Vorschlägen zu konkreten Verpflichtungen überzugehen, um die Menschheit zu schützen. Es sei entscheidend, jetzt zu handeln und nicht erst, wenn die Technologie außer Kontrolle gerate.

Was du dir merken solltest:

Ein internationales Expertenteam hebt in „Science“ hervor, dass die Entwicklung autonomer KI-Systeme strenger reguliert werden muss, um schwerwiegende gesellschaftliche Risiken zu vermeiden.
Vor dem KI-Gipfel in Seoul warnen die Fachleute vor der potenziellen Etablierung totalitärer Staaten und der möglichen Auslöschung der Menschheit durch unkontrollierte KI.
Sie fordern weltweit verbindliche Maßnahmen und klare Standards zur Sicherung der KI-Entwicklung, um die Vorteile der Technologie sicher und verantwortungsbewusst zu nutzen.