EU verbietet Social Scoring und Emotionserkennung: Neues KI-Gesetz setzt strenge Grenzen

Die Europäische Union hat ein bahnbrechendes Gesetz zur Regulierung von Künstlicher Intelligenz (KI) verabschiedet. Nach Informationen der dpa haben die EU-Länder in Brüssel einem Gesetzesentwurf zugestimmt, der als weltweit erstes seiner Art gilt und als globaler Standard für die KI-Regulierung dienen könnte.

Einheitliche Regeln für KI-Anwendungen

Das neue Gesetz stellt strenge Anforderungen an KI-Systeme, insbesondere wenn sie in sensiblen Bereichen wie kritischer Infrastruktur, Bildung und Gesundheit eingesetzt werden. Es verbietet ausdrücklich Praktiken wie das „Social Scoring“, eine Methode, die in China zur Bewertung des sozialen Verhaltens von Bürgern verwendet wird. Außerdem wird die Nutzung von Emotionserkennungstechnologien am Arbeitsplatz und in Bildungseinrichtungen in der EU untersagt.

Schutz der Bürgerrechte im Vordergrund

Laut dpa zielt das Gesetz darauf ab, die Nutzung von KI in der EU sicherer zu machen, indem es Transparenz, Nachvollziehbarkeit und Nichtdiskriminierung der Technologien gewährleistet. Gesichtserkennung durch Videoüberwachung im öffentlichen Raum wird grundsätzlich verboten, mit Ausnahmen für die Verfolgung schwerer Straftaten durch Polizei und Sicherheitsbehörden.

Kritik und Herausforderungen der Implementierung

Der Digitalverband Bitkom äußerte Bedenken, dass das Gesetz viele wichtige Fragen offen lässt und die eigentliche Regulierungsarbeit in Deutschland und anderen EU-Staaten nun erst beginnt. Der Verbandspräsident Ralf Wintergerst betonte, dass es entscheidend sei, wie die Regulierungen umgesetzt werden und ob sie Innovationen fördern oder behindern.

Flexibilität in der Regulierung gefordert

Bundesdigitalminister Volker Wissing wies darauf hin, dass die Regulierung einer sich schnell entwickelnden Technologie wie der KI eine kontinuierliche Herausforderung darstellt. Er plädierte dafür, den Regulierungsprozess zügig voranzutreiben, jedoch auch bereit zu sein, Anpassungen vorzunehmen, um die Innovationsfreundlichkeit zu erhalten.

Konsequenzen bei Nichteinhaltung von EU-Gesetz

Nach der Veröffentlichung des Gesetzes im EU-Amtsblatt und dem Inkrafttreten 20 Tage später, sind Unternehmen verpflichtet, die neuen Regeln einzuhalten. Bei Verstößen drohen ihnen, laut der dpa, von den Mitgliedstaaten festgelegte Geldstrafen. Bürger, die Regelverstöße bemerken, können diese bei den nationalen Behörden melden, die dann entsprechende Untersuchungen einleiten und Strafen verhängen können.

Das Gesetz gilt für alle Akteure, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen, und betrifft sowohl öffentliche als auch private Organisationen innerhalb und außerhalb der EU.

Was du dir merken solltest:

• Das neue EU-Gesetz schafft einheitliche Anforderungen für den Einsatz von Künstlicher Intelligenz, besonders in sensiblen Bereichen wie Gesundheit und Bildung. Es verbietet Methoden wie „Social Scoring“ und die Nutzung von Emotionserkennungstechnologien, um die Bürgerrechte zu schützen.
• Das Gesetz gewährleistet die Sicherheit und Ethik der KI-Nutzung durch Transparenz und Nichtdiskriminierung. Gesichtserkennung durch Videoüberwachung wird weitgehend untersagt, jedoch sind Ausnahmen bei der Verfolgung schwerer Straftaten möglich.
• Bei Nichteinhaltung des Gesetzes drohen Unternehmen Strafen. Der Gesetzgeber betont die Wichtigkeit eines anpassungsfähigen Regulierungsprozesses, um die Balance zwischen Sicherheit und Innovationsförderung zu halten.

Bild: © Vecteezy