Microsoft verbietet Nutzung von KI für Gesichtserkennung durch US-Polizei

Microsoft verbietet US-Polizeibehörden die Nutzung von KI für Gesichtserkennung. Auch weltweit gelten neue Regeln für Strafverfolgungsbehörden.

Microsoft hat beschlossen, dass die US-Polizei nicht mehr ihre KI-Technologie für Gesichtserkennung verwenden darf. Das meldet TechCrunch. Diese Entscheidung soll sicherstellen, dass die Technologie nicht missbraucht wird. Sie betrifft sowohl aktuelle als auch mögliche zukünftige Modelle.

Verbot für Polizei: Neue Regeln für Gesichtserkennungstechnologie

Die Änderungen in den Nutzungsbedingungen des Azure OpenAI Service untersagen explizit die Verwendung durch US-Polizeibehörden für Gesichtserkennung, sowohl aktueller als auch potenziell zukünftiger Modelle. Zusätzlich zu dem Verbot für US-Polizeibehörden decken die neuen Bedingungen „jede Strafverfolgungsbehörde weltweit“ ab und verbieten die Verwendung von Echtzeit-Gesichtserkennungstechnologie auf mobilen Kameras in unkontrollierten Umgebungen.

Warum hat Microsoft das gemacht?

Microsoft möchte verhindern, dass seine Technologie in einer Weise genutzt wird, die Menschenrechte verletzt oder zu Fehlern führt. Es gibt Bedenken, dass die KI falsche Informationen liefern oder Vorurteile gegenüber bestimmten Gruppen verstärken könnte.

Bedenken wegen Axons Nutzung von OpenAI’s GPT-4

Die Änderungen in der Richtlinien von Microsoft erfolgten eine Woche nachdem Axon, ein Hersteller von Technologie- und Waffenprodukten für Militär und Strafverfolgung, ein neues Produkt angekündigt hatte. Es ist jedoch unklar, ob Axon GPT-4 über den Azure OpenAI Service genutzt hat und ob die aktualisierte Richtlinie eine Reaktion auf Axons Produktankündigung war. Dieses Produkt nutzt OpenAI’s GPT-4 generatives Textmodell, um Audioaufnahmen von Körperkameras zusammenzufassen. Axons Ankündigung stieß jedoch auf Kritik, da Experten schnell auf potenzielle Risiken hinwiesen.

Kritiker betonten, dass selbst die besten generativen KI-Modelle heutzutage Fakten erfinden können, was zu Halluzinationen führen könnte. Darüber hinaus wurde auf die Gefahr von rassistischen Vorurteilen hingewiesen, die aus den Trainingsdaten resultieren könnten. Dies ist besonders besorgniserregend, da Personen mit dunkler Hautfarbe viel häufiger von der Polizei gestoppt werden als weißen Menschen.

Ausnahmen und Zusammenarbeit mit Regierungsbehörden

Die Regel gilt nur für mobile Kameras, nicht für stationäre Kameras in kontrollierten Umgebungen. Microsoft hat auch gesagt, dass sie weiterhin mit Regierungsbehörden zusammenarbeiten, aber mit strengeren Regeln.

Zukünftige Autorisierung für den Azure OpenAI Service durch das Verteidigungsministerium

Microsoft wird die Genehmigung für den Einsatz seiner Technologie durch das Verteidigungsministerium erweitern. Das bedeutet, dass die Technologie möglicherweise auch von der Armee verwendet werden kann.

Was du dir merken solltest:

Microsoft hat beschlossen, der US-Polizei die Nutzung von KI für Gesichtserkennung zu verbieten, um Missbrauch zu verhindern.
Neue Regeln gelten weltweit für Strafverfolgungsbehörden, die die Echtzeit-Gesichtserkennung auf mobilen Kameras einschränken.
Kritik entstand nach Axons Ankündigung eines Produkts, das OpenAI’s GPT-4 nutzt, wegen möglicher Halluzinationen und rassistischer Vorurteile.