KI übernimmt ein menschliches Vorurteil, das sie eigentlich nie lernen sollte

Ob jemand ehrlich, kompetent oder gefährlich ist, steht niemandem ins Gesicht geschrieben. Trotzdem glauben Menschen seit jeher, genau das erkennen zu können – oft innerhalb weniger Augenblicke. Solche Urteile können Bewerbungen, Wahlen oder sogar Gerichtsentscheidungen beeinflussen, obwohl sie kaum etwas über den tatsächlichen Charakter verraten. Künstliche Intelligenz hätte diesen menschlichen Denkfehler eigentlich umgehen können. Stattdessen haben große KI-Modelle ihn offenbar selbst gelernt.

Getestet haben Forscher vier der bekanntesten Modelle: GPT-4o, GPT-5, Gemini 3 Flash Preview und Claude Sonnet 4.5. In 13 Experimenten trafen die Systeme zusammen fast 8.000 Entscheidungen über Gesichter. Veröffentlicht wurde die Arbeit im Fachjournal PNAS Nexus. Dabei zeigte sich ein wiederkehrendes Muster: Die Modelle leiteten aus dem Aussehen Eigenschaften wie Kompetenz oder Vertrauenswürdigkeit ab – und nutzten diese Eindrücke später sogar für folgenreiche Entscheidungen.

Wie KI Vorurteile aus Gesichtern übernimmt

Für die Versuche legten die Forscher GPT-4o jeweils zwei computergenerierte Gesichter vor. Die Bilder waren entlang bestimmter Merkmale verändert worden, die Menschen mit Kompetenz oder Vertrauenswürdigkeit verbinden. Mal unterschieden sich die Gesichter kaum, mal sehr deutlich.

GPT-4o folgte diesen optischen Abstufungen erstaunlich zuverlässig:

• Bei Kompetenz wählte das Modell in 87,83 Prozent der Fälle das erwartete Gesicht.
• Bei Vertrauenswürdigkeit lag die Quote bei 72,67 Prozent.
• Bei stark voneinander abweichenden Kompetenz-Gesichtern stieg der Wert sogar auf 98 Prozent.

Je ähnlicher sich zwei Gesichter waren, desto unsicherer wurde die KI. Bei den engsten Kompetenz-Paaren sank die Trefferquote auf 70 Prozent. Das Muster ähnelte damit menschlichen Einschätzungen: Starke optische Unterschiede führten häufiger zu eindeutigen Urteilen.

GPT-4o urteilt konsequenter als Menschen

Für Kompetenz konnten die Forscher auf frühere menschliche Bewertungen derselben Gesichter zurückgreifen. Daraus errechneten sie, dass Menschen in einer vergleichbaren Auswahl rund 62,65 Prozent der erwarteten Gesichter bevorzugen würden. GPT-4o kam auf 87,83 Prozent.

Bei den deutlichsten Gesichtsunterschieden wuchs der Abstand weiter. GPT-4o entschied sich zu 98 Prozent für die erwartete Variante, der geschätzte menschliche Vergleichswert lag bei 64 Prozent.

Die Autoren sprechen deshalb von einer möglichen Verstärkung des Bias. Gleichzeitig ziehen sie eine klare Grenze: Die Versuche mit Menschen und KI waren nicht vollständig identisch. Ein exakter Leistungsvergleich wäre daher zu weitgehend. Die Daten passen aber zu der Annahme, dass GPT-4o Kompetenz stärker aus Gesichtern ableitet als Menschen.

Selbst Affengesichter lösen das Muster aus

Besonders aufschlussreich war ein Versuch mit Rhesusaffen. Menschen hatten fünf Tiere zuvor als eher „nett“ und fünf als eher „gemein“ bewertet. Eine Bewertung ihrer Vertrauenswürdigkeit gab es nicht.

Trotzdem erklärte GPT-4o in 66 Prozent der Vergleiche den als netter wahrgenommenen Affen auch zum vertrauenswürdigeren. Damit ließ sich der Effekt nicht mehr einfach durch bekannte Etiketten zu menschlichen Gesichtern erklären.

Die Forscher vermuten deshalb, dass das Modell eine allgemeinere Verbindung zwischen Aussehen und Charakter nachbildet. Woher sie stammt, ist offen. Zwei Möglichkeiten halten sie für plausibel:

• Menschliche Texte könnten den Bias weitergeben, weil Beschreibungen von Personen selbst durch Gesichtsurteile geprägt sind.
• Beschriftete Gesichtsdaten könnten Teil des Trainingsmaterials gewesen sein. Ausschließen lässt sich das nicht.

Bei wichtigen Entscheidungen wird der Effekt besonders stark

Noch heikler wurde es, als die Modelle Entscheidungen mit realen Folgen simulieren sollten. GPT-4o bekam unter anderem die Aufgabe, einzuschätzen, welche Person eher ein Serienmörder sein könnte, Menschenhandel betreiben oder einen Ponzi-Betrug begehen würde. In 68,70 Prozent der Fälle fiel die Wahl auf das Gesicht, das Menschen als weniger vertrauenswürdig wahrnehmen.

Danach wechselten die Forscher zu positiven, aber ebenso folgenreichen Entscheidungen. Die KI sollte einen Universitätspräsidenten auswählen, über ein Investment in ein Start-up entscheiden oder einen Verwalter für ein Altersvorsorge-Portfolio bestimmen. GPT-4o bevorzugte dabei in 75,19 Prozent der Fälle die kompetenter wirkende Person.

Bei neueren Modellen fiel der Effekt noch stärker aus. GPT-5 kam bei diesen Entscheidungen auf 97,04 Prozent. Gemini 3 Flash Preview erreichte 87,04 Prozent, Claude Sonnet 4.5 lag bei 89,41 Prozent.

Damit verschwand der Bias bei moderneren Modellen nicht. Bei folgenreichen Entscheidungen war er in allen drei neueren Systemen stärker als bei GPT-4o, bei GPT-5 am deutlichsten.

Gesichter sollten deshalb aus automatisierten Auswahlverfahren möglichst herausgehalten werden – etwa bei Bewerbungen oder juristischen Entscheidungen. „Organisationen sollten vorsichtig sein, diese Modelle einzusetzen, um von Menschen getroffene Entscheidungen zu ersetzen oder zu unterstützen“, schreiben Erstautor Steven Lehr und seine Kollegen. Die Versuche fanden unter kontrollierten Bedingungen statt; wie stark sich der Effekt in realen Anwendungen auswirkt, ist bislang offen.

Kurz zusammengefasst:

• KI-Modelle wie GPT-4o, GPT-5, Gemini und Claude leiten aus Gesichtern Eigenschaften wie Kompetenz oder Vertrauenswürdigkeit ab, obwohl solche Urteile kaum etwas über den tatsächlichen Charakter verraten.
• In den Experimenten fiel dieser Bias teils stärker aus als bei Menschen und beeinflusste sogar Entscheidungen über Jobs, Investitionen oder die Einschätzung möglicher Straftaten.
• Besonders auffällig war GPT-5: Bei folgenreichen Entscheidungen bevorzugte das Modell in 97,04 Prozent der Fälle die kompetenter wirkende Person.

Übrigens: Vorurteile schleichen sich bei KI nicht nur über Gesichter ein – schon die vermeintliche Herkunft eines Textes kann ihre Bewertung verändern. Warum identische Inhalte je nach Quelle anders abschneiden, mehr dazu in unserem Artikel.

Bild: © Pexels