Algorithmischer Bias

Maschinelles Lernen reproduziert die Verzerrungen in den Trainingsdaten — und verstärkt sie über die Empfehlungsschleife. In Dating-Apps verbindet sich das mit einem ökonomischen Anreiz, der Fairness aktiv abwertet.

Rassistische Verzerrung

Cornell-Studien dokumentieren: Plattformen mit expliziten ethnischen Filtern oder Empfehlungsmodellen, die historische, voreingenommene Präferenzen extrapolieren, zeigen messbare rassistische Segregation. [37]

Filter-Werkzeuge — „nur Personen ethnischer Gruppe X anzeigen” — sind keine neutrale Personalisierung. Sie reproduzieren und legitimieren strukturelle Vorurteile in einem Bereich (Partnerwahl), in dem die meisten Gesellschaften juristisch Antidiskriminierung verankert haben.

Forschungsempfehlung: Re-Design der Auswahl-Affordances, Förderung von Cross-Gruppen-Empfehlungen, Filter-Entfernung — keine technische Frage, eine Designentscheidung. [37]

Popularitäts-Bias

Collaborative Filtering verstärkt Mehrheitsmeinungen exponentiell:

1. Profil A bekommt viele Likes → wird als „relevant” markiert.
2. Algorithmus zeigt es mehr Nutzern → noch mehr Likes.
3. Die Spitze konzentriert weiter, der Mittelteil rutscht ab.

In ökonomischen Simulationen führt ein unvoreingenommener Algorithmus (jede Person mit gleicher Wahrscheinlichkeit anzeigen) zu deutlich höheren durchschnittlichen Match-Raten — aber niedrigeren Plattform-Umsätzen, weil die illusionäre „Spitze immer in Reichweite”-Dynamik wegfällt. [38] Folge: Plattformbetreiber haben aktive ökonomische Anreize, populäre Profile zu pushen, obwohl es die Match-Wahrscheinlichkeit für den Durchschnittsnutzer senkt.

Sozioökonomische Verstärkung

Wie in Algorithmische Mechanik gezeigt, gewichten Empfehlungssysteme implizite Einkommens- und Bildungssignale unterschiedlich nach Geschlecht. [22] Diese geschlechtsspezifische Gewichtung wird nicht aktiv kodiert, sondern durch das Trainingsmaterial erlernt — und verfestigt damit Muster, die soziologisch problematisch und politisch umstritten sind.

Was Fairness-Frameworks tun

FAIR-MATCH und ähnliche multi-objektive Ansätze versuchen, Bias zu reduzieren durch: [26, 28]

• Demografische Balance-Constraints: keine Gruppe darf systematisch unter-empfohlen werden.
• Reziprozitäts-Gewichtung: Score nicht für „X likt Y wahrscheinlich”, sondern für „X und Y mögen sich gegenseitig wahrscheinlich”.
• Diversität-Bonus: Empfehlungsliste enthält Profile außerhalb des historischen Klusters.

In der Praxis sind solche Frameworks selten implementiert — sie senken die in Monetarisierung beschriebenen Engagement-KPIs.

Was bedeutet das für Nutzer

• Die Personen, die dir die App häufig zeigt, sind nicht zwangsläufig die kompatibelsten — sie sind die populärsten innerhalb deines Filter-Konus.
• Filter, die als „Komfort-Feature” beworben werden (ethnisch, religiös, Bildung), sind in Aggregaten dokumentierter Treiber von Segregation. [37]
• Was du nicht siehst, ist algorithmisch entschieden — nicht das Ergebnis deiner expliziten Präferenz.

Bias in Recommender-Systems ist keine Frage „böser Code”. Sie ist die Summe aus Datenverzerrung, Geschäftsmodell und Designentscheidung — und damit korrigierbar, wenn der Anreiz dafür besteht.