Zurück zum User

Anlässlich der Senatorenwahl im US-Bundesstaat Georgia kursierte im vergangenen Jahr ein Tweet. Er zeigte zwei Aufnahmen aus der Fernsehdebatte der beiden Kontrahent:innen. Zu sehen sind auf den fast identischen Bildern jeweils nebeneinander die weiße Kandidatin der Republikaner, Kelly Loeffler, sowie der schwarze Kandidat der Demokraten, Raphael Warnock. Der einzige Unterschied zwischen den Aufnahmen: Die Reihenfolge der beiden dargestellten Personen. Stieß man jedoch auf den Tweet, während man durch die Twitter-Timeline scrollte, erschien in der Vorschau-Anzeige der Aufnahmen zweimal der Bildausschnitt mit der weißen Republikanerin Loeffler – ihren schwarzen Kontrahenten Warnock hingegen blendete Twitter in der Vorschau komplett aus.

Für viele Twitter-Nutzer:innen war dieser Fall ein weiterer Beweis für die diskriminierenden Algorithmen, mit denen die großen sozialen Netzwerke operieren. Nachdem sich seit dem Herbst 2020 konkrete Beschwerden zum automatischen Bildzuschnitt häuften, versprach man bei Twitter, der Sache nachzugehen.

Vergangenen Mittwoch veröffentlichte das META Team, die Twitter-interne Task Force für maschinelles Lernen, Ethik und algorithmische Transparenz, die Erkenntnisse der Untersuchung: Tatsächlich bevorzuge der zuständige Machine-Learning-Algorithmus bestimmte Bildausschnitte auf eine diskriminierende Weise, wie die Datenwissenschaftlerin und Ethikerin Rumman Chowdhury in einem detaillierten Beitrag auf dem Twitter-Blog mitteilte. Beim Vergleich zwischen Männern und Frauen ergab sich eine Differenz von acht Prozent zur demografischen Verteilung zugunsten von Frauen. In Bezug auf die Hautfarbe lag die Differenz bei vier Prozent zugunsten weißer Personen.

Den Vorwurf, dass der Algorithmus einen sexualisierenden, männlichen Blick („male-gaze“) verfolge, habe man in der Studie jedoch nicht bestätigen können, so Chowdhury. Dass der Algorithmus teilweise Bildausschnitte bevorzuge, in denen der Brustbereich oder die Beine einer Person zu sehen seien, habe andere Gründe. Gäbe es keine Gesichter auf dem Bild, suche sich der Algorithmus andere Anhaltspunkte, wie beispielsweise die Nummer auf einem Sporttrikot.

„Die Entscheidung, wie man ein Bild zuschneidet, ist eine Entscheidung, die am besten von Menschen getroffen wird“, beschreibt Rumman Chowdhury die Schlussfolgerungen aus der Studie. Konkret bedeutet das: Twitter-Nutzer:innen werden künftig eine Vorschau des angehängten Bildes sehen und so selbst überprüfen können, wie ihr Tweet angezeigt wird.

Damit beweist man bei Twitter Rückgrat – der transparente Umgang mit dem Problem und die konsequente Schlussfolgerung sind unüblich für das sonst eher unkritische Selbstverständnis der großen Tech-Unternehmen. Die Erkenntnis, dass manche Entscheidungen doch wieder besser bei den Nutzer:innen aufgehoben wären, könnte jedenfalls Schule machen – und liegt wieder näher am pluralistischen und demokratischen Grundgedanken, mit dem die Netzwerke einst gestartet sind.

Titelbild: Akshar Dave/Unsplash