Die Cyberfeministin

Von Yasmin Billeter

Sexismus: Künstliche Intelligenz benachteiligt Frauen systematisch. Regula Perschak hat sich dazu in ihrer Abschlussarbeit mit sexistischen Algorithmen befasst. Wie manifestieren sich Stereotype in KI und wie können diese durchbrochen werden?

«Sexismus ist ein Thema, das alle betrifft, jedoch oft nicht so ernst genommen wird», sagt Regula Perschak. Deshalb wollte sie in ihrer Abschlussarbeit im Studiengang Digital Ideation das Thema beleuchten und Sexismus im Cyberspace sichtbar machen. «Während des Prozesses habe ich gemerkt, dass Sexismus vor allem in der Technik selbst existiert.»

Wie sich dies äussert, zeigt Perschak am Beispiel von Googles Bilderkennungs-KI «Cloud Vision». Diese erlaubt es, anhand von Attributen wie Kleidung oder Posen, welche auf den Bildern erkannt werden, eine Zuordnung zu machen, wie weiblich oder männlich eine Person ist. Dass so Stereotypen reproduziert werden, zeigt Perschak auf einem Instagram-Account und in Form einer interaktiven Video-Installation an der aktuellen Werkschau.

Mit welchen Daten wird das lernende System gefüttert?

«Es ist nicht so, dass die KI sexistisch wäre», betont Perschak. Vielmehr imitiert sie das Verhalten der Menschen. Die Absolventin fragt sich, ob es überhaupt nötig ist, in männlich und weiblich einzuteilen. «Reicht es nicht zu wissen, dass es ein Mensch ist?»

«Reicht es nicht zu wissen, dass es ein Mensch ist?»

Regula Perschak

Dass Googles KI Menschen vermeintlich männlich oder weiblich einstuft, sei per se nicht falsch, so Perschak. «Je nach dem wofür die KI eingesetzt wird, kann es jedoch zu einem Problem werden».

Jüngstes Beispiel: Amazon musste ein computergestütztes Rekrutierungsprojekt stoppen, weil es Frauen diskriminierte. Da Amazon in der Vergangenheit mehr Männer als Frauen eingestellt hat, war es in der Logik des Tools vorteilhaft, ein männlicher Bewerber zu sein. Das System hat die Diskriminierung aus den Daten abgeleitet. «Die Trainingsdaten sind die grösste Hürde beim maschinellen Lernen», sagt Regula Perschak.

Was kann man gegen diese Verzerrungen tun?

«Da hilft es nur, mit möglichst diversen Daten zu trainieren», so Perschak. Ausserdem könne jede und jeder von uns auch selbst Bilder labeln bzw. absichtlich falsch kategorisieren.

Die geschlechtsneutrale Bilderkennung erfüllt übrigens eine alte Forderung des Cyberfeminismus: Mittels Technologie herkömmliche Geschlechtergrenzen zu unterlaufen, anstatt sie, wie es in der Regel geschieht, noch weiter zu bestärken.

Die Realität sieht heute jedoch so aus, dass sich stereotypisierte Labels schon längst durchgesetzt haben. «Kategorien wie ‹Fashion›, ‹Beauty› oder ‹Selfie› werden hauptsächlich bei Frauen angezeigt», so Perschak.

Mit dem Thema ihrer Abschlussarbeit hat die Zürcherin den Zeitgeist getroffen. Sie freut sich, dass das Thema auf Resonanz stösst und in den Medien diskutiert wird. Klare Sache, dass sie am Tag des Frauenstreiks für die Frauenrechte auf die Strasse ging, statt wie geplant am Aufbau ihrer Installation an der Werkschau zu arbeiten. «Die Forderungen des Streiks waren so wichtig, dass ich mich entschieden habe, hinzugehen.»

Nach der Werkschau naht das Ende des Studiums. «Es ist schön und traurig zugleich», so Perschak. Was genau sie danach machen möchte, weiss sie noch nicht. «Mir stehen viele Türen offen», sagt sie. «Vielleicht gehe ich nach Belgien. Ich habe mich dort beim KASK-Konservatorium in Gent für den Bereich Medienkunst beworben.»

Veröffentlicht am 27.06.2019

Aktualisiert am 14.06.2022: Vor drei Jahren hoffte Regula Perschak noch darauf, einen zweiten Bachelor im Bereich Grafik zu machen. «Ich hatte zu diesem Zeitpunkt keine Energie mehr, mich in die männerdominierte Informatik-Welt zu begeben.» Inzwischen hat sie die Idee in Realität umgesetzt: «In knapp zwei Wochen schliesse ich in Gent ab. Ich bin gespannt wie es weiter geht.» Eine Option sei es, zurück in die Informatik und in die Digital Design Brache zu gehen: «Ich glaube, dort kann ich noch einiges beitragen.»