SITUATION #194

Autokratische Regierungen haben die intelligente Erkennungssoftware so weit wie noch nie vorangetrieben: Bahnbrechende Entwicklungen in der K.I. haben dazu geführt, dass sich die automatische Erkennung heute in Echtzeit auf jeden verfügbaren digitalen und physischen Fussabdruck skalieren lässt. Dies führt zu einem noch nie dagewesenen Grad an Überwachung und Staatskontrolle. Automatisierte Gesichtsalgorithmen können nicht nur das Alter und Geschlecht einer Person in wenigen Sekunden erkennen, sondern auch deren sexuelle Orientierungen und politische Ansichten erfassen. Die Technologie wird bereits eingesetzt, um aus den Milliarden von gescannten Social Media Profilbildern Gesichter zur Strafverfolgung zu erkennen. Sozialkreditsysteme, die derzeit in China erprobt werden, nutzen die Gesichtserkennung, um Bürger_innen automatisch Punkte zu vergeben, die an bestimmte Rechte geknüpft sind. Wir sind Zeug_innen einer beispiellosen Verletzung der Privatsphäre, die erst an ihren Anfängen steht.

Mit Face/Off Singularity, einem vom Fotomuseum im Rahmen von SITUATIONS/Deviant in Auftrag gegebenen Online-Projekt, bietet David Dao eine interaktive Web-Demo, die Nutzer_innen über den Missbrauch der Gesichtserkennungstechnologie aufklärt. Darüber hinaus präsentiert sie aktuelle Forschungsarbeiten zur Bekämpfung von automatisierten Algorithmen. Eine vielversprechende Technologie ist die der sogenannten „adversarial perturbations“ – der „kontradiktorischen Störung“, über die Profilbilder so verändert werden, dass es für das menschliche Auge zwar unsichtbar bleibt, nicht aber für eine Maschine. So lässt sich die Identität eine_s/r Nutzer_in vor der automatischen Erkennung verbergen. Face/Off Singularity bietet ein Werkzeug, um mit ‚widersprüchlichen‘ Profilbildern herumzuexperimentieren und über die Wissenschaft dahinter aufzuklären.

Hier geht’s zur Online-Arbeit Face/Off Singularity: awfulai.com

Mehr von David Dao: daviddao.org