Gesichtserkennung: Rückbau einer diskriminierenden Überwachungstechnologie beginnt
Dein Gesicht verrät nicht nur deine Identität, sondern auch deine Emotionen. Deswegen werden Technologien zur Gesichtserkennung seit vielen Jahren darauf trainiert, Menschen und ihre Gefühle möglichst exakt zu erkennen – für unterschiedlichste Zwecke. Das geht jetzt aber nicht nur Datenschützern, sondern mittlerweile auch den Herstellern selbst zu weit.
Und so hat Amazon mitten in den (teilweise gewaltsamen) landesweiten Protesten gegen Polizeigewalt in den USA angekündigt, dass die Polizei nun ein Jahr lang nicht mehr Amazons Gesichtserkennungstechnologie Rekognition benutzen darf. Dieses Moratorium solle dem US-Kongress genug Zeit geben, um entsprechende Gesetze zu erlassen, die die Technologie und ihren Einsatz regulieren. Denn: Amazon selbst, wohl wissend, wie gut oder schlecht Gesichtserkennung bei der Polizei funktioniert, fordert selbst strengere Richtlinien für einen ethisch vertretbaren Einsatz der Technologie.
Ankündigung während Protesten gegen Polizeigewalt
Genaue Gründe für das einjährige Moratorium gibt Amazon nicht an – aber Beobachter vermuten, dass es damit zu tun hat, dass Gesichtserkennung vorgeworfen wird, farbige Menschen schlechter oder falsch erkennen zu können als Weiße. Fehlerhafte Auswertungen könnten im Zusammenhang mit Polizeiermittlungen fatale Folgen haben.
Amazon ist nicht das einzige Unternehmen, dass Facial-Recognition-Tech einschränkt. Zuvor hatte IBM verkündet, künftig komplett auf den Verkaufs von Gesichtserkennungsprodukten zu verzichten – und forderte in einem Brief an Abgeordnete des US-Kongresses eine Diskussion darüber, ob und wie Gesichtserkennungstechnologie von Strafverfolgungsbehörden eingesetzt werden. Auch bei Google gibt es eine Forderung, dass solche Technologie für den Einsatz bei der Polizei verboten werden solle (mehr dazu hier). Auch hier wird angeführt, dass die Erkennung von Gesichtern farbiger Frauen viel schlechter funktioniere als jene weißer Männer.
Schließlich hat auch Microsoft verkündet, keine Gesichtserkennungs-Software mehr an die US-Polizei zu verkaufen. Der IT-Konzern verlangt schon seit 2018 nach neuen staatlichen Regeln über den Einsatz der Technologie.
Jahrelange Kritik
Gesichtserkennung wird von Kritikern seit vielen Jahren als Überwachungswerkzeug abgelehnt, das Fehler produzieren kann. Die Stadt San Francisco, immerhin das Herz der westlichen Tech-Welt, hat wie berichtet Mitte 2019 beschlossen, dass Gesichtserkennung im öffentlichen Raum durch Behörden und Polizei verboten, um die Bürgerrechte zu schützen. Auch die EU hat ein einstweiliges Verbot der Technologie angedacht, bis technologisch klar ist, wie gut sie funktioniert, und politisch geklärt wurde, wo man sie nun einsetzen darf und wo nicht. Ein Verbot wurde aber bisher in der EU nicht beschlossen.
Die Proteste in den USA gegen Polizeigewalt scheinen nun ein Katalysator für eine neue Diskussion über die Technologie und ihren Einsatz einzuläuten. Vor einem Jahr noch sah die Sache anders aus: Damals wurde bekannt, dass IBM seine AI für Gesichtserkennung mit Fotos trainierte, die frei im Internet verfügbar waren (unter Creative-Commons-Lizenz auf Flickr). Betroffen davon waren auch hunderte Bilder des Kärntners Georg Holzer – und darauf abgebildete Personen (Trending Topics berichtete).
