Der Software-Riese Microsoft bietet eine Reihe von Bildanalyse-Tools an, darunter auch eines zur Gesichtserkennung. Damit lassen sich Menschen entweder identifizieren oder kategorisieren.
So kann die Funktion Gesichtsüberprüfung zwei verschiedene Fotos einer Person vergleichen - etwa ein Porträtfoto und das Bild im Ausweis - und entscheiden, ob es sich um dieselbe Person handelt. Der Fahrdienstvermittler Uber nutzt diese Funktion, um die Gesichter von Fahrern mit deren Bild im Führerschein zu vergleichen. Die Gesichtserkennung erkennt, ob jemand männlich oder weiblich ist, eine Brille oder eine Maske trägt, aber auch, welche Gefühle eine Person hat.
Gesichtserkennungs-Software kennt nur zwei Geschlechter
Natürlich funktioniert das niemals einwandfrei und es gibt immer wieder erhebliche Kritik daran, welche Entscheidungen künstliche Intelligenz trifft - und auf welcher Grundlage. Ein Beispiel: Microsofts Gesichtserkennungs-KI unterscheidet beim Geschlecht nur zwischen männlich und weiblich, hat aber keine Kategorie für nicht-binäre Menschen.
Emotionsklassifizierung wird abgeschafft
Diese Kritik hat Microsoft nun offenbar beherzigt. Gesichtsanalysefunktionen, die Rückschlüsse auf Identitätsmerkmale wie Geschlecht oder Alter sowie auf emotionale Zustände ermöglichen sollen, werden abgeschafft, wie Microsoft auf seinem Blog mitteilte.
Das ist das Ergebnis einer gemeinsamen Untersuchung von internen und externen Forschern. So gebe es bei der Emotionsklassifizierung keinen Konsens über eine Definition von "Emotionen". Außerdem sei es nicht gelungen, Emotionen über verschiedene Regionen und demografische Merkmale hinweg zu verallgemeinern.
Verschiedene Missbrauchsgefahren
Microsoft räumte auch das Missbrauchspotenzial seiner Gesichtserkennungssoftware ein, konkret werden im Blog Diskriminierung, die ungerechte Verweigerung von Dienstleistungen oder die Gefahr, Menschen in Stereotypen zu verpacken, genannt.
Diese Gesichtserkennungsfunktionen werden seit dem 21. Juni nicht mehr angeboten, bei Bestandskunden werden sie zum 30. Juni 2023 abgeschaltet.
Andere Gesichtserkennungsfunktionen, die erkennen, ob jemand eine Brille oder eine Maske trägt oder die Position eines Gesichts im Bild erkennen, sind hingegen weiter verfügbar.
Nutzung des Video-Analyse-Tools muss künftig beantragt werden
Kunden können Microsofts Gesichtserkennungs-Funktionen per API in eigene Apps einbinden. Andere Angebote wie der Video-Indexer, der Videos u.a. auf Sprecher, Inhalte und Stimmungen analysiert, sind auf der Microsoft-Website nutzbar. Der Video-Indexer zählt allerdings künftig zu den Tools, für deren Nutzung man sich bewerben und erklären muss, warum und wie man ihn nutzen möchte.
Gesichtserkennung wird auch in einigen anderen Anwendungsfällen eingesetzt. Zahlungsdienstleister und Kreditkarteninstitute nutzen sie zum Bezahlen, Polizeibehörden wie das bayerische Landeskriminalamt versprechen sich dabei Erfolge bei der Kriminalitätsbekämpfung.
Datenschutz-Aktivisten und Politiker, die für Freiheitsrechte eintreten, befürchten hingegen eine umfassende, grundlose Überwachung der gesamten Bevölkerung und den Aufbau einer Art Superdatenbank, in der die biometrischen Daten aller Bürgerinnen und Bürger gespeichert werden.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!