KI ausgetrickst

Tarnkleidung überlistet Gesichtserkennung

27. Oktober 2022, 15:03 Uhr | Lars Bube | Kommentar(e)
Tarnkappenpullover
Über Geschmack lässt sich bekanntlich streiten - aber wenn´s unsichtbar macht...
© Computer Sciences University of Maryland

Amerikanische Studenten haben einen Pullover entwickelt, der seinen Träger für Gesichtserkennungssoftware unsichtbar macht. Möglich macht das ein spezielles Muster, das die Aufmerksamkeit der künstlichen Intelligenz stört.

Software zur automatischen Erkennung und Identifizierung von Personen verbreitet sich immer weiter. Sie kann in vielen Bereichen helfen, Prozesse zu beschleunigen und vereinfachen, indem sie etwa bei der Zwei-Faktor-Authentifizierung für die Zutrittskontrolle in Gebäuden und digitalen Systemen eingesetzt wird, oder flüchtige Straftäter auf öffentlichen Plätzen identifiziert und meldet. Gleichzeitig kann sie aber auch von autoritären Regimen oder Kriminellen als Überwachungsinstrument missbraucht werden. Doch auch wenn die Systeme immer besser werden, gibt es Wege sich vor der Erkennung zu schützen, ohne dafür gleich eine Silikonmaske oder Papiertüte über dem Gesicht tragen zu müssen. Eine zumindest technisch deutlich elegantere Methode dafür haben jetzt Informatikstudenten der University of Maryland vorgestellt.

Ihr Ansatz war es zu untersuchen, ob sich die KI auch mit Veränderungen außerhalb des Gesichtsbereichs austricksen lässt. Dazu untersuchten sie die Maps, welche die Software bei der Erkennung von Bildern anlegt und versuchten zunächst, diesen Prozess gezielt mit verschiedenartig manipulierten Bildern zu beeinflussen. Mit den dabei gewonnenen Erkenntnissen ist es ihnen dann tatsächlich gelungen, ein sogenanntes „Adversarial Pattern“, also ein widersprüchliches störendes Muster, zu entwickeln, das die Gesichtserkennungssoftware so ablenkt und verwirrt, dass sie darüber das zugehörige Gesicht völlig aus dem Blick verliert. Anschließend druckten die Studenten ein entsprechendes Bild in Form einer verwaschen wirkenden Straßenszene auf einen Pullover und Langarm-Shirts und testeten die Wirkung in Echtzeit. Mit Erfolg, wie mehrere Videos von den Tests beweisen: Sobald sich die Probanden das Kleidungsstück anziehen oder vor den Körper halten, versucht die Software in dem Bild Menschen und Gesichter zu finden und identifiziert dafür den Träger selbst nicht mehr als Person.

Der einzige Nachteil der digitalen Unsichtbarkeit: In der analogen Welt dürfte man mit den Tarnkappenoberteilen umso mehr auffallen, denn modisch geben sie ebenfalls ein gehörig schiefes Bild ab. Jeder der zur Weihnachtszeit alljährlich wieder auftauchenden „ugly Sweater“ ist dagegen eine Augenweide. Zu kaufen geben wird es entsprechende Kleidungsstücke wohl sowieso nicht. Im Gegenteil wollen die Forscher ihre Erkenntnisse nutzen, um die Gesichtserkennungsalgorithmen so weiterzuentwickeln, dass sie sich von solchen Störmustern nicht mehr aus dem Konzept bringen lassen.


Verwandte Artikel

ICT-CHANNEL

Künstliche Intelligenz

Panorama

Matchmaker+