Awareness

KI generierte Gesichter – und was man nutzen kann, um sie zu erkennen

Aktualisiert am

Der Dienst ThisPersonDoesNotExist bietet die Möglichkeit, Bilder von verschiedenen Personen zu erzeugen und diese herunterzuladen. Dabei geht man durch Ki generierte Gesichter sicher, dass keine dieser Personen wirklich existiert.

Ki generierte Gesichter

ThisPersonDoesNotExist greift auf eine künstliche Intelligenz zurück, welche unter anderem von dem Entwickler Tero Karras programmiert wurde. Karras arbeitet bei dem Grafikkartenhersteller Nvidia und nutzt auch Grafikkarten des Herstellers, um die künstlich veränderten Bilder zu erstellen. Der Algorithmus verwendet bereits im Internet existierende Portraits oder Fotos von Personen und verändert anschließend über mehrere Phasen verschiedene Gesichtszüge so sehr, dass man von einer nicht existierenden Person reden kann.

Diese Bilder können dann zum Beispiel von Angreifern verwendet werden, um eine falsches Personenprofil auf einem sozialen Netzwerk zu erstellen. Bei einer gut generierten Version ist es für Nutzer schwierig, diese von einer wirklich echten Person zu unterscheiden. Ähnliche Ki-generierte Objekte gibt es auch in Form von Kunst, Katzen, Pferden und Chemikalien. Letztes zeigt sogar ein 3D Objekt der entsprechenden Chemikalienzusammensetzung, auch wenn diese auf der Erde gar nicht existiert.

Beispielbild von ThisPersonDoesNotExsist
Dieses Bild wirkt wie ein echtes Bild von einem menschlichen Gesicht. Doch tatsächlich ist dieses Bild alleine von einem Computerprogramm erstellt worden.

Nicht fehlerfrei

Auch wenn es ein sehr ausgeklügelter Algorithmus zum Verändern bzw. Generieren der Gesichtszüge ist, arbeitet dieser nicht fehlerfrei. Sind zum Beispiel Ohrringe oder eine Brille vorhanden, so kann es zu einer fehlerhaften Änderung des Bildes kommen. Ein Teil der Brille ist noch zu erkennen oder der eigentlich existierende Ohrring ist nicht vollständig verschwunden. Weiter ist es möglich, dass es im Hintergrund zu verschiedenen „Verwirbelungen“ oder abstrakten Farben und Formen kommt.

Fehlerhafte KI generierte Personen
Künstlich generierte Bilder können manchmal direkt erkannt werden. Dies liegt daran, dass der Computer offensichtliche Fehler in den menschlichen Gesichtern nicht erkennen kann.

KI generierte Gesichter im Internet erkennen

Wie bereits in einem älteren Blogartikel berichtet, gibt es die Möglichkeit von Google eine Rückwärtsbildersuche durchzuführen. Verwendet man diese Bildersuche mit einem Bild von ThisPersonDoesNotExist, so kann es vorkommen, dass das Ergebnis die entsprechende Webseite anzeigt. Dies ist ein eindeutiges Indiz, dass es sich um ein Ki-Generiertes Bild handelt. Weiter kann auf die bereits erwähnten Fehler in der Generierung geachtet werden.

Finden Sie ein Social Media Account, welches ein Bild von ThisPersonDoesNotExist besitzt, ist dies ein Indiz dafür, dass es sich um ein Fake Profil handelt.

Foto des Autors

Jan Hörnemann

Ich bin Jan Hörnemann, TeleTrust Information Security Professional (T.I.S.P.) und seit 2016 leidenschaftlich in der Welt der Informationssicherheit unterwegs. Mein Master of Science in Internet-Sicherheit hat mir ein fundiertes Verständnis für verschiedene Aspekte dieser Branche vermittelt, das ich in meiner laufenden Promotion kontinuierlich ausbaue. In der AWARE7 bin ich Chief Operating Officer und Prokurist, gleichzeitig koordiniere ich die Abteilungen "Informationssicherheit" und "Offensive Services" und sorge dafür, dass alle Projekte reibungslos ablaufen.