Puh, schwieriges Thema... Schon seit einiger Zeit ist das iPhone ja bekanntermaßen in der Lage, die lokal gespeicherten Fotos auf deren Inhalte zu analysieren und dabei beispielsweise Objekte oder auch Gesichter zu erkennen. Diese Funktion wird ab morgen offenbar weiter ausgebaut. So berichtet der Sicherheitsforscher und Professor an der Johns Hopkins University Matthew Green, dass Apple ab morgen das iPhone in die Lage versetzen wird, die auf ihm lagernden Bilder auch auf darauf möglicherweise zu sehenden Kindesmissbrauch zu überprüfen. Für die auf die iCloud-Server hochgeladenen Bilder gilt dies bereits seit einiger Zeit.

Die Überprüfung auf dem iPhone soll dadurch geschehen, dass Hashwerte von bekannten Missbrauchs-Fotos an das iPhone gesendet werden und die darauf gespeicherten Fotos damit dann abgeglichen werden. Auf den ersten Blick sicherlich ein sinnvoller und begrüßenswerter Schritt, der auf der anderen Seite allerdings auch durchaus negative Nachwirkungen haben kann.

These tools will allow Apple to scan your iPhone photos for photos that match a specific perceptual hash, and report them to Apple servers if too many appear.

— Matthew Green (@matthew_d_green) August 5, 2021

So sind die Hashwert-Abgleiche keinesfalls eine sichere Methode, um die Bilder zu checken, so dass es durchaus wahrscheinlich ist, dass es vermehrt zu sogenannten False-Positives kommen kann, also Meldungen einer Erkennung, obwohl auf dem Foto komplett harmlose Motive zu sehen sind. Dies wiederum könnte dann zu Beschuldigungen von Personen führen, die sich eigentlich gar nichts zu schulden haben kommen lassen. Gerade beim Thema sexueller Missbrauch von Kindern ein mehr als dünnes Eis. Wie Green zu bedenken gibt, ist es zudem möglich, Bilder bewusst so zu manipulieren, dass der Erkennungs-Algorithmus Alarm schlägt. Möchte man jemandem also etwas anhängen und verfügt über die entsprechenden Möglichkeiten, wäre auch dies möglich.

Eine große Gefahr sieht der Sicherheitsexperte außerdem darin, dass das sogenannte "digital fingerprinting" von Behören und totalitären Regimen auch dazu genutzt werde könnte, um nicht nur Kinderpornografie zu entdecken, sondern auch beliebige andere Inhalte. Wird also die entsprechende Infrastruktur auf Basis der Hashwerte auf den Geräten erst einmal eingerichtet, könnte man hiermit beispielsweise auch andere Inhalte auf dem iPhone, wie beispielsweise die eigentlich Ende-zu-Ende verschlüsselten iMessage-Nachrichten mit entsprechenden Informationen abgleichen und diese somit mehr oder weniger ausspionieren. Ein Thema, welches gerade auch im Rahmen der Diskussion um die Pegasus-Spyware heiß diskutiert wurde.

Zu bedenken gilt es dabei aktuell noch, dass sich Apple offiziell zu dem Thema noch gar nicht geäußert hat, es sich momentan also nur um ein Gerücht handelt. Sollte das Thema jedoch tatsächlich umgesetzt werden, fordert Green, dass Apple die verwendeten Algorithmen offenlegt, um sie von unabhängigen Stellen auf Herz und Nieren prüfen zu lassen. Allerdings äußert Green auch Bedenken, ob Apple das Thema überhaupt öffentlich bekannt machen wird.

Apple should commit to publishing its algorithms so that researchers can try to develop “adversarial” images that trigger the matching function, and see how resilient the tech is. (I will be pleasantly but highly surprised if Apple does this.)

— Matthew Green (@matthew_d_green) August 5, 2021