Neben allen moralischen und datenschutztechnischen Fragen rund um Apples geplante Erkennung von kinderpornografischen Inhalten auf iPhones und Macs stellt sich natürlich auch noch die bislang weniger diskutierte Frage nach der technischen Sicherheit der verwendeten Technologie. Hierzu hat nun ein Entwickler namens Asuhariet Ygvar einen bemerkenswerten Beitrag geliefert. Nach eigener Aussage ist es ihm nämlich gelungen, Apples sogenannte "CSAM Detection" rückzuberechnen. Ygvar entdeckte eine Version von Apples NeuralHash Algorithmus für den Fotoabgleich in den Tiefen von iOS 14.3 und führte hiermit offenbar erfolgreich ein sogenanntes "Reverse-Engineering" in Python durch. Den zugehörigen Code veröffentlichte er inzwischen auf GitHub und trat damit natürlich eine Diskussion los, ob dies nicht vielleicht schon der technische Sargnagel für Apples Pläne sein könnte.

Auf Reddit entbrannte inzwischen ein reges Frage und Antwort Spiel, ob es sich tatsächlich im Apples Algorithmus handeln würde und inwieweit dieser damit angreifbar sei. Ygvar erklärt beispielsweise, dass es sich um den korrekten Algorithmus handeln müsse, da die Trainingsbilder denselben Prefix verwenden wie in Apples offizieller Dokumentation angegeben und zudem verschiedene Abschnitte des Codes exakt so arbeiten würden, wie in Apples Beschreibung von NeuralHash. Verschiedene weitere Entwickler haben mit dem Code inzwischen experimentiert und unter anderem herausgefunden, dass wenn man einen Hash-Code in der CSAM-Datenbank kennt, man hierauf basierend auch Fake-Bilder erstellen kann, auf die Apples Scanner dann anspringen würden.

Berücksichtigt werden muss bei all dem natürlich, dass es sich bei dem in iOS 14.3 entdeckten Algorithmus nicht notwendigerweise um die finale Version handeln muss, die Apple dann auch mit iOS 15 produktiv zum Einsatz bringt. Auch würde das bloße Zusenden von Fake-Bildern an beliebige Nutzer nicht dazu führen, dass diese auch automatisch zu einer Sperrung von deren iCloud-Accounts führen würde. Hierfür müssten die Fotos dann nämlich auch noch in die Fotos-App übertragen werden. Bei Apps wie WhatsApp kann man dies aber beispielsweise auch automatisch so einstellen. Eine gewisse Gefahr wäre damit also zwar gegeben, allerdings würde spätestens bei Apples manuellem Review der Inhalte auffallen, dass diese nicht unter die als kritisch zu betrachtenden Bilder fallen.

Nichts desto trotz ist nun auch die technische Dimension von Apples geplanter Technologie auf der Agenda und verschiedene Sicherheitsexperten werden sich sicherlich in den kommenden Stunden und Tagen auf den veröffentlichten Code stürzen und ihn und Apples System in seine Einzelteile zerlegen. Man darf gespannt sein, was dabei herauskommt.