Apple planuje wdrożenia nowej technologii w iOS, macOS, watchOS i iMessage, która będzie wykrywać potencjalne obrazy związane z dziecięcą pornografią. Ma być stosowana w urządzeniach z nowymi wersjami iOS i iPadOS na terenie Stanów Zjednoczonych i doprowadzić do ograniczenia rozprzestrzeniania się CSAM [Child Sexual Abuse Material] w Internecie.
Założenie jest w pełni słuszne, by tego typu materiały zniknęły z Internetu, ale pojawiły się liczne kontrowersje co do sposobu, w jaki będzie to realizowane. Otóż system wykona skanowanie na urządzeniu przed utworzeniem kopii zapasowej obrazu w iCloud. Algorytm rozpozna niepożądane treści i porówna je z sygnaturami oznaczającym dziecięcą pornografię. Podczas archiwizowania pliku iCloud zostanie do niego dołączony dla użytkownika hash, że wykryto nieodpowiednie materiały. Później nastąpi weryfikacja, czy na zdjęciach faktycznie są treści związane z wykorzystywaniem seksualnym dzieci i czy należy powiadomić organy ścigania.
Apple od lat używa systemów haszujących do skanowania obrazów wysyłanych pocztą e-mail, które mogą przedstawiać wykorzystywanie dzieci (podobnie jak w Gmailu i u innych dostawców poczty). Zapowiedziany program zastosuje te same systemy skanowania i oznaczania obrazów użytkownika, które przechowywane są w iCloud, nawet jeśli nie zostaną one nigdy wysyłane do innego użytkownika ani udostępniane w inny sposób. Jednak naukowcy i osoby zajmujące się kwestiami bezpieczeństwa i prywatności obawiają się konsekwencji takiej inwigilacji. Nie ma gwarancji, że system w przyszłości nie zostanie rozszerzony o skanowanie smartfonów pod kątem innych treści, np. politycznych, personalnych i in. Celnie podsumował to Edward Snowden, określając te plany jako masową inwigilację i potencjalną możliwość skaowania urządzeń nie tylko pod kątem dziecięcej pornografii, ale praktycznie wszystkiego: No matter how well-intentioned, Apple is rolling out mass surveillance to the entire world with this. Make no mistake: if they can scan for kiddie porn today, they can scan for anything tomorrow.