Компания Apple подтвердила информацию о том, что на айфонах появится система, которая будет автоматически проверять медиатеку пользователей на наличие изображений жестокого обращения с детьми, включая детскую порнографию (CSAM). Первой новая функция заработает в США позднее в этом году, после выхода операционных систем iOS 15, iPadOS 15 и macOS Monterey.

К CSAM относится контент, на котором изображены действия сексуального характера в отношении несовершеннолетнего. В Apple заявили, что "новая технология в iOS и iPadOS" будет сопоставлять хэши (то есть не сами изображения, а их цифровое представление) фото и видео, хранящихся в галерее устройства, с имеющейся базой материалов насилия над детьми, а в случае совпадений — уведомлять об этом Национальный центр пропавших и эксплуатируемых детей (NCMEC), который тесно сотрудничает с правоохранительными органами США. Какая именно технология или нейросеть будет применяться Apple, не уточняется.

Набор "цифровых отпечатков", идентифицирующих объекты и сцены как CSAM-контент, будет предзагружаться на устройство. Базу хэшей предоставят NCMEC и другие организации по защите прав и интересов детей. В Apple отмечают, что "эта база данных будет преобразована в нечитаемый набор хэшей, который надежно хранится на устройствах пользователей".

Несмотря на то что само сканирование выполняется локально, анализироваться будет только контент, загруженный в облачный сервис iCloud. Более того, уведомление о потенциально противоправном детском контенте, во избежание ложных срабатываний, будет направляться в Apple только по достижении определенного порога совпадений.

Какое количество изображений должно быть помечено как подозрительные, прежде чем компания заявит об этом в NCMEC, не раскрывается. Однако представители Apple заявляют, что вероятность ошибки не превышает 1 на 1 триллион аккаунтов в год.