Apple собирается искать запрещенные фото на iPhone пользователей. По информации сразу нескольких ИТ-изданий компания скоро анонсирует систему сканирования фотографий на смартфоне. Она предназначена для обнаружения жестокого обращения с детьми и детской порнографии. Технология будет сравнивать фото на телефоне с изображениями незаконного содержания из базы данных правоохранительных органов США, которые использовались для обучения нейросетей.

Процесс сканирования и сравнения будет происходить прямо на iPhone пользователя. Данные никуда отправляться не будут, по крайней мере так утверждается. При возникновении совпадения с образцами система предположительно будет обращаться к администратору, который будет действовать дальше, передавать данные правоохранителям или же будет разработан какой-то другой протокол действий.

Эксперты по криптографии и безопасности говорят, что алгоритмы машинного обучения несовершенны и могут приводить к ложным положительным срабатываниям. Более того, подобная система может использоваться не только для обнаружения актов жесткого обращения с детьми, но и например, для слежки за пользователями. Но опять же пока это из разряда слухов. Apple официально не подтвердила, но и, конечно же, не опровергла журналистам информацию о разработке такой системы.