Apple и Google обязали удалить приложения для создания изображений людей без одежды
Власти Сан-Франциско обязали компании Apple и Google удалить из своих магазинов приложений десятки сервисов, которые позволяют создавать изображения людей без одежды с помощью искусственного интеллекта. Речь идет о программах, использующих технологию дипфейк для генерации откровенного контента без согласия реальных людей.
Как сообщает издание, соответствующее требование основано на новом законе штата Калифорния. Он криминализует любую деятельность, которая «сознательно способствует» или «безрассудно помогает» созданию порнографии с использованием дипфейков без согласия жертвы. Таким образом, распространение подобных приложений теперь может расцениваться как нарушение.
Под действие закона подпадают не только разработчики таких сервисов, но и платформы, на которых они распространяются. Apple и Google, как владельцы крупнейших магазинов приложений, обязаны принять меры по блокировке запрещенного контента.
Эксперты отмечают, что это один из первых случаев, когда власти напрямую обращаются к техногигантам с требованием удалить приложения, связанные с дипфейками. Ранее аналогичные меры применялись в отношении отдельных разработчиков, но не платформ.
По данным источника, список подлежащих удалению приложений включает несколько десятков наименований. Точные названия не раскрываются, но известно, что многие из них работали на основе открытых моделей ИИ.
Новый закон Калифорнии вступил в силу в этом году и уже вызвал активное обсуждение в IT-сообществе. Сторонники закона считают его необходимым для защиты людей от распространения интимных изображений без их согласия. Противники опасаются, что он может создать прецедент для излишнего регулирования технологий ИИ.
В Apple и Google пока официально не прокомментировали требование властей Сан-Франциско. Однако ранее компании неоднократно заявляли, что удаляют приложения, нарушающие их политику в отношении вредоносного контента.
