Эксперт предупредил о росте утечек данных из-за массового внедрения ИИ
Эксперт комиссии Совета Федерации по развитию информационного общества Артем Геллер, известный как разработчик сайта Кремля, предупредил о рисках стремительного внедрения искусственного интеллекта. По его словам, технологии ИИ приводят к росту числа утечек информации и кибератак.
Поводом для заявления стали сообщения агентства Reuters о том, что компания OpenAI выявила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде. Геллер подчеркнул, что к нейросетям следует относиться как к новым сотрудникам, которые имеют доступ ко всем ресурсам и могут совершать ошибки.
Он отметил, что необходимо ограничивать круг возможностей ИИ, поскольку такие инструменты становятся доступны все большему числу работников компаний. Это увеличивает риски как умышленных, так и неумышленных действий.
Геллер напомнил, что эксперты предостерегали от массового внедрения ИИ, но технологии продолжили распространяться. Теперь на практике приходится собирать и анализировать ошибки, надеясь, что среди них не окажется критически опасных.
По мнению разработчика, случаи утечек и взломов будут повторяться чаще, так как ИИ используют все больше людей. Он призвал заранее ограничивать доступ нейросетей к чувствительной информации, чтобы минимизировать последствия.
