Новый обзор ИИ: как выявлять дезинформацию на ранних стадиях, опираясь на жизненный цикл атак
Группа учёных опубликовала в arXiv препринт, в котором проанализировала сдвиг в подходах к борьбе с дезинформацией, порождённой генеративным искусственным интеллектом (GenAI). Авторы подчёркивают, что традиционные реактивные методы обнаружения уже неэффективны против быстрорастущего объёма синтетических материалов.
В работе предлагается новая таксономия на основе жизненного цикла информационных атак, объединяющая социально-технические модели кампаний с передовыми вычислительными методами. В основу положена концепция C5: контекст, причины, контент, цикл усиления и последствия.
Особое внимание уделяется выявлению скоординированного неаутентичного поведения (CIB), эпидемиологическому моделированию распространения нарративов и процессам Хоукса. Эти инструменты позволяют отличить искусственное усиление от естественного трафика.
Исследователи систематизировали методы проактивного обнаружения на разных стадиях: детекция аномалий в многомерных пространствах, поиск скоординированных действий на многослойных графах и агентные ИИ-системы. Авторы отмечают, что GenAI усложняет задачу из-за быстрой эволюции угроз и многоуровневого дрейфа распределений.
В заключении намечена программа будущих исследований, направленная на создание устойчивых информационных экосистем, способных предвосхищать новые синтетические угрозы.
