Учёные: исследования дипфейков упускают главную угрозу — интимные изображения без согласия
Группа исследователей опубликовала на платформе arXiv позиционный доклад, в котором утверждается, что текущие работы в области AI/ML по дипфейкам неадекватно затрагивают проблему AI-генерированных неконсенсуальных интимных изображений (AIG-NCII). Авторы провели анализ наиболее цитируемых публикаций и выявили, что технические меры практически полностью сосредоточены на выявлении подделок.
По мнению учёных, такой подход ориентирован на так называемый «эпистемический вред» — ущерб доверию к информации, мошенничество и обман. Однако он полностью упускает из виду «вред достоинству» жертв, когда изображения используются без их согласия. Знание того, что изображение синтетическое, не уменьшает страданий пострадавших, а в некоторых случаях может их усилить.
В докладе отмечается, что до сих пор не создано инструментов, защищающих конкретных людей от распространения интимных дипфейков. Исследователи предлагают обновить модели угроз, включив в них защиту субъектов, а также интегрировать AIG-NCII в повестку безопасности AI.
Кроме того, авторы предостерегают коллег: работа в этой области требует особых мер предосторожности. Они рекомендуют внедрять защитные механизмы как для жертв, так и для самих исследователей, а также привлекать экспертов по предотвращению сексуального насилия.
Публикация подчёркивает необходимость пересмотра приоритетов в сфере изучения дипфейков — от борьбы за «правдивость» контента к реальной защите людей.
