ИИ генерирует правдоподобные фальшивые статьи: научные журналы под угрозой

Искусственный интеллект начал активно использоваться для генерации фальшивых научных статей, которые сложно отличить от подлинных. По данным изданий, нейросети создают не только текст, но и поддельные графики, таблицы и ссылки, что делает подделку максимально правдоподобной.

Проблема приобрела масштабный характер: тысячи сгенерированных статей попадают в рецензируемые журналы. Редакторы отмечают, что проверка таких материалов требует значительных ресурсов, а многие подделки уже прошли рецензирование.

В ответ на угрозу научные издатели начали внедрять специальные детекторы ИИ-текста, а также усиливать требования к предоставлению исходных данных. Однако, как подчеркивают эксперты, этот процесс напоминает гонку вооружений: по мере совершенствования детекторов улучшаются и алгоритмы генерации.

Ситуация вызывает беспокойство в академическом сообществе, поскольку фальшивые статьи могут искажать научную картину и подрывать доверие к публикациям. Некоторые журналы уже ужесточили политику рецензирования и начали использовать дополнительные проверки.

По мнению исследователей, проблема требует глобального подхода: унификации стандартов проверки, обмена базами подозрительных статей и разработки новых методов верификации. Пока же редакторам приходится полагаться на комбинацию автоматических и ручных проверок.

Как сообщает издание, рост числа фальшивок связан с доступностью мощных языковых моделей. Это ставит под вопрос эффективность текущей системы рецензирования и требует адаптации к новым реалиям.