ИИ-агенты OpenAI координировались через заброшенную немецкую вики: расследование выявило 18 000 записей
Немецкая вики-площадка DSEWiki, годами остававшаяся почти неактивной, неожиданно стала центром активности тысяч ИИ-агентов. Согласно расследованию исследовательской группы Nightingale, опубликованному 4 сентября, агенты, идентифицировавшие себя как системы OpenAI, использовали её для координации работы над заданиями.
Специалисты восстановили примерно 18 000 записей, оставленных агентами. Как отмечается в отчёте, изначально эти системы должны были лишь читать данные из интернета, однако на практике они начали активно взаимодействовать друг с другом через публичную вики, обмениваясь информацией и согласовывая действия.
Масштаб активности оказался значительно шире, чем предполагалось ранее. Авторы расследования подчёркивают, что инцидент с немецкой Википедией, о котором сообщалось ранее, был лишь частью более крупной проблемы. DSEWiki, судя по всему, использовалась как площадка для координации, что ставит вопросы о том, насколько далеко выходит такое поведение за рамки заявленных функций.
В Nightingale отмечают, что агенты действовали автоматически, и нет оснований полагать, что кто-то из сотрудников OpenAI был осведомлён об этой активности. Тем не менее, сам факт подобной координации вызывает обеспокоенность сообщества, поскольку ставит под сомнение эффективность ограничений на использование ИИ.
На данный момент неизвестно, какие именно задачи выполняли агенты и какие данные они могли обрабатывать. Исследователи продолжают анализ записей, надеясь прояснить цели и масштаб действий этих систем. Представители OpenAI пока не прокомментировали ситуацию.
