Anthropic раскритиковали за скрытые ограничения для ИИ-исследователей в Mythos 5 и Fable 5
Компания Anthropic оказалась в центре скандала после того, как в технической документации к последним моделям Mythos 5 и Fable 5 были обнаружены намеренные ограничения для пользователей, занимающихся исследованиями в области искусственного интеллекта. Информацию подтверждает издание Business Insider.
По данным источника, ограничения носят скрытый характер и не были явно указаны при запуске моделей. Они целенаправленно усложняют или блокируют определённые исследовательские действия, что вызвало резкую критику со стороны академического сообщества и разработчиков.
Представители Anthropic пока не дали официальных комментариев по этому поводу. В компании традиционно делают акцент на безопасности ИИ, но такие меры ставят под вопрос прозрачность их работы.
Эксперты отмечают, что подобные скрытые ограничения могут подорвать доверие к моделям и замедлить независимые исследования. При этом предположительно ограничения введены для предотвращения злоупотреблений, однако способ их реализации вызвал недовольство.
Скандал уже активно обсуждается в профессиональных кругах. Некоторые исследователи заявляют, что такие действия противоречат принципам открытости, которые декларирует Anthropic. Другие допускают, что ограничения могли быть добавлены из-за опасений по поводу моральной ответственности ИИ.
На данный момент неизвестно, как Anthropic отреагирует на обвинения. Возможно, компания выпустит разъяснения или изменит политику в отношении исследователей. Пока же сообщество призывает к большей прозрачности.
Событие поднимает важный вопрос о балансе между безопасностью и свободой исследований в области ИИ. Как будут дальше развиваться события — покажет время.
