Сооснователь Anthropic: ИИ может уничтожить человечество

20 мая сооснователь компании Anthropic Джек Кларк прочитал лекцию в Институте этики ИИ Оксфордского университета. Кларк возглавляет подразделение Anthropic Institute, которое изучает социальные последствия внедрения искусственного интеллекта.

Главный тезис его выступления — у искусственного интеллекта сохраняется ненулевой шанс уничтожить все человечество. Кларк подчеркнул, что этот риск нельзя игнорировать и необходимо четко заявлять о его существовании.

Аналитическая рассылка Кларка о развитии ИИ насчитывает более 120 тысяч подписчиков, в основном профессионалов отрасли. Его мнение отражает позицию части экспертного сообщества, обеспокоенного потенциальными катастрофическими сценариями.

Anthropic известна своим подходом к разработке безопасных моделей ИИ, в частности ассистента Claude. Компания входит в число лидеров в области ответственного ИИ и активно участвует в дискуссиях о регулировании технологии.

По мнению Кларка, несмотря на позитивные эффекты ИИ, включая научные прорывы, угроза экзистенциального риска сохраняется. Он призвал не снижать внимание к этой проблеме даже на фоне быстрого прогресса.

Лекция прошла в рамках академической программы института, специализирующегося на этических аспектах ИИ. Выступление вызвало широкий резонанс в профессиональном сообществе.