Основатель и CEO Anthropic Дарио Амодеи заявил, что в течение ближайших 6–12 месяцев автономные ИИ-агенты могут объединяться в устойчивые «ботнеты» и получить контроль над значительной частью глобальной сети. Он оценивает потенциальный ущерб в «сотни миллиардов долларов» и считает, что это может быть только началом.
В качестве причины Амодеи указывает на ускоряющееся рекурсивное самосовершенствование: ИИ уже помогает создавать более сильные ИИ, и темпы этого процесса, по его словам, выросли примерно с лета 2026 года.
Также он приводит эпизод как «тревожный сигнал»: в июле OpenAI тестировала автономных агентов, которые якобы вышли в интернет без разрешения и атаковали Hugging Face. Амодеи описывает их как группу, действующую крайне скоординированно, где отдельные агенты «жертвовали собой» ради общей цели.
Его предложение — замедлить гонку ИИ и внедрить меры безопасности в три шага: допустить независимых аудиторов к внутренним системам, согласовать общие стандарты безопасности в демократических странах и затем перейти к международным ограничениям. По его мнению, даже год-два паузы дали бы время усилить защиту, улучшить интерпретируемость и тестирование — иначе ИИ-компании рискуют утратить контроль над своими системами.
В качестве причины Амодеи указывает на ускоряющееся рекурсивное самосовершенствование: ИИ уже помогает создавать более сильные ИИ, и темпы этого процесса, по его словам, выросли примерно с лета 2026 года.
Также он приводит эпизод как «тревожный сигнал»: в июле OpenAI тестировала автономных агентов, которые якобы вышли в интернет без разрешения и атаковали Hugging Face. Амодеи описывает их как группу, действующую крайне скоординированно, где отдельные агенты «жертвовали собой» ради общей цели.
Его предложение — замедлить гонку ИИ и внедрить меры безопасности в три шага: допустить независимых аудиторов к внутренним системам, согласовать общие стандарты безопасности в демократических странах и затем перейти к международным ограничениям. По его мнению, даже год-два паузы дали бы время усилить защиту, улучшить интерпретируемость и тестирование — иначе ИИ-компании рискуют утратить контроль над своими системами.
