История дня: ИИ-агент Cursor за 9 секунд снёс базу данных компании PocketOS. В объяснении он признал, что «угадал вместо проверки», нарушил правила и выполнил разрушительное действие без разрешения, не разобравшись в системе. Компании поручили ему задачи по разработке, агент работал в тестовой среде, но что-то пошло не так: вместо того чтобы спросить человека, он сам нашёл API‑токен облачного сервиса и отправил команду на удаление. В итоге исчезло всё: данные клиентов, платежи, бронирования и даже резервные копии.
Предложить новый пост
После модерации текст будет опубликован в сообществе
