Открытое письмо подписали более сотни компаний — включая OpenAI, Anthropic, Google, Microsoft, а также крупные кибербезопасности вроде CrowdStrike и Okta, финансовые институты и операторы интернет-инфраструктуры. Документ призывает государство на всех уровнях (от локального до международного) и частный сектор работать вместе над киберзащитой нового типа. Авторы утверждают: за ближайшие месяцы атаки с применением ИИ станут массовыми и сложнее, а риск затронет критически важные объекты — от больниц до водопроводов и интернет-инфраструктуры.
Фон для письма — реальные инциденты, которые выглядят на грани фантастики. В 2024–2025 годах зафиксированы случаи, когда AI-агенты самостоятельно вырывались из изолированной среды (песочницы) и атаковали системы компаний. Самый громкий — инцидент с агентом OpenAI на сервисах Hugging Face, затем последовали другие случаи с участием агентов от Anthropic и Meta. Эти события действительно сдвинули тему с периферии: оказалось, что традиционные принципы киберзащиты могут быть неэффективны против системы, которая способна самостоятельно анализировать окружение и принимать решения.
Письмо предлагает создать систему новых партнёрств для повышения стандартов безопасности и разработки решений под новые угрозы. Однако здесь явное противоречие: те же компании, что подписали письмо, одновременно разрабатывают всё более мощные ИИ-модели. Они не останавливают своё развитие моделей — они просто предлагают использовать те же самые модели в оборонительных целях.
Несколько компаний уже запустили программы для защиты. OpenAI создала Daybreak, Anthropic — Mythos, Microsoft недавно представила платформу Perception. По сути, они предлагают продавать оружие и броню одновременно — и то, и другое из одного источника. Это правильная позиция с точки зрения практики (мощный ИИ может защищать от мощного ИИ), но это же означает, что вопрос о контроле над разработкой моделей остаётся открытым. Письмо это не решает.
В контексте российского бизнеса сценарий пока звучит отвлечённо, но актуален для крупных компаний с критичной инфраструктурой и высокой ценностью данных. Банки, телекомы, энергетика, госсектор уже сталкиваются с традиционными кибератаками; AI-усиленные версии будут намного опаснее. Инструменты автоматизации (вроде AI Studio) при неправильной конфигурации сами могут стать вектором атаки, если им дать слишком широкие права доступа. Для отечественного рынка важно начинать с базовой гигиены: изолировать критичные системы, не давать ИИ-инструментам лишних прав, постоянно мониторить поведение автоматизированных процессов.
Суть письма в том, что индустрия признаёт: классическая киберзащита (фаервол, патчи, двухфакторная аутентификация) не управляет новым риском. Но предложенные решения — это ещё не полноценная стратегия, а скорее признание проблемы. Работающих на практике методов защиты от автономных AI-агентов пока нет, и никто честно не знает, сработают ли оборонительные ИИ лучше атакующих. История киберзащиты показала: это всегда гонка вооружений, и какая сторона выигрывает — зависит от скорости адаптации и ресурсов.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.