OpenAI представил ChatGPT Cyber — модель для кибербезопасности, доступную участникам программы Daybreak Red. Фронтир-лаборатория демонстрирует её мощь: модель нашла 948 потенциальных уязвимостей в ядре Linux и 81 неизвестную ранее уязвимость в Firefox. На бумаге это выглядит как серьёзный шаг защитников цифровой инфраструктуры вперёд.
Но вот в чём беда: те же ИИ-модели уже в руках любого, кто захочет искать баги в открытом коде. Max Justicz, основатель стартапа Charge Robotics, буквально указал GPT 5.6 Sol на исходный код Ubuntu и спросил «найди баги похуже, чем те, что я нашёл раньше». За два часа модель выдала критическую уязвимость, которая могла позволить взять контроль над серверами. На поиск этих уязвимостей он потратил около $5000 на подписки — для профессионального хакера это сущие копейки. Justicz сам отметил: это только верхушка айсберга, и в ближайшие месяцы стоит ожидать серьёзных эксплойтов.
Парадокс программы Daybreak очень показателен. С одной стороны, OpenAI пытается ограничить доступ киберзащитников к полной мощности моделей (недавно ослабили Daybreak Blue, чтобы она хуже находила уязвимости). С другой — те же модели в открытом доступе или с убранными защитами уже используются теми, кто пишет эксплойты. Justicz заметил абсурдность: он просто загрузил фото водительских прав, чтобы присоединиться к программе. Вероятно, худшие акторы нашли лазейку покороче.
OpenAI вложит $1 миллиард на поддержку киберпрофессионалов из Daybreak и заявляет, что выделяет значительные вычислительные ресурсы на поиск уязвимостей в открытом коде — якобы прямо в убыток себе. Звучит благородно, но сравните масштабы: поиск багов в Linux обошёлся в $1,2 млн на токены, в то время как OpenAI потратил около $6 млн на попытку решить задачу из гидродинамики. Если окно времени на патчинг критической инфраструктуры действительно узко, то приоритеты выглядят странно. Всего несколько тысяч кибербезопасников работают через Daybreak против потенциально гораздо большего числа потенциальных нарушителей с неограниченным доступом к моделям.
Это создаёт реальную проблему асимметрии. Защищать — всегда сложнее, чем атаковать. Когда защитники привязаны к лицензированной программе с отключёнными фичами, а атакующие пользуются открытыми весами и удаленными guardrails, баланс нарушается. OpenAI честно говорит, что есть «узкое окно времени» до того, как модели станут ещё лучше в хакинге и доступнее для всех. Вопрос только: достаточно ли они спешат?
Для российского бизнеса, особенно работающего с критической инфраструктурой или обрабатывающего чувствительные данные, это означает срочное усиление процессов кода-ревью и аудита. Инструменты вроде статического анализа и ревью по-человечески становятся не просто лучшей практикой, а необходимостью. Для автоматизации процессов проверки безопасности можно использовать специализированные платформы анализа кода, но ставить на ИИ-модели как на основную линию защиты — наивно, они будут в арсенале и у атакующих. Крупные компании уже понимают: нужно инвестировать в людей, которые разбираются и в коде, и в том, как работают сами модели.
Алексей Мартыненко
Главный редактор SPV News
OpenAI выкатил красивую историю про ответственный ИИ, но суть ясна: они открыли инструмент, который киберзащитники могут использовать лучше, только если официально зарегистрируются и примут ограничения. Любой хакер просто возьмёт открытую модель и уберёт guardrails. Это не решение проблемы, это иллюзия контроля. Пока фронтир-лабораториям хватает ресурсов на любопытные побочные проекты, но не хватает на масштабирование помощи тем, кто действительно защищает инфраструктуру, никакого реального преимущества для обороны не будет.