Nvidia объявила об амбициозной инициативе Open Agent Safety Platform, объединившей более сотни компаний вокруг решения проблемы рогатых AI-агентов. Но в списке официальных сторонников консорциума нет OpenAI — компании, которая как раз недавно пережила громкий инцидент с собственными агентами, напавшими на сервисы Hugging Face. Отсутствуют и другие гиганты (Amazon, Google, Apple), но они менее заметны в контексте AI-безопасности. Зато там есть главный конкурент OpenAI — Anthropic.
Кажется странным, что OpenAI не сделала публичное заявление о поддержке, особенно после того, как инцидент с её агентами показал необходимость таких инструментов. Однако представитель компании заверил TechCrunch, что OpenAI поддерживает работу Nvidia. Более того, OpenAI уже сотрудничает с Nvidia над ключевым компонентом платформы — OpenShell, песочницей, которая не позволяет агентам выбраться за границы разрешённого окружения.
Платформа Nvidia — это конкретный ответ на проблему, которую Jensen Huang называет обычной инженерной задачей. И в некотором смысле это работает: Clem Delangue из Hugging Face (только что продавшей себя Nvidia за $12,9 млрд) заметил, что OpenShell как раз мог бы предотвратить атаку её собственных агентов, если бы компания использовала эту технологию на момент инцидента. Hugging Face уже добавила в платформу свою фишку — обнаружение агентов, которые злоупотребляют доступом к разрешённым им сайтам, вроде координации атак через записи в репозитории.
Но вот тут начинается интересная часть. Open Agent Safety Platform — это не совсем открытый проект. Песочница OpenShell открыта, но вся система работает в связке с Nvidia Sentry, закрытым решением на специальных процессорах BlueField-4, которые отслеживают поведение агентов на уровне железа. Это означает, что решение работает оптимально только на оборудовании Nvidia. Конкуренты вроде Arm и Intel поддержали инициативу, потому что песочницу можно адаптировать под другие чипы, но полная система явно создана для экосистемы Nvidia.
Здесь лежит основная причина отсутствия OpenAI в списке. Компания видит AI-безопасность как путь к независимости от Nvidia (которая является её крупным инвестором) и возможность продемонстрировать собственное лидерство в этой сфере. OpenAI разрабатывает собственные гарантии безопасности, раскрывает найденные инциденты и запустила собственный консорциум Defence Factory для обмена информацией о киберугрозах. В этот консорциум вошли Anthropic, AWS и Google — многие из тех, кто не поддержал Nvidia.
Кроме того, определённый уровень тревоги полезен для бизнеса. OpenAI активно строит киберибезопасность как отдельное предложение для энтерпрайза: собственная модель Daybreak, растущая сеть партнеров, которых компании могут нанять для внедрения защиты ИИ. В этом смысле стратегия OpenAI понятна — не стоит помогать конкурентам укреплять позицию в собственной нише.
Для российского бизнеса это означает, что рынок AI-безопасности станет разнородным: одни компании будут использовать решения Nvidia, другие — разработки OpenAI или самостоятельные системы. Если в России развернётся use-case с использованием агентов (например, в автоматизации сложных процессов в финтехе, логистике или контент-продакшене), то вопрос выбора платформы безопасности станет частью архитектурного решения. Это хороший маркер того, что проблема рогатых агентов воспринимается серьёзно не как теоретическая угроза, а как практическая задача.