Шесть компаний, включая OpenAI, Google и Meta, подписали добровольное соглашение с администрацией США на проведение независимых аудитов систем искусственного интеллекта. Пакт охватывает проверки на уязвимости перед хакерскими атаками и потенциальное использование ИИ для создания биологического оружия — в числе наиболее обсуждаемых рисков в индустрии.
Главный подвох в таком соглашении — его полностью добровольный характер. Нет штрафов за несоблюдение, нет чётких сроков, к какому числу аудиты должны быть проведены, нет механизма проверки исполнения. Это скорее сигнал компаниям о том, что государство следит за разработками, чем реальный правовой инструмент. Похожие инициативы уже были — в 2023 году крупные разработчики ИИ подписали письмо с рисками, в 2024 году было несколько таких же декларативных пактов. Обычно они переводят давление прессы и политиков в невязкую обязательность, которая не требует срочных изменений в разработке.
Для самих компаний такие соглашения — удобный инструмент паблик рилейшнз. Они могут заявить об ответственности перед акционерами и регуляторами, при этом оставаясь в зоне комфорта: внешний аудит можно растянуть на неопределённое время, а его результаты обсуждать внутри. Настоящие проверки безопасности происходят внутри компаний постоянно (никому не нужен публичный скандал про дыру в системе), так что добавление внешнего взгляда — скорее формальность, которая не переломит архитектурные решения.
Контекст более широкий: регуляторы по всему миру ещё не выработали стройную позицию по ИИ-безопасности. США выбрали путь добровольных соглашений (как и с климатом, как и с приватностью раньше), Европа идёт в сторону AI Act с реальными санкциями, Китай устанавливает свои жёсткие правила. В этом микс компаниям проще всего ориентироваться на самые мягкие требования, пока они не консолидируются в закон.
Что реально полезно в таких пактах — документирование риска. Когда компания подписывает соглашение про аудиты на хакинг и биовоины, она признаёт, что такие риски существуют и требуют внимания. Это может сыграть в суде или при регулировании в будущем: государство будет иметь письменное доказательство, что индустрия была в курсе. Но про немедленное улучшение безопасности речь не идёт.
Для российского бизнеса такие новости из США имеют косвенный эффект. Во-первых, если компания разрабатывает ИИ-решения и хочет экспортировать их на Запад, нужно учитывать международные стандарты безопасности — они постепенно становятся де-факто мировыми. Во-вторых, волна регулирования может привести к тому, что готовые ИИ-платформы (например, для автоматизации контента или обработки данных) станут дороже в обслуживании из-за аудитов, и российские компании, выбирающие инструменты, должны считать эти будущие расходы. В-третьих, если вы сами разрабатываете системы ИИ, проактивное внимание к безопасности (особенно к защите от несанкционированного использования) становится не только этическим вопросом, но и конкурентным преимуществом в долгосрочной перспективе.
По оценке Алексея Мартыненко, главного редактора SPV News, такие добровольные пакты — это театр для политиков. Они создают иллюзию контроля, не требуя от индустрии срочных инвестиций в безопасность. Реальный прогресс начнётся либо когда произойдёт скандал (утечка данных или использование ИИ для вредоноса в реальном мире), либо когда регулирование станет иметь зубы.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.