В США заключено добровольное соглашение между администрацией Трампа и компаниями, занимающимися разработкой frontier AI (передовых ИИ-систем нового поколения). Согласно документу, основная ответственность за контроль рисков возлагается на самих разработчиков — подход, который контрастирует с более жёсткими регуляторными инициативами предыдущих лет.
Это решение отражает общую линию администрации на минимизацию прямого государственного контроля и предпочтение механизмов саморегуляции индустрии. Вместо введения новых нормативных требований и лицензирования, соглашение основано на обещаниях компаний добросовестно оценивать и снижать потенциальные риски самостоятельно. Такой подход снимает бюрократические барьеры для развития технологии, но одновременно полагается на добрую волю игроков рынка.
На практике это означает, что компании сами определяют, какие риски frontier AI считать критическими, как их измерять и какие меры предпринимать. Проблема в том, что у разработчиков есть финансовый стимул минимизировать публичные опасения и ускорять выпуск продуктов. История показывает, что добровольные обещания часто остаются декларативными: компании заявляют о commitment к безопасности, но когда речь идёт о реальных инвестициях в тестирование и замедление развития, энтузиазм падает.
Контекст важен: за последние два года в США было несколько попыток ввести более структурированный надзор за frontier AI — от Executive Order при Байдене до различных законопроектов в Конгрессе. Они не прошли или были размыты в процессе обсуждения. Теперь маятник качнулся в сторону дерегуляции, что отчасти отражает лоббирование крупных ИИ-компаний (OpenAI, Google DeepMind, Anthropic), которые предпочитают самоконтроль жёсткому регулированию.
Для индустрии это создаёт краткосрочное удобство: компании могут быстрее масштабировать frontier AI без согласования с регуляторами. В России подобный подход пока не актуален — отечественные лидеры frontier AI развиваются медленнее, а регулирование (включая требования к защите данных и потребителей) остаётся в руках государства. Если говорить о практической применимости для русских компаний, работающих с ИИ-системами, то саморегуляция может служить полезной моделью для внутренних процессов и best practices, но она не заменяет соответствие российскому законодательству и стандартам безопасности.
Долгосрочный риск такого соглашения очевиден: когда случится первый серьёзный инцидент (дезинформация в масштабе, взлом системы, непредсказуемое поведение модели), добровольные обязательства будут раскритикованы как недостаточные, и, скорее всего, маятник качнётся обратно к жёсткому регулированию. Пока что соглашение — компромисс между необходимостью хоть какого-то надзора и нежеланием администрации создавать препятствия для развития ИИ.