Осенью прошлого года сообщение исследователя Anthropic о потенциальной опасности продвинутых ИИ-систем вызвало очередной всплеск дискуссии о безопасности. На фоне этого Дарио Амодей, CEO компании, представил концепцию «pace the frontier» — по сути, план по координированному замедлению развития ИИ в демократических странах. Суть предложения: независимые оценщики безопасности плюс согласованные стандарты между крупными лабораториями.
На первый взгляд — разумный подход. На второй становится ясно, почему это вызывает скептицизм. Главная проблема не в идее как таковой, а в её реализации. Что означает «замедлить»? На сколько процентов уменьшить объём вычислений? Какие метрики использовать? Кто решает, прошла ли система проверку безопасности? Это не философские вопросы — это вполне конкретные точки конфликта между лабораториями, регуляторами и коммерческими интересами. OpenAI и Anthropic хотят разных критериев, Nvidia видит в любом ограничении угрозу продажам чипов.
История координации в высокотехнологичных отраслях показывает: если нет внешнего принуждения (типа регулирования), компании почти никогда не договариваются о замедлении собственного развития. Даже когда речь идёт об экологии или трудовых правах, где убытки видны на балансе. С ИИ ситуация еще острее — конкурентное преимущество в скорости развития можно перевести в рыночную власть и инвестиционный ресурс на годы вперёд.
Критика Дженсена Хуанга из Nvidia здесь логична не потому, что он враг безопасности, а потому, что любой механизм замедления разработок — это прямой удар по спросу на его процессоры. И это не скрытая позиция; это открытая экономическая логика. Поэтому предложение Амодея, как бы ни были благородны его намерения, остаётся в статусе «красивая идея без механизма исполнения».
Для России такие дискуссии имеют весьма косвенное отношение. Отечественный сектор разработки фундаментальных ИИ-моделей остаётся маргинальным; основной интерес государства — в регулировании применения зарубежных систем (о чём свидетельствуют недавние инициативы Роскомнадзора и законопроекты о контроле контента). Координация с западными лабораториями для России невозможна в принципе. В этом контексте энергия лучше потратить на развитие собственных ИИ-сервисов в местных приложениях — будь то автоматизация бизнес-процессов, обработка контента или аналитика. Это уже реальная практика, а не спекуляция о темпах развития глобальной технологии.
Главный редактор SPV News Алексей Мартыненко считает, что за фасадом «pacing» стоит, по сути, попытка вернуть себе нарратив контроля после того, как Nvidia и некоторые другие игроки захватили инициативу по определению темпов развития. Это борьба за власть переформулировать как борьба за безопасность — и это работает в медиа, но не в реальности.
В целом история напоминает ранние дебаты о регулировании генетических технологий: когда учёные предлагают саморегуляцию вместо законодательства, а бизнес соглашается с принципами, но не с деталями, ничего не получается. Нужна либо реальная координация (с силой), либо это просто PR-ход. Пока выглядит на второе.