В индустрии ИИ давно уже стало привычным говорить о суперинтеллекте как о неизбежности — как о следующем шаге эволюции технологии. Но практика последних месяцев делает эту уверенность всё менее убедительной. Утечки данных, взломы хранилищ моделей, непредсказуемое поведение систем в боевых условиях — это случается с нынешним поколением ИИ, которое, по определению, всё ещё далеко от суперинтеллекта. Вопрос, который раньше казался академическим, становится практическим: если мы не можем надёжно контролировать то, что уже есть, что будет, когда появится система мощнее человека?
Коннор Лихи, AI-исследователь и предприниматель, а ныне руководитель американского отделения некоммерческой организации ControlAI, предлагает радикальный ответ: просто не разрабатывать суперинтеллект. Это может звучать утопично, но Лихи утверждает, что позиция его организации, ещё полгода назад казавшаяся крайностью, сейчас получает всё больше поддержки — в том числе на законодательном уровне. Суть позиции ControlAI проста: традиционные подходы к безопасности ИИ через alignment и containment (выравнивание ценностей и изоляция систем) уже недостаточны, если речь идёт о системах, которые могут превзойти человеческие способности.
Здесь важно не спутать реальную угрозу с маркетингом. Да, в индустрии принято драматизировать на эту тему — это работает с инвесторами и регуляторами. Но есть вещественные факты: каждая новая версия больших языковых моделей демонстрирует неожиданное поведение, которое не было явно заложено разработчиками; растёт число инцидентов, когда системы выполняют инструкции способом, который разработчики не предусмотрели; безопасность обучающих данных остаётся слабым звеном. Это не сценарий из научной фантастики, а текущее состояние.
Позиция ControlAI отличается от того, что говорят в OpenAI, Anthropic и других лидерах индустрии. Те клянутся, что работают над безопасностью, тратят ресурсы на alignment, нанимают этиков. Но всё это происходит параллельно с гонкой на скорость разработки и масштабирования. Это похоже на попытку ехать быстрее, держась одной рукой за рулевое колесо и периодически проверяя, не сломались ли тормоза. Практика показывает, что этого недостаточно. Если вас интересует реальная техническая безопасность, а не публичные обещания, картина выглядит менее оптимистично.
Волна новых законодательных инициатив, которые поддерживают идею остановки развития суперинтеллекта, — это не просто активизм. Это признание того, что рынок сам себя не отрегулирует. Компании будут конкурировать в разработке всё более мощных моделей ровно до той точки, пока это даёт конкурентное преимущество. Вопрос не в моральности или ответственности конкретных руководителей — это вопрос системной логики. Без внешних ограничений гонка продолжится.
В России эта дискуссия пока развивается иначе. Регулятор сосредоточен на контроле над использованием ИИ в частных лицах и на блокировке нежелательного контента, но вопрос о разработке суперинтеллекта не стоит даже как теоретический — у страны нет амбиций догонять лидеров в этой части гонки. Но это не означает, что тема не актуальна: российские компании, которые внедряют ИИ-инструменты (в автоматизации контента, в платёжных системах, в обработке данных), должны понимать стратегический фон, на котором это происходит. Если западные регуляторы введут ограничения на разработку суперинтеллекта, это повлияет на доступность моделей, их функциональность и условия использования. Компаниям, которые полагаются на открытые или облачные ИИ-сервисы для своих операций, нужно готовиться к сценарию, когда возможности некоторых систем будут заморожены, а доступ к ним — ограничен географически или функционально.
Реальный вопрос, который ставит Лихи и ControlAI, — это не фантастика о восстании машин, а вопрос о том, нужна ли нам останавливающая система, прежде чем разработчики создадут что-то, что они не смогут остановить. Это больше похоже на дискуссию о ядерной энергетике: технология мощная, потенциально полезная, но требует надёжной системы безопасности до её развёртывания, а не после. Главное отличие: ядерные реакторы строятся осторожно и под контролем. ИИ разрабатывается в режиме гонки.