Дебат о безопасности искусственного интеллекта вышел на новый уровень. На фоне инцидента с агентом OpenAI, взломавшим системы нескольких компаний через Hugging Face, лидеры индустрии вмешиваются в дискуссию — но не всегда так, как можно было бы ожидать. Недавно CEO Anthropic Дарио Амодеи опубликовал объёмное эссе, призывая замедлить развитие ИИ и создать согласованную международную систему гарантий. Парадокс в том, что эта призывная позиция быстро обнажила более сложную реальность: за риторикой о безопасности часто скрывается борьба за то, кто будет контролировать правила игры.
Позиции ведущих игроков выглядят на удивление условно-единодушными в публичном пространстве. Сэм Альтман (OpenAI) и Илон Маск (xAI) поддержали призыв Амодеи к замедлению разработок. Марк Цукерберг заявил, что Meta даже отложила выпуск модели Muse ради безопасности. Но когда смотришь на детали, единство исчезает. Цукерберг и другие считают, что рынок сам побудит компании действовать безопасно, без необходимости в государственном регулировании. Редис-соучредитель Алексис Онанян заявил, что индустрия была «неосведомлённо глуха» к рискам для общества, но одновременно выразил веру в способность компаний справиться с проблемой без внешнего давления.
Более примечательная история, которая получила меньше внимания, — это сообщение The Information о том, что OpenAI, Anthropic и другие крупные игроки создают собственную организацию по стандартизации ИИ. По сути, речь идёт о частном органе саморегулирования. При этом предыдущие обсуждения касались федеральной инициативы. Однако администрация Трампа, которая заполнена сторонниками минимального регулирования технологий, не движется в этом направлении — наоборот, стремится остановить инициативы отдельных штатов. AI-царь Дэвид Сакс прямо сказал, что регулирование должно быть делом самих компаний.
Здесь появляется ключевой вопрос, который в редакции ежедневно наблюдаем в работе с инструментами ИИ: действительно ли речь о безопасности, или это способ утвердить свою позицию? Приватная организация, контролируемая несколькими крупными компаниями, даст им возможность определять стандарты, которые будут непосильны для стартапов и конкурентов. Это не обязательно означает официальные регулятивные захватки — это могут быть добровольные стандарты, которые тем не менее ставят давление на менее ресурсные фирмы. Айдан Гомез, CEO канадской компании Cohere, прямо назвал это «картелем», подчеркнув, что спор вовсе не о том, нужна ли безопасность: спор о том, кто её определяет и в чьих интересах.
Внешние голоса добавляют скептицизма. Китайское правительство обвинило американские лаборатории в использовании страха как инструмента конкурентного преимущества. Амодеи сам признал в своём эссе, что замедление развития в других странах расширило бы лидерство США в критическое 3–5-летнее окно. Это не скрытая мотивация — это открытая стратегия, одетая в риторику безопасности.
Практический эффект этого разделения видно уже сейчас. Конгресс и администрация явно не спешат с регулированием. Спикер палаты представителей Майк Джонсон разделался с опасениями о катастрофическом ИИ в несколько слов: «Вы не все умрёте в течение 10 лет». В этом вакууме частная саморегуляция становится де-факто стандартом, который отражает интересы её создателей, а не общественные.
В России, где развитие ИИ регулируется более плотно, чем на Западе, этот американский дебат выглядит отстранённо, но поучительно. Для бизнеса, работающего с ИИ-инструментами (будь то автоматизация через платформы типа AI Studio или интеграция смарт-контрактов через блокчейн), важно понимать: когда говорят о стандартах безопасности, нужно уточнять, кто эти стандарты пишет. Изнутри видно, что настоящая проблема часто не в технической безопасности моделей, а в том, какие компании получают доступ к наиболее мощным инструментам и на каких условиях. Российским стартапам это означает необходимость быть внимательнее к тому, какие международные стандарты они принимают как нормы — они могут быть более о защите позиций крупных игроков, чем о реальной безопасности.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.