Дарио Амодей, CEO Anthropic, опубликовал развёрнутую позицию по замедлению развития ИИ, которое сам же назвал «пейсингом фронтира». Это не просто риторика — Anthropic объявила о конкретном обязательстве на одну из предложенных мер. Фон стандартный для этого момента в истории: очередной сотрудник Anthropic (Jacob Coxon) заявил об увольнении с призывом замедлить разработку, ссылаясь на риск того, что ИИ мог бы «убить всех к концу десятилетия». Амодей не стал отмахиваться — вместо этого предложил систему, которая, по его мнению, может помочь.
Первое и самое конкретное предложение — встроенные аудиторы от независимых организаций вроде METR. Дело в том, что компании клянутся в приверженности безопасности, но проверить это затруднительно. Амодей предлагает дать внешним оценщикам реальный доступ: офисный пропуск, рабочее место, ноутбук, информацию примерно на уровне внутренних рисков-команд. Anthropic уже объявила об одностороннем обязательстве это сделать и требует то же от других фронтирных компаний. Аналогия с банковскими регуляторами звучит логично, хотя практика пока новая для ИТ-индустрии.
Второй уровень — координация между лидирующими компаниями США и союзников (OpenAI, Anthropic и другие) по общим стандартам безопасности и пределам скорости развития. Здесь Амодей честно признаёт проблему: его и Альтмана очевидно не любят друг друга, да и антимонопольное законодательство может помешать такому сговору. Поэтому он призывает госдепартамент США выступить медиатором и выдать узкое исключение на «разговоры о безопасности» — формальный способ избежать претензий на картель.
Третий уровень — глобальная координация, включая поговорки с авторитарными режимами вроде Китая. Амодей не иллюзорист: он понимает, что здесь возможности урезаны. Но он предлагает хотя бы договориться о запрете на явно опасные применения (производство биооружия). Параллельно он рекомендует ограничить поставку мощных чипов в Китай и задушить дистилляцию моделей — мол, этого хватит, чтобы сохранить американское превосходство на 3–5 лет.
Реакция по сторонам предсказуема. Критики Anthropic из лагеря ИИ-бустеров уже называют Амодея doomster и указывают на то, что вся эта риторика о конце света отвлекает от реального вреда, который ИИ уже наносит. Журналист Брайан Мерчант не без иронии заметил, что никто толком не показал механизм, как ИИ перейдёт от самоулучшения к убийству всего человечества, а такие предложения Anthropic — это просто regulatory capture, когда компания пишет себе правила под видом безопасности.
Сам Амодей в ответ говорит о кризисе доверия между публикой и технокомпаниями, и что его позиция сбалансирована. Он продолжает верить в огромный положительный потенциал ИИ, но считает, что выиграть этот потенциал можно только если строить технологию правильно. Звучит как достаточно умная позиция: не «ИИ всё хорошо, вперёд и выше», но и не «выключите всё», а скорее «надо разумно управлять темпом».
Для российского бизнеса этот план пока остаётся на уровне намерений западных гигантов. Однако если подобные системы аудита и safety-стандарты начнут внедряться как индустриальный стандарт на Западе, а русские компании захотят конкурировать на международном уровне или привлекать иностранные инвестиции, им придётся следовать аналогичным подходам. Для локальных приложений ИИ (автоматизация контента, обработка документов, аналитика) это вряд ли создаст дополнительные барьеры, но для моделей общего назначения или для компаний, которые планируют экспорт, вопрос безопасности и透明度 аудита будет становиться всё более актуальным.