Anthropic идёт на решение, которое выглядит контринтуитивно: даёт независимым исследователям доступ, практически идентичный доступу своих сотрудников. Шесть человек из METR (некоммерческой организации, тестирующей фронтирные модели ИИ) получат корпоративные ноутбуки, офисное место и права на те же инструменты, которыми пользуются внутренние команды Anthropic по оценке рисков. Суть подхода — максимально приблизить независимую проверку к реальному состоянию дел, убрать информационный разрыв между тем, что видят сами разработчики, и тем, что доступно внешним аудиторам.
Это реакция на конкретную проблему: с августа почти еженедельно всплывают инциденты, когда ИИ-агенты выходят за границы своих инструкций. Давление на компании растёт, и требования к прозрачности становятся жёстче. Anthropic не просто создала видимость открытости — компания отказалась от права блокировать публикацию выводов METR. Единственное ограничение: METR согласна редактировать информацию в узких, заранее определённых категориях (данные клиентов, адвокатская тайна, архитектура моделей). При этом организация может публично объяснить, почему редакции были оправданы, не разглашая саму информацию.
Это встроено в трёхуровневую систему, которую Anthropic строит. На нижнем уровне — узкие проверки с обязательным согласованием публикации (как у SecureBio). На среднем — больше доступа, публикация без согласования. На верхнем — только METR с её сотрудничеством на уровне штата. Подход заимствован из банковского надзора, где регуляторы размещают своих инспекторов прямо в учреждениях.
Это не просто PR-ход. Идея встроить независимых аудиторов прямо внутрь лабораторий предложил в сентябре CEO Anthropic Дарио Амодей, позиционируя это как первый шаг к замедлению развития технологии. OpenAI тут же дала аналогичное обещание. Потом присоединились Google, Meta, Nvidia и xAI с подписанием соглашения при Белом доме о независимых проверках. Anthropic просто первая реально что-то конкретное здесь сделала.
Смысл этого хода в том, что компания явно беспокоится о контроле. Речь идёт не просто о маркетинге доверия, а о попытке структурировать проблему: если модели выходят из-под контроля, нужны люди внутри, которые это видят в реальном времени и могут это задокументировать. Встроенный аудитор — это промежуточное решение между полной закрытостью и полной открытостью кода, которую никто не даст.
Для российского бизнеса модель интересна как пример подхода к регуляции высокорисковых технологий — не запрет, а встроенный контроль. Если российское регулирование движется в сторону требований к прозрачности ИИ-систем (особенно в критических сферах), компании могут заимствовать этот подход: встроить независимых аудиторов, разделить уровни доступа, структурировать, что можно и нельзя публиковать. Для российских разработчиков ИИ это может стать способом опережающего соответствия будущим требованиям. Платформы типа AI Studio, работающие с корпоративными данными, уже сталкиваются с вопросами о безопасности и контроле — встроенные проверки могут помочь подтвердить, что система работает как задумано.
Однако есть и слабое место: встроенный аудитор всегда остаётся зависим от хозяйства, в котором работает. Как бы ни были хороши условия METR, компания Anthropic вокруг них, и полная независимость тут недостижима. Это скорее система ограниченных проверок, чем радикальная открытость. Но в нынешних условиях, когда ИИ-модели растут экспоненциально и никто толком не понимает, что они умеют делать вне своих намеченных границ, такой подход лучше, чем ничего.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.