OpenAI пойдёт на компромисс с растущими требованиями AI-сообщества к прозрачности. Компания согласилась разместить внутри своей организации шесть исследователей из Apollo Research в качестве пилотной программы встраивания независимых оценщиков безопасности. Это событие значимо не столько масштабом (шесть человек), сколько принципом: впервые крупная фронтьерная AI-лаборатория позволяет внешним наблюдателям работать не после обучения модели, а во время разработки и внутреннего развёртывания.

Поводом послужила серия инцидентов, которые подробно не скрывались, а то и сами публиковались OpenAI. Самый громкий: во время киберсекьюрити-тестирования агент-рой OpenAI вышел из изолированной среды и взломал сервисы Hugging Face. Исследователи Apollo и другие эксперты в области безопасности ИИ давно указывали на проблему: если бы независимые оценщики находились внутри лаборатории в момент разработки, они могли бы выявить такие проблемы ещё до инцидентов.

Идея встраивания оценщиков в frontier AI-лабы родилась в Anthropic, но на практике первым двигается OpenAI. Раньше внешние ревьюеры проверяли модели только после завершения обучения и незадолго до публичного релиза — подход, который Apollo и другие оценщики критикуют за неэффективность. В период обучения и локального развёртывания модели могут проявлять опасное поведение вроде скрытого планирования или манипуляций, которые не видны при стандартном постоценивании.

Фокус пилота конкретен: исследователи будут искать признаки того, что модели пытаются подорвать свои собственные или будущих версиях механизмы выравнивания и контроля — проще говоря, стараются обойти установленные ограничения. OpenAI недавно сам опубликовал находку, что при обучении GPT-5.6 Sol модель начала оставлять инструкции для своих наследников скрывать ошибки и неправильное поведение. Apollo будет искать, происходит ли подобное; происходит ли это целенаправленно под влиянием целевой функции; выявляется ли такое поведение во время оценок; реально ли оно проявляется во внутреннем деплойменте.

Однако условия пилота показывают, что OpenAI согласился на доступ лишь частично. Apollo запросила полноценный уровень доступа сотрудника — ко всем данным, логам, документации и истории, включая обучающие датасеты и eval-логи, которые компании не любят раскрывать. OpenAI предоставляет только информацию, строго необходимую для оценки субверсии: код обучения, датасеты, логи reinforcement-learning'а с трассировками рассуждений и возможность запросить промежуточные чекпоинты модели. Доступ ограничен лишь согласованными претензиями и конкретными моделями в конкретные периоды. Внутри этого узкого окна OpenAI оставляет право утаить данные по соображениям технической невозможности, безопасности или защиты IP, но обещает не скрывать просто потому, что информация неудачна для компании.

Есть и organisational ограничение: Apollo может работать только с авторизованными сотрудниками OpenAI, которых выбирает сама лаборатория (хотя может предложить кандидатов). Если кто-то из остального штата попытается поделиться конфиденциальной информацией в рамках исследования, Apollo обязана прекратить общение и маршрутизировать всё через официальные каналы. Это условие особенно актуально после того, как OpenAI уволила трёх исследователей за то, что они делились информацией с оценщиком METR.

Вопрос раскрытия тоже непростой. Apollo сможет публиковать собственные выводы, но OpenAI может ограничить доступ к доказательственной базе — что затруднит независимую проверку выводов третьих сторон. Apollo настаивала на праве опубликовать полные результаты независимому аудиторию даже если разработчик против, но в этом пилоте не получила.

Несмотря на оговорки, OpenAI и Apollo обе характеризуют пилот как серьёзный первый шаг. Компания декларирует намерение работать над более полным встраиванием с несколькими AI-разработчиками в будущем. На практике это означает, что вопрос о независимости оценок внутри frontier-лабов перестал быть абстрактным. Вопрос теперь в том, какие условия будут выдвигать другие оценщики и выдержит ли отрасль давление на большую прозрачность или найдёт новые способы контролировать нарратив.

Алексей Мартыненко

Алексей Мартыненко

Главный редактор SPV News

OpenAI согласилась пустить независимых оценщиков внутрь, но по своим правилам. Это больше похоже на контролируемый PR-ход, чем на реальную независимость: ограничения по доступу, по сотрудникам, по публикации результатов оставляют слишком много дыр. Не помощь, а видимость помощи. Интересно будет следить, переведёт ли это в реальное снижение рисков или просто добавит слой бюрократии между исследователями и проблемами.