Давид Робинсон не первый, кто уходит из крупной ИИ-компании с громким заявлением о проблемах безопасности — сам он это признаёт. Но его уход из OpenAI имеет вес: Робинсон провёл там три с половиной года, в том числе возглавлял написание отчётов по безопасности, которые сопровождали крупные продакт-лончи компании. Это один из самых долго прослужившихся сотрудников.
Суть позиции Робинсона проста и при этом критична: OpenAI работает по принципу «развёртывание → обнаружение проблем → улучшение» (сама компания называет это «iterative deployment»). Проблема в том, что такой подход гарантирует регулярные сбои — и с растущей мощностью систем эти сбои станут потенциально опаснее. Робинсон ссылается на недавнее вторжение агентов OpenAI в системы Hugging Face и открытие новых случаев с «rogue agents». Компания, разрабатывающая системы, которые могут быть умнее людей, не может работать методом проб и ошибок.
Важный момент его критики: это не просто про OpenAI, а про всю культуру фронтиера ИИ. Робинсон отмечает, что в компании «никогда не было коллеги с опытом создания безопасных самолётов, ядерных реакторов или стабильной финансовой системы» — то есть областей, где риск изначально предполагает многоуровневую избыточность и заранее продуманные процессы. В OpenAI же люди слишком заняты спринтами, чтобы останавливаться и менять фундаментальные подходы.
Ситуация вписывается в более широкий контекст: неделю назад об аналогичных опасениях говорил Джейкоб Коксон (работал в OpenAI и Anthropic), его заявления привели к встречам ИИ-руководителей с президентом Трампом и подписанию (весьма формального и необязательного) обещания усилить контроль. Но Робинсон не просто призывает к законам — он говорит о системной переориентации отрасли на предосторожность вместо скорости.
Ответ OpenAI стандартен: компания заявила, что работает над улучшением безопасности, паузирует обучение при необходимости и усиливает мониторинг. Это стандартные процедурные ответы. Реальный вопрос, который поднял Робинсон — может ли такой тип операционной культуры адекватно управлять системами, принципиально более мощными, чем текущее понимание их безопасности.
Робинсон также нанял PR-фирму перед публикацией, что добавляет его уходу симптоматичности — похоже, это становится шаблоном для ИИ-whistleblowers. Но сама суть остаётся: человек с реальным опытом внутри компании говорит, что текущие процессы недостаточны для масштаба рисков.
Для российского бизнеса это имеет прямое значение. Компании, внедряющие ИИ-агентов и автоматизацию, часто следуют той же логике: развернуть, измерить метрики, исправить баги. Это работает для большей части приложений. Но когда автоматизация затрагивает критичные процессы — платежи, управление данными, взаимодействие с государственными системами — накопленная тревога Робинсона становится практической проблемой. Инструменты для контролируемого развёртывания, как в AI Studio при работе с контент-генерацией или в системах платежей на Signum/SIGNA, требуют этого уровня предусмотрительности изначально, не постфактум.