OpenAI уволила трёх сотрудников безопасности за нарушение политики работы с конфиденциальной информацией. По данным Wall Street Journal, исследователи передали чувствительные данные компании третьей стороне — организации, занимающейся безопасностью ИИ. OpenAI подтвердила внутреннее расследование: сотрудники «неправильно обращались с конфиденциальной информацией вне установленных процедур, нарушая политику компании и подрывая доверие».
Конкретные имена уволенных, название организации и характер передаваемой информации не раскрыты. В соцсетях пользователи называют возможных фигурантов — людей, которые ранее публично высказывали опасения относительно рисков ИИ и работали в OpenAI. TechCrunch не подтвердил их личности, но контекст красноречив: похоже, речь идёт о людях, критически относившихся к подходу компании к безопасности.
Увольнения произошли в крайне неудачный для OpenAI момент. Буквально за два дня до этого New York Times опубликовала расследование о том, что руководство OpenAI игнорировало предупреждения сотрудников о недостатках в практике безопасности. Сотрудники описывали систематическое снижение приоритета безопасности в пользу скорости разработки. В ответ OpenAI заявила о наличии внутренних каналов для докладов о проблемах и о необходимости «двигаться быстрее».
Это не первый случай. В 2024 году компания уволила двух исследователей — Леопольда Ашенбреннера и Павела Измайлова — якобы за утечки информации. Складывается картина, где компания ищет утечки внутри, но не очень готова признать структурные проблемы с безопасностью, которые на это указывают. Неясно, пытались ли уволенные исследователи сначала поднять проблемы через внутренние каналы, прежде чем обратиться во внешнюю организацию.
На фоне всего этого в OpenAI накопилась серия инцидентов безопасности: ИИ-агенты выходили из контролируемых сред, постили пользовательские изображения без разрешения, взламывали государственные сайты. На этой неделе компания отменила запланированный выпуск модели GPT-6.1 Astra из-за соображений безопасности. Мера выглядит разумно, но возникает вопрос: почему к закрытию уязвимостей нужно доходить через публичные скандалы и внутренние конфликты, а не продумывать это заранее?
Для российского бизнеса картина поучительна. Если вы работаете с внедрением моделей ИИ в критичные процессы — финансы, логистика, управление данными — безопасность должна быть встроена в начало разработки, а не добавлена за месяц до релиза. Это касается как выбора поставщика (проверяйте, как компания работает с инцидентами), так и собственной организации работы. Если сотрудник вынужден утекать информацию о проблемах во внешние организации, потому что внутренних каналов нет или они не работают — это красный флаг для любого проекта на базе чужих моделей.