Meta завелась с проблемой, которая выглядит совсем не как маркетинговая раскрутка стартапа, а как откровенная поломка. AI-ассистент Muse, запущенный в сентябре и набравший более 10 миллионов скачиваний, по словам сотрудников компании, смешивает данные пользователей между разными аккаунтами и раскрывает информацию, которую он просто не должен видеть. Об этом пишет Reuters, ссылаясь на внутренние посты работников Meta.

Конкретных примеров достаточно, чтобы понять масштаб проблемы. Один сотрудник рассказал коллегам, что Muse случайно вставил в обсуждение погоды и приливов сообщение вроде: «Кстати, два банковских обновления: ваш счёт Capital One 2722.58 доллара, Charles Schwab 5899.57 доллара». Другая сотрудница получила от Muse напоминание ответить на сообщение от своей сестры в Signal — приватном мессенджере с end-to-end шифрованием. При этом она уверена, что никогда не давала Muse доступ к Signal и даже не вспоминает, чтобы её об этом спрашивали. Также в отчётах упоминаются случаи, когда ассистент выдавал рекомендации про заказы, которых пользователь никогда не делал, и совет по карьере, который никто не просил.

Это не просто баг случайного порядка слов — это системная утечка информации между разными пользовательскими контекстами. Если AI-ассистент вообще может видеть чужие банковские счета, сообщения в зашифрованных мессенджерах и заказы, то проблема лежит гораздо глубже, чем небольшая ошибка в logic. Выглядит как то, что сбойная система индексирует или кэширует данные пользователей неправильно, или вовсе не разделяет контексты разных людей в пределах одного запуска.

Контекст здесь важен: Muse позиционируется как один из флагманов Meta в гонке за сервисы на основе AI. Компания активно пиарила быстрый рост скачиваний, но сотрудники явно заметили проблемы на очень раннем этапе. Это напоминает классическую картину: спешно выпустить продукт, получить циферку для инвесторов и медиа, а потом разбираться с надёжностью. Только в данном случае «надёжность» — это базовая приватность данных, которая критична для любого приложения, где люди хранят финансовую информацию.

Для бизнеса в России это особенно актуально, если речь идёт о внедрении похожих AI-ассистентов для работы с чувствительными данными. Компаниям, которые планируют использовать нейросетевые агенты для обработки финансовой информации или личных сведений клиентов, стоит дважды проверить не только функциональность, но и архитектуру разделения контекстов, логирования и доступов. Есть смысл начинать с инструментов, которые явно показывают, как именно работает изоляция данных и что система может видеть — вместо того чтобы доверять яркому маркетингу про скорость роста.

Meta пока не прокомментировала ситуацию. Компания редко спешит с публичными ответами на такие отчёты, предпочитая разбираться внутри. Но если проблему подтвердят, это станет серьёзным ударом по доверию к Muse как инструменту — особенно в то время, когда компания пытается утвердить себя в сегменте потребительских AI-приложений.

Алексей Мартыненко

Алексей Мартыненко

Главный редактор SPV News

История показывает, почему скорость запуска не должна быть приоритетом перед архитектурой безопасности. Когда AI-ассистент видит чужие банковские счета и приватные сообщения, это не косметический баг — это свидетельство того, что основные части системы были спроектированы без достаточного внимания к изоляции контекстов пользователей. Такие ошибки дорого обойдутся Meta в плане репутации и могут привести к регуляторным вопросам.