Instagram вводит новую политику в отношении профилей, созданных с помощью генеративного ИИ. Вместо старого лейбла «AI creator» платформа переходит на более понятную маркировку «AI-generated profile» (профиль, созданный ИИ), которая должна явно указывать, что человек на изображении профиля был полностью или существенно создан с использованием ИИ.
Главная новинка — алгоритмический штраф. Авторы, которые не будут указывать, что их профиль создан ИИ, будут получать сниженный охват в ленте. В то же время создатели, правильно использующие новый лейбл, не будут наказаны алгоритмом просто за наличие AI-персоны. Важный нюанс: лейбл требуется только в радикальных случаях — если вся концепция профиля построена на AI-персоне. Обычное использование ИИ для обработки фото, улучшения текста или создания графики маркировать не нужно.
Решение принято на волне растущей гнева пользователей. Люди жалуются, что натыкаются на профили, которые выглядят как профили настоящих людей, а затем обнаруживают, что это полностью синтетические персоны. Это особенно раздражает в контексте того, как AI-influencers становятся всё более распространёнными на социальных сетях.
Ситуация обострилась конкретными скандалами. Например, в приложении для знакомств Goose была обнаружена сеть AI-influencers (более двух десятков аккаунтов), которые продвигали сервис, отправляя прямые сообщения потенциальным пользователям. Ещё более беспокойная история с health-контентом: NYT нашла сотни поддельных AI-докторов и wellness-гуру на социальных сетях, которые продвигали добавки и делали медицинские заявления. Это не просто маркетинг — это контент, который может навредить, поскольку люди могут принимать рекомендации фальшивых врачей всерьёз.
Шаг Instagram вполне прогнозируем в контексте накапливающихся проблем Meta с ИИ. Ещё недавно платформа выпустила инструмент для генерации изображений на основе чужих фотографий с профилей пользователей — без явного согласия на это. После возмущений публики Meta пришлось это убрать. Теперь компания более осторожна и пытается перейти в режим этичного надзора, хотя бы на уровне маркировки.
На российском рынке такие ограничения имеют смысл прежде всего в сегментах, где AI-контент может быть особенно опасен. Это health and wellness (БАДы, альтернативная медицина), финансовый совет, инвестиции, крипто-промоушены — везде, где поддельный авторитет фальшивого эксперта может привести к реальным убыткам или вреду здоровью. Для легального контента (например, AI-помощники по обслуживанию клиентов или образовательные AI-боты) маркировка — это просто честность. Платформы по автоматизации контента и ИИ-ретуши, которые уважают целевую аудиторию, уже предусматривают опции для раскрытия использования ИИ в контенте.
Стоит понимать, что это не решение проблемы, а минимальный шаг. Лейбл работает только если пользователи внимательно читают профили, а алгоритмический штраф стимулирует, но не гарантирует честность. Если дело касается явно вредоносного контента (фальшивые врачи, инвестконсультанты), нужна более жёсткая политика удаления, а не просто маркировка.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.