Белый дом добился от крупных ИИ-компаний (OpenAI, Google, Meta и др.) подписания добровольного соглашения о проведении независимых аудитов своих систем. На бумаге это выглядит как шаг в сторону большей прозрачности и безопасности. На практике же механизм содержит критический изъян, на который указывает Сэмюэль Вэнс-Лоу, руководитель исследований Decentralization Research Center: аудиторы смогут проверять только то, что им покажут сами компании.
Это не просто деталь. Если аудитор может выбирать, что проверять, он может вскрыть серьёзные проблемы — смещение в обучающих данных, скрытые баги в логике принятия решений, проблемы с безопасностью. Но если компания заранее решает, какие части системы остаются открытыми для проверки, а какие нет, аудит превращается в управляемый процесс PR. Аудитор просто подтвердит то, что компания сама считает безопасным показать.
Подобные добровольные инициативы Big Tech редко работают на практике так, как задумано. Компании формально соглашаются на аудиты, но встраивают в процесс достаточно ограничений (конфиденциальность, ограничения на методологию, сокращённый доступ к данным), чтобы результаты остались в их контроле. История с финансовыми аудитами и сейчас с аудитами контента показывает: если аудитор зависит от аудируемого — процесс теряет смысл.
Настоящий аудит ИИ-системы требует того же, что и аудит в других критичных областях (банки, авиация, фармацевтика): право аудитора выбирать, какие компоненты, данные и процессы проверять, без согласования с компанией. Иначе можно годами проверять чистоту коридоров и не заметить конструктивный дефект.
Проблема усугубляется тем, что сложность современных ИИ-систем (особенно больших языковых моделей) затрудняет и саму проверку. Даже при полном доступе аудитор не всегда поймёт, почему модель выдаёт тот или иной результат. Если к этому добавить ограничения на то, что можно проверять, аудит становится театром для успокоения публики.
Для российского бизнеса это имеет практическое значение. Если вы внедряете системы ИИ на критичных участках (финансовые решения, кредитные скоринги, HR-подбор), имеет смысл при выборе поставщика требовать прозрачности в том же объёме, который вы требуете от своих собственных систем. Иностранные модели, работающие на территории РФ, уже попадают под растущие требования регулятора — и регулятору, и вам самим нужны результаты настоящих аудитов, а не игры в аудиты. При внедрении собственных ИИ-решений обращайте внимание на документированность подходов к безопасности и проверяемость логики, а не только на точность прогнозов.
По оценке Алексея Мартыненко, главного редактора SPV News, добровольные соглашения Big Tech с государством редко служат интересам общества, когда речь идёт о проверке. Аудит становится работающим инструментом только если аудитор независим и может выбирать, что проверять. Всё остальное — это корпоративный имиджевый проект.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.