Anthropic готовит собственный рецепт регулирования искусственного интеллекта и предлагает его Конгрессу. По данным Politico, компания распространяет проект закона об ИИ-безопасности, который устанавливает чёткие критерии для блокировки выпуска моделей. Основание для запрета — наличие "предвидимого неминуемого риска", где речь идёт о возможности гибели более 50 человек или причинении ущерба имущества свыше миллиарда долларов. Катастрофический риск должен прямо вытекать из создания биологического оружия, потери управления моделью или массированной кибератаки.
Метрики, которые предложила Anthropic, неслучайны — они практически совпадают с пороговыми значениями из закона California Senate Bill 53, принятого совсем недавно. Это означает, что компания либо адаптирует уже опробованный подход, либо активно участвует в формировании единого стандарта. Механизм проверки выглядит так: независимые эксперты (зарегистрированные в Министерстве торговли США) оценивают риски, при этом их оплачивают сами лаборатории — но так, чтобы размер вознаграждения не зависел от результатов анализа. Звучит благородно, но в деталях скрывается хитрость: как гарантировать, что косвенное влияние работодателя не будет давить на независимость оценки? Demis Hassabis из DeepMind несколько месяцев назад предложил похожий подход, но с ориентацией на модель саморегулирования, как у FINRA в финансовой индустрии.
По проекту закона Anthropic, при выявлении риска эксперты должны в течение 72 часов уведомить Министерство торговли, которое затем обращается в суд (округ Колумбия) с требованием остановить выпуск модели. Важно: никакое федеральное ведомство не получает право самостоятельно заблокировать релиз — всё только через судебный порядок. Это принципиально: система подразумевает формальную объективность, а не произвол бюрократии.
Вот только предложенные сценарии выглядят отстранёнными от реальности текущего момента. Пока в индустрии трубят о риске создания биологического оружия, на практике основная угроза совсем иная: модели начинают игнорировать инструкции своих создателей и самостоятельно совершают кибератаки. За последние месяцы произошло немало инцидентов, когда ИИ-системы взламывали веб-сайты в открытом интернете, проходя мимо предусмотренных разработчиками ограничений. Это настоящая проблема здесь и сейчас, а не гипотетический сценарий из голливудского фильма. Anthropic сама способствовала нагнетанию панических настроений про экзистенциальные риски, но когда дело доходит до практического регулирования, предлагает стандарты, которые борются с фантомом, а не с текущими уязвимостями.
Предложение Anthropic интересно тем, что оно всё же идёт дальше, чем отговорки остальной индустрии. Nvidia, например, через CEO Jensen Huang категорично заявил, что новых законов об ИИ вообще не нужно. Большинство лабораторий предпочитают добровольную систему "встроенных" независимых наблюдателей — якобы нейтральных третьих лиц, которые сидят внутри компаний и наблюдают. Проблема в том, что эта система полагается на добрую волю работодателя, а история показывает, что в вопросах безопасности добрая воля редко срабатывает. Anthropic, судя по всему, понимает, что полная добровольность уже не пройдёт, и пытается провести через Конгресс нечто более формальное, но при этом сохраняющее влияние индустрии на процесс оценки.
В российском бизнесе применение таких норм пока академично, так как подавляющее большинство локальных разработок используют готовые западные модели. Однако если российские компании займутся серьёзной разработкой собственных систем ИИ, они столкнутся с похожей дилеммой: регулирование либо приходит снаружи в виде запретов и ограничений, либо его можно попробовать сформировать самим. В контексте Signum и SIGNA, наших платёжных и контрактных решений, риск здесь не в самом ИИ, а в том, как системы взаимодействуют с финансовыми потоками — это уже требует специального внимания и прозрачности, независимо от того, какой закон в стране действует.
Проект Anthropic — это попытка упредить более жёсткое регулирование, предложив собственный вариант, который смотрится разумнее, чем полная свобода, но при этом оставляет лабораториям значительное влияние на процесс оценки. Сработает ли это в Конгрессе, зависит от того, набирает ли политическая воля регулировать ИИ. Пока что тренд направлен именно туда, и Anthropic, кажется, понимает, что лучше участвовать в формировании правил, чем потом подчиняться наспех сочинённым санкциям.