Через неделю после того, как сотрудник Anthropic напугал индустрию дневником о грядущем риске суперинтеллекта, CEO компании Dario Amodei представил свой рецепт замедления развития ИИ на переднем крае. Предложение основано на двух столпах: привлечение независимых экспертов для оценки безопасности моделей и координация между лабораториями в демократических странах. На словах звучит разумно, и некоторые части индустрии идею поддержали. Но есть и острая критика — особенно от Nvidia.

Вот в чём главная проблема: согласиться на замедление в теории легко, в практике — почти невозможно. Нужно договориться, что такое вообще значит «замедлиться». Это остановить обучение моделей на неделю? Месяц? Выпускать их с интервалами? А главное — кто следит за соблюдением? Независимые оценщики — идея хорошая, но только если у них реально есть зубы: право остановить проект, если что-то не нравится. На практике вполне вероятно, что лаборатории будут интерпретировать рекомендации по-своему, ровно как им удобно.

Jensen Huang из Nvidia не поскупился на критику: он считает, что такие инициативы наивны и что индустрия просто не согласится на добровольные ограничения, когда ставки столь высоки. Это точка зрения конкурента, но в ней есть зёрна истины. История показывает, что координация между компаниями, когда речь идёт о гонке за технологическое лидерство, держится на честности участников. А доверие в этом пространстве не в избытке.

Предложение Amodei выглядит как попытка навести порядок в доме до того, как случится беда. Это хорошее намерение, но его реализация упирается в старую проблему: как заставить участников рынка с конкурентными интересами действовать в общих целях? Особенно когда регулирующих органов практически нет, а каждая лаборатория работает по своим правилам.

Для российского бизнеса эта дискуссия имеет косвенное, но важное значение. Если международная координация на безопасность действительно начнёт работать, это может влиять на доступ российских компаний к передовым инструментам и моделям. Параллельно отечественные разработчики ИИ-решений — для автоматизации, контента, аналитики — будут работать с инструментами, которые у них есть, и адаптировать их под локальные нужды. Вопрос координации и саморегулирования лабораторий, кстати, напрямую относится и к вопросу о том, какие инструменты могут быть надёжны для использования в критичных бизнес-процессах.

В итоге план Amodei — это скорее манифест добрых намерений, чем работающий механизм. Его успех зависит от того, готовы ли лаборатории действительно замедляться или они просто ищут способ выглядеть ответственными, продолжая спешить дальше.