Барак Обама выступил на демократическом сборе средств с призывом сделать искусственный интеллект одним из центральных вопросов повестки дня партии и разработать «четкий план» по его регулированию. По словам бывшего президента, речь идёт как о рисках для безопасности, так и об экономических последствиях этой технологии. Обама подчеркнул: технология развивается слишком быстро в руках частного сектора, и без надлежащего надзора это может привести к опасным последствиям.
Обама одновременно признал потенциал ИИ, указав на возможность ускорения разработки лекарств и лечения заболеваний. По его мнению, проблема не в самой технологии, а в отсутствии скоординированного подхода к её развитию. Примечательно, что Обама позиционирует себя консультантом для руководителей ИИ-компаний — он уже беседовал с главой Anthropic Дарио Амодеи и CEO OpenAI Сэмом Альтманом.
Предложение Обамы появилось в момент, когда индустрия ИИ переживает волну критики по поводу безопасности. Недавно исследователь покинул Anthropic и заявил, что ведущие ИИ-компании гонятся за созданием самосовершенствующегося суперинтеллекта, риском ставя жизни людей. На фоне этого давления Амодей выдвинул концепцию «пейсинга фронтира» — подход, предусматривающий независимые оценки безопасности моделей и выработку единых стандартов между компаниями. Альтман публично согласился с этим предложением и пообещал дать независимым экспертам доступ к системам OpenAI, эквивалентный доступу сотрудников.
Интересно, что эти шаги можно рассматривать как ответ на растущее давление: крупные игроки берут инициативу в регулировании, пока государственная политика ещё не сформировалась. Это позволяет им влиять на формирование стандартов в благоприятном для себя ключе. В США тем временем идёт политическое противостояние: администрация Трампа делает акцент на конкурентоспособности и минимизации барьеров, в то время как Обама и демократы ратуют за более строгий надзор.
В России подобная дискуссия пока находится в зачаточном состоянии. Отечественные компании, работающие с ИИ в области контента и автоматизации, в большинстве взаимодействуют с зарубежными моделями и не испытывают прямого давления регуляторов в части безопасности. Однако растущие требования независимых оценок и стандартов, о которых говорят Амодей и другие, со временем могут повлиять и на российский рынок. Компании, работающие с ИИ локально, стоит рассмотреть принципы прозрачности оценки моделей заранее — это даст конкурентное преимущество, когда требования вступят в силу. Для бизнеса, использующего ИИ в операционных процессах (например, для генерации контента или автоматизации), проактивный подход к безопасности становится не просто хорошей практикой, а вопросом репутационного риска.
Ситуация указывает на растущую роль вопроса о безопасности ИИ в политике — что раньше было в основном технической дискуссией среди экспертов, сейчас становится центральным пунктом стратегии крупных компаний и предметом споров на высочайшем политическом уровне. Это означает, что регулирование будет неизбежно, и компании, которые сейчас проактивно занимаются вопросами безопасности, с большей вероятностью смогут влиять на его форму.