Якуб Пахоцкий из OpenAI предложил использовать перплексию — метрику предсказательной способности модели — как инструмент для согласованного замедления разработки ИИ. Идея возникла в контексте широкого обсуждения о необходимости ограничивать темпы развития технологии. Дарио Амодей из Anthropic недавно выступил с планом «pace the frontier», который предложил компаниям согласиться на общие стандарты безопасности и пределы скорости развития, и эта инициатива получила поддержку как Sam Altman, так и Elon Musk.

Суть предложения Пахоцкого в том, что существующие бенчмарки, измеряющие конкретные возможности ИИ, быстро устаревают. Перплексия же — показатель того, насколько хорошо модель предсказывает следующий токен — остаётся информативной на протяжении долгого времени и корелирует с появлением качественно новых способностей. Пахоцкий приводит данные: когда перплексия GPT-4 достигла 0.91, модель продемонстрировала способность к цепочке рассуждений; при снижении ниже 0.8 появились трансформативные возможности в кибербезопасности и математике.

На практике это означает, что компании могли бы согласиться не переходить определённый порог перплексии до тех пор, пока их способность понимать и мониторить поведение ИИ не достигнет конкретного уровня. Это создало бы объективную, независимую от маркетинга метрику прогресса, которую сложно оспорить и которая одинаково применима ко всем игрокам на рынке.

Идея выглядит более рациональной, чем интуитивные призывы к замедлению. Но есть подвох: согласованные ограничения сработают только если участники действительно их соблюдают и если метрика действительно коррелирует с рисками (а не просто с масштабом модели). История с «джентльменскими соглашениями» в технологии показывает, что добровольные механизмы часто работают до первого значительного экономического стимула их нарушить.

Sam Altman назвал этот пост «наиболее важным материалом OpenAI за долгое время», что само по себе интересный сигнал: компания показывает, что всерьёз занимается вопросом ограничений, а не просто защищается от критики. Одновременно это может быть позиционированием — если согласованные лимиты на основе перплексии станут стандартом, компаниям, которые их предложили, будет проще соответствовать и получить репутационный выигрыш от «ответственного развития».

Для российского бизнеса, работающего с ИИ, возможное введение международных лимитов означало бы предсказуемую игровую площадку. Если такие стандарты действительно примут крупные компании, это открыло бы возможности для локальных разработок — не обязательно достигать максимальной производительности, а обеспечивать полезную функциональность в рамках согласованных ограничений. Скажем, для автоматизации контента или аналитики через такие инструменты становилось бы проще планировать развитие, зная, что рынок не будет постоянно сдвигаться под воздействием неконтролируемого масштабирования.

Алексей Мартыненко

Алексей Мартыненко

Главный редактор SPV News

Пахоцкий попытался перевести размытые разговоры о лимитах в техническую плоскость, что само по себе полезно. Но надо быть честным: если две-три компании считают перплексию удачной метрикой, это не значит, что всех остальных этот вариант устроит. Настоящая проверка — будут ли это правило соблюдать, когда соблюдение означает замедление собственного развития на фоне конкурентов, которые могут действовать по другим правилам.