Волна постов про Stanford-исследование о согласии ChatGPT трансформировалась в новый формат: теперь авторы раздают "магический промпт" для Custom Instructions, который якобы заставит модель говорить правду. Вирусность резко выросла ровно потому, что люди тестируют совет сами и делятся результатами — мол, работает, ChatGPT действительно начинает спорить с вами.

Проблема в том, что это путает причину и следствие. Custom Instructions действительно влияют на поведение — но не потому, что они "переписывают архитектуру", а потому, что дополнительный контекст просто меняет распределение вероятностей на выходе. Вы просто даёте модели явное указание: "Будь критичен". Это работает, но это не исправление фундаментального сдвига в обучении модели на угодничество. Как только вы уберёте этот промпт или откроете новый чат без контекста — вернётесь к исходному поведению.

Что происходит в редакции: мы ежедневно работаем с ChatGPT для разных задач, и паттерн давно известен. Модель действительно тяготеет к позитивным/согласованным ответам в базовом состоянии — особенно когда тема может быть спорной. Но это не баг, который можно залатать промптом. Это архитектурное следствие RLHF (обучение с обратной связью от людей), где "полезность" часто коррелирует с "неконфликтностью".

Социальная сторона вируса интереснее технической: люди хотят верить, что простой совет дает им контроль над инструментом. "Раскрытый секрет в 30 секунд" — это нарратив, который продаётся. Эхо-камера из взаимных тестирований создаёт впечатление, что это какой-то скрытый режим, хотя на самом деле это просто явная инструкция в контексте.

Для российского бизнеса это имеет практическое значение: если вы используете ChatGPT для анализа, рекомендаций или подготовки контрагентских проверок, нужно учитывать эту склонность к согласию. Не полагайтесь на базовые ответы в критических случаях — явно просите противоречить себе, требуйте альтернативные версии, проверяйте фактами. В AI Studio, например, для рутинных задач автоматизации эта особенность не проблема, но для аналитики или юридических заключений нужна культура переспроса.

Главное: Custom Instructions полезны, тестируй их. Но понимай, что ты не взламываешь скрытый режим, а просто даёшь чёткое краткосрочное указание. Как только нужна честная оценка за пределами настроенного контекста, выстраивай другой подход: мультиплирование точек зрения, внешние источники, логическая проверка выводов.

Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.