Нью-Йорк движется в сторону штрафов за так называемые 'doom loops' в AI-чатботах — ситуацию, когда система намеренно затрудняет или блокирует возможность перейти на общение с человеком оператором. Речь идёт о классическом тёмном паттерне, только применённом к ИИ: пользователь крутится в диалоге с ботом, но не может получить помощь реального сотрудника. Это не новая проблема — жалобы на подобные интерфейсы фиксируют уже пару лет, но на законодательном уровне подобные требования появляются впервые.

Суть предложения простая: компании не должны проектировать чатботы так, чтобы выход к человеку был недоступен или намеренно скрыт глубоко в меню. Сейчас много крупных сервисов (банки, страховые компании, провайдеры) ставят ИИ-чатботов в качестве первой и часто единственной линии поддержки, но качество обработки сложных случаев остаётся низким. Пользователь застревает, поддержка не помогает, а выход заблокирован. Это актуально везде, где автоматизация применяется без фалбека на реального человека.

Для индустрии это будет ориентиром: не сдерживать развитие AI-support, а просто проектировать его честно. Если система не может разрешить вопрос, она должна это признавать и пропускать пользователя дальше — это не убыток, это дешевле, чем потерять клиента на фрустрации. В каком-то смысле это стимул к тому, чтобы компании лучше обучали свои модели, а не просто включали их и забывали.

В России подобный вопрос пока не на повестке регуляторов, но давление на компании растёт. Многие российские банки и маркетплейсы уже получают жалобы за неработающие чатботы, которые не дают выхода к поддержке. Если вы разворачиваете или планируете разворачивать ИИ-ассистента для клиентов, правило просто: всегда оставляйте видимый и быстрый путь к человеку, если бот не уверен или не может помочь. Это не только правовая страховка, но и маркетинг — люди ценят честность в автоматизации.

Интересно, что по факту это не удар по ИИ как технологии, а удар по плохому дизайну. Чатбот как инструмент поддержки может быть отличным решением, если использовать его правильно. Нью-Йоркский подход может стать трендом для других штатов и стран, потому что проблема универсальная, а решение не требует запретов на технологию — только честности в её применении.