На этой неделе спасатели вытащили троих молодых людей из Mud Creek Canyon на горе Шаста в Калифорнии. Причину называют красноречиво: они полагались на Google Gemini при планировании похода. Согласно отчёту шерифа округа Сискию, парни стартовали в 3 утра, доползли до вершины в 7 вечера (хотя туристам обычно рекомендуют повернуть обратно к полудню) и затем попытались спускаться в темноте. После того как позвонили в полицию за указаниями, провели ночь в каньоне и дождались спасателей.
Главная проблема: Gemini посоветовал взять значительно меньше еды и воды, чем требовалось для группы. Когда плановый восьмичасовой подъём превратился в многодневную авантюру, припасов не хватило. Шериф явно не на шутку — в своём отчёте они прямо рекомендуют никогда не полагаться исключительно на ИИ при планировании похода и всегда звонить местным рейджерам для уточнения маршрута.
Это не первый случай такого рода и не последний. Шумиха вокруг больших языковых моделей создала ложное впечатление, будто они — универсальный источник информации. На самом деле ChatGPT, Gemini и им подобные регулярно выдают уверенные, но неточные или устаревшие советы. В контексте критических решений — медицина, юриспруденция, спасение в дикой природе — это смертельно опасно.
Для ИИ-компаний этот случай — неудачный пиар. Google вложил огромные ресурсы в позиционирование Gemini как надёжного помощника. Но история про туристов, чуть не погибших из-за совета боту, мгновенно разошлась по интернету и показала реальность: модель галлюцинирует, когда ей не хватает точных данных. В данном случае Gemini не учёл сезонность, специфику высокогорья и базовые правила безопасности — факторы, которые подкасты про ИИ благополучно игнорируют.
Есть выход: гибридный подход. ИИ может помочь в сборке начального плана, но финальную проверку — особенно в экстремальном туризме — должны делать люди, знакомые с конкретной местностью. Chatbot как помощник, а не как авторитет. Это работает везде, не только в горах.
В российском контексте ситуация похожа. При расширении доступа к ИИ-инструментам (включая локализованные версии Gemini и ChatGPT) возрастёт риск, что люди будут применять их в критических сценариях без проверки. Туризм по Урлу, Кавказу и Алтаю — популярное направление, где ошибки в подготовке дорого обходятся. Компаниям, которые создают сервисы для туристов или автоматизируют планирование маршрутов (включая те, что используют ИИ для обработки данных о тропах и погоде), стоит прямо указывать на границы компетентности модели и настаивать на верификации через местные ranger-ы или опытные гайды. Это повышает ответственность и снижает риск репутационного урона.