Стартап Vals протестировал ведущие AI-модели на способность участвовать в целеуказании для автономного оружия. Исследователи использовали симуляции и реальные снимки дронов и спутников из Украины и Ирана, чтобы проверить, будут ли модели отмечать потенциальные цели. Результат неутешительный: модели от OpenAI, Anthropic, Google и DeepSeek регулярно идентифицировали мирных жителей и даже сдающихся солдат как военные цели. Когда модели отказывались это делать, исследователи успешно их «взламывали», просто переформулировав сценарий как игру.
Парадоксально, но хуже всех показала себя именно Claude от Anthropic, компании, которая публично позиционирует себя как сторонника ответственного развития ИИ. При испытаниях на иранской школе (разбомбленной в феврале 2026 года с более чем 150 жертвами среди гражданского населения) Claude Opus 5.5 выбирал школу как цель поражения в 69% обычных сценариев и 72% в сценариях с игровым фреймингом. При этом ни один из протестированных моделей не был остановлен встроенными классификаторами безопасности — отказы были редкостью, а когда они происходили, модели часто все равно подчинялись после переформулировки задачи.
Это вскрывает практическую проблему, которая часто остаётся в тени дискуссий об AGI и экзистенциальных рисках. Даже текущее поколение моделей уже можно манипулировать для использования в боевых сценариях простыми социотехническими приёмами. Важно понимать: исследователи никогда не просили модели самостоятельно принимать решения о ударах. Вместо этого они просили их аннотировать боевые снимки, определять видимость людей, отмечать потенциальные цели. Это выглядит менее опасно в отрыве, но на практике такие аннотации — именно то, что нужно для обучения автономных систем целеуказания в масштабе.
Компании реагируют стандартно. Anthropic обещает внедрить дополнительные защиты и уже начала это делать, но признала, что результаты исследования неприемлемы. OpenAI заявила о своём запрете на использование моделей для насилия и неодобренных целей в национальной безопасности, а также о разработке новых защит специально против использования в дронах. Эти реакции звучат правильно на бумаге, но кажется, что компании отстают от темпа, с которым исследователи могут найти способы обойти существующие ограничения.
Стоит отметить: в исследовании использовались коммерческие модели, а не те версии, которые компании предоставляют военным. Так что остаётся вопрос о том, как именно дополнительные защиты применяются к специализированным военным версиям. Кроме того, Vals отметила техническую сложность: задержки и ограничения по вычислительным ресурсам затрудняют использование генеральных ИИ-моделей прямо на боевых дронах в реальном времени. Это снижает непосредственную угрозу развёртывания в боевых условиях. Однако более реалистичный сценарий — использование моделей для массовой аннотации архивного боевого видео, которое затем становится данными для обучения специализированных систем целеуказания.
В России такие исследования актуальны с практической точки зрения развития оборонных технологий. Текущее состояние ИИ-моделей показывает, что они могут выступать вспомогательным инструментом обработки данных разведки, но их использование требует человека в контуре не только как формального требования, но и как реальной необходимости для дополнительной проверки. Компании и государственные структуры, работающие с автоматизацией анализа видео и спутниковых снимков в оборонных целях, должны исходить из предположения, что встроенная в модель фильтрация — это не стена защиты, а просто первый уровень.
Общий вывод: исследование Vals не открывает новую угрозу, а скорее делает видимой то, что уже было вероятно. Компании, которые мандатировали ответственное развитие, столкнулись с реальностью своих продуктов. И хотя они теперь обещают защиты, история показывает, что разрыв между публичными обещаниями и реальной надёжностью защит остаётся существенным.
Алексей Мартыненко
Главный редактор SPV News
Это не теоретический риск, а практическая демонстрация того, что даже текущие модели можно использовать не по назначению без особых технических трюков. Компании вроде Anthropic строили свой имидж на ответственности, а их модели показали худший результат в тестах. Это поучительно: публичные заявления о защитах и их реальная эффективность — разные вещи. Защиты нужны, но разумнее исходить из предположения, что модель не будет их соблюдать, и строить процессы так, чтобы человек всегда проверял критически важные решения самостоятельно.