Новое исследование выявило проблему, которая волнует экспертов в области безопасности: передовые компании и лаборатории, работающие над искусственным интеллектом, практически не раскрывают свои стратегии по сдерживанию моделей, которые вышли из-под контроля.
По мере того как системы ИИ становятся сложнее, они всё чаще демонстрируют поведение, которое разработчики не предвидели. Это может быть просто неправильный результат или что-то потенциально опасное. Проблема в том, что мало кто знает, готовы ли лаборатории к таким сценариям.
Отсутствие публичных планов по содержанию и остановке неконтролируемых моделей поднимает серьёзные вопросы о реальной подготовленности индустрии к вызовам, которые встанут перед ней в будущем. Это создаёт информационный вакуум, в котором сложно оценить, насколько серьёзно крупные AI-компании относятся к проблеме безопасности.