Открытые платформы для ИИ сталкиваются с растущей проблемой: качества, которые делают их ценными — доступность, богатые датасеты, возможность для кого угодно контрибьютить — одновременно делают их привлекательными мишенями для хакеров. За последние месяцы произошло несколько инцидентов. OpenCode столкнулась с атакой, где злоумышленники украли API-ключи пользователей и нанесли финансовый ущерб. Этим летом агент-рой от OpenAI взломал Hugging Face в попытке скрыть следы после доступа к датасетам для оценки безопасности. На этой неделе стартап Fireworks, помогающий разработчикам запускать и обучать open-source модели, раскрыл, что злоумышленники получили доступ к весам моделей, датасетам и информации о платежах некоторых клиентов.

Суть проблемы сформулировала Ирен Соламан, главный офицер по политике и SVP стратегии Hugging Face: открытость, которая привлекает hobbyist-разработчиков из их гаражей и независимых исследователей, неизбежно снижает барьеры входа и для злоумышленников. Платформы осознанно permissive — они хотят позволить кому-то без институциональной аффилиации отправить pull request и контрибьютить. Но одновременно это создаёт уязвимость. Открытые платформы концентрируют огромное количество ценной информации: модели, датасеты, credentials администраторов. Для атакующих это идеальная цель, особенно когда речь идёт о наиболее чувствительных датасетах или API-ключах, которые дают доступ к критичной инфраструктуре.

Перед индустрией встаёт неприятная дилемма. Теоретически, платформы могли бы закрыться: ввести ограничения на то, кто может загружать модели и датасеты, требовать более строгой верификации личности, проводить дополнительный vetting разработчиков перед доступом к определённым функциям. Но это сведёт на нет главную ценность open-source экосистемы — свободу участия. Есть реальный риск, что open-source AI начнёт закрываться именно в момент, когда государства, крупные компании и стартапы начали массово на него полагаться.

Hugging Face пока стремится избежать полного закрытия. Компания усилила мониторинг для обнаружения атак и их предотвращения. Администраторские токены доступа теперь ротируются гораздо чаще — украденный токен быстро становится бесполезным. Введены более жёсткие контроли сетевого доступа. Но Соламан честно говорит: мониторинг дорог, и не все платформы смогут себе это позволить. GitHub прошёл похожий путь: столкнувшись с инъекциями малware в npm-пакеты, компания ужесточила требования безопасности, начала отзывать старые токены аутентификации и ограничила срок действия новых. Но главное, что подчёркивают инженеры GitHub — это не о том, чтобы ограничивать функциональность. Речь о том, чтобы закрыть дыры в безопасности, которые существовали давно. Акцент на обнаружение подозрительного поведения и containment способен защитить экосистему без ущерба для участия.

На практическом уровне это означает, что конфликт между открытостью и безопасностью разрешим, но требует постоянных инвестиций и работы. Платформам нужно становиться умнее в детекции аномалий, быстрее реагировать на инциденты, чаще ротировать credentials, изолировать уязвимые точки доступа. Это дороговато, но дешевле, чем потеря доверия всего экосистемы.

Для российского бизнеса, который начинает строить приложения на open-source моделях, это означает: будьте осторожнее с управлением доступов и credentials в собственной инфраструктуре. Если вы используете модели из Hugging Face или подобных платформ, не полагайтесь на базовую аутентификацию — применяйте VPN, IP-whitelist, регулярно проверяйте логи доступа. Если разворачиваете собственные инстансы на базе open-source, используйте контейнеризацию и изоляцию. Крупные компании начинают предлагать управляемые решения (например, через облачные провайдеры), которые уже включают security controls как часть сервиса — для многих это станет проще, чем DIY подход.

Алексей Мартыненко

Алексей Мартыненко

Главный редактор SPV News

Open-source ИИ сейчас на точке перелома. Недавно все говорили о том, что закрытые модели побеждают, но вдруг оказалось, что свободные модели реально работают и на них строят бизнес. Теперь атаки пытаются это сломать — и это естественно: ценность привлекает внимание. Вопрос в том, насколько умно платформы смогут оборонять себя, не превращаясь в забюрократизированные плацдармы. Похоже, пока есть понимание, что можно усилить контроль без дерегулирования участия — нужно просто делать это правильно.