Основной тренд в робототехнике — передача управления генеративным ИИ-моделям. Проблема в том, что такая архитектура непредсказуема в отличие от традиционных алгоритмов. Как убедиться, что новый гуманоидный робот не причинит вред? Именно эту задачу решает Safeworld, стартап, основанный директором лаборатории Safe AI в Carnegie Mellon University Дин Чжао вместе с ветераном стартапов Кайлом Вонгом и машинлёрниго-специалистом Симо Рашиди.
Компания получила раунд посева размером более $12 млн под руководством Shine Capital и a16z Speedrun. По словам партнёра a16z Speedrun Джонатана Лая, стандартизация безопасности критически важна именно сейчас: если дождаться реальных инцидентов с роботами в домах, будет слишком поздно. Суть подхода Safeworld — оценка системы управления робота в симуляциях с реалистичными моделями людей. Это напоминает вызовы, стоящие перед компаниями вроде Tesla или Wayve, которые должны гарантировать адекватное поведение беспилотников в неожиданных ситуациях. Но для роботов задача сложнее: они работают в неструктурированной среде, и каждое помещение имеет свои стандарты безопасности.
Типичный пример — слепой угол на производстве. Какая скорость и расстояние торможения нужны, чтобы робот не столкнулся с человеком? Обнаружит ли робот человека, если тот несёт коробки? Safeworld строит цифровую копию такого места в симуляторе (Genesis или MuJoCo), внедряет реальное ПО робота и запускает тысячи сценариев, где виртуальные люди взаимодействуют с машиной. Это сложнее, чем кажется: люди непредсказуемы. Тестировать падения и спотыкания в симуляции гораздо практичнее, чем требовать от живого человека падать перед роботом.
Основатели признают сходство своей платформы с внутренними инструментами разработчиков робототехники, но верят, что производители захотят привлечь независимую третью сторону для валидации — хотя бы для обмена информацией о граничных случаях между конкурентами. Дин Чжао подчёркивает, что индустрия недооценивает сложность некоторых сценариев: речь не о роботе-пылесосе на демо, а о машине, развёрнутой в масштабе и управляемой людьми, никогда не работавшими с робототехникой.
Примеры уже появляются: компания Gritt Robotics, разработавшая ИИ-мозг для роботов на солнечных фермах, уже партнёрит с Safeworld. По словам её CTO Вишала Дугара, сложность в том, что большинство систем невозможно доказательно верифицировать математически — это нужно делать эмпирически. Роботы работают рядом с людьми, и нужно учитывать все варианты: люди стоят, кроме и, падают, бегут, носят разную одежду, имеют разный рост и комплекцию. Каждый вариант требует отдельного рассмотрения.
Рынок робототехники в России всё ещё в начальной стадии, но задача валидации безопасности становится актуальной по мере появления коллаборативных роботов на производствах и в логистике. Российским компаниям, разрабатывающим или внедряющим робототехнику с ИИ-управлением (особенно в промышленности и строительстве), подход третьей стороны к тестированию мог бы быть полезен для соответствия растущим требованиям к безопасности и документированию рисков при взаимодействии с персоналом.
Пока Safeworld только начинает — ещё не определилась с бизнес-моделью (SaaS-платформа или услуги). Но команда уверена в правильности выбранного направления. По словам Чжао, компания может стать первой прибыльной в этой области просто потому, что каждому, кто хочет развернуть робота в реальной среде, понадобится их услуга.