Kog утверждает, что бытующее мнение о неподходящести GPU для агентских рабочих процессов может быть ошибочным. Стартап из Франции работает над оптимизацией использования видеокарт именно для таких задач.
Агентские системы ИИ предполагают, что модель самостоятельно выполняет несколько шагов, принимает решения и может обращаться к различным инструментам. Раньше считалось, что графические процессоры для этого подходят плохо, так как такие рабочие процессы требуют частых переключений и не очень длинных вычислительных цепочек.
Kog предлагает другой подход, позволяющий более полно загружать GPU при работе с агентскими системами и выжимать из видеокарт больше вычислительной производительности. Это открывает потенциал для более эффективного запуска таких сложных систем ИИ на существующем оборудовании.