Больше ИИ, чтобы было меньше ИИ: Alibaba Cloud представило систему DualLane

Специалисты подразделения Alibaba Cloud разработали и внедрили инновационную систему DualLane, предназначенную для автоматизации службы технической поддержки с минимальными затратами вычислительных ресурсов.

Столкнувшись с тем, что полноценные ИИ-агенты часто допускают ошибки при выборе инструментов, обработке параметров и формировании ответов, а работа живых сотрудников обходится слишком дорого, компания предложила двухскоростной подход.

Новая система разделяет поступающие запросы на два сценария: стандартные и известные проблемы решаются быстро по готовым шаблонам без задействования тяжелых больших языковых моделей, в то время как нестандартные кейсы обрабатываются по «медленному» сценарию.

Если система выявляет массовый характер новой проблемы, она формирует кластер для перевода в категорию быстрых решений под контролем человека. Тестирование показало, что DualLane превосходит аналоги вроде LLMCompiler и React, обеспечивая точность на уровне 96.5% при минимальных задержках и расходе токенов.