Alibaba AI сокращает потребление токенов на 99% новым фреймворком
Alibaba представила инновационный ИИ-фреймворк, который позволяет агентам пропускать загрузку ненужных инструментов, снижая расход токенов на 99%.
Исследователи Alibaba представили новый ИИ-фреймворк, который решает проблему чрезмерного использования токенов ИИ-агентами. Технология пропускает загрузку инструментов, не нужных для текущей задачи, что значительно повышает эффективность.
Многие корпоративные ИИ-системы сталкиваются с трудностями при масштабировании: агенты имеют доступ к сотням инструментов и навыков. Это приводит к путанице и неэффективному расходу токенов. Новый подход Alibaba позволяет сократить потребление токенов до 99%, делая сложные рабочие процессы с ИИ намного более экономичными и быстрыми. Это прорыв для систем, работающих с большими языковыми моделями.