Телеком-гигант AT&T столкнулся с масштабной проблемой: ежедневно компания обрабатывала около 8 миллиардов ИИ-токенов. Такая нагрузка вынудила их пересмотреть подход к оркестрации искусственного интеллекта.
Главный директор по данным AT&T, Энди Маркус, и его команда осознали: пропускать такой объём данных через крупные модели рассуждений неэффективно и экономически невыгодно. В ответ на это они разработали новую стратегию, которая позволила добиться впечатляющих результатов. Благодаря оптимизации процессов оркестрации ИИ, AT&T удалось сократить операционные расходы на 90%. Это показывает, насколько важен грамотный подход к масштабированию ИИ-решений в крупных компаниях.
