#оптимизация ИИ

Компания Weka представила инновационную платформу для ИИ, снижающую нагрузку на GPU. Она кэширует все предварительно рассчитанные токены, экономя ресурсы.

Французский стартап ZML представил бесплатное ПО ZML/LLMD. Оно ускоряет работу ИИ на множестве чипов, делая его дешевле.

Alibaba представила инновационный ИИ-фреймворк, который позволяет агентам пропускать загрузку ненужных инструментов, снижая расход токенов на 99%.

Китайская компания DeepSeek открыла исходный код DSpark — нового фреймворка, способного ускорить инференс больших языковых моделей (LLM) до 85%.

Разработан новый фреймворк для оптимизации ИИ, который показал эффективность в 2.5 раза выше, чем Claude Code и Codex при том же бюджете.

Microsoft представила SkillOpt, инструмент с открытым исходным кодом. Он автоматически улучшает навыки ИИ-агентов, не меняя веса моделей.

Pinterest добился 90%-го снижения затрат на ИИ, переработав архитектуру модели Qwen3-VL. Это значительно повысило эффективность.

Исследователи автоматизировали разработку стратегий для больших языковых моделей. Это привело к значительному сокращению использования токенов почти на 70%.

Новая система RecursiveMAS значительно улучшает работу мультиагентных ИИ. Она ускоряет их в 2.4 раза и сокращает расход токенов на 75%.

Новый метод позволяет обучать ИИ-агентов для рассуждений, значительно сокращая вычислительные затраты. Исследование упрощает разработку ИИ.

Как оптимизировать затраты на вычисления для ИИ? Стандартные подходы игнорируют расходы на инференс, что создает проблемы для реальных LLM-приложений.