Чип Apple с элементами искусственного интеллекта, символизирующий обход ограничений памяти.

ИИ на устройствах: Apple обходит ограничения памяти

ИИ-модели на устройствах ограничены памятью DRAM. Новая архитектура Apple успешно обходит эти лимиты.

Развитие ИИ-моделей, работающих непосредственно на устройствах, долго сдерживалось одним существенным фактором: жестким лимитом оперативной памяти. Все "веса" модели должны храниться в DRAM, что ограничивало количество параметров и функциональность локального ИИ.

Это ставило разработчиков перед выбором: либо использовать мощные, но зависимые от облака модели, либо смириться с ограниченными возможностями ИИ на устройстве. Теперь Apple представила новую архитектуру, которая успешно обходит это узкое место, открывая дорогу для более сложных и производительных ИИ-агентов прямо в гаджетах.

Реакции: