Нейросеть из коз в Age of Empires 2: Microsoft объясняет LLM
Исследователь Microsoft создал нейросеть, управляемую козами в Age of Empires 2. Это необычное изобретение наглядно демонстрирует, почему не стоит приравнивать поведение больших языковых моделей к человеческому интеллекту.
Исследователь Microsoft решил наглядно показать, как работают большие языковые модели (LLM). Для этого он создал необычную нейросеть, которая управляет козами в классической стратегии Age of Empires 2.
Цель эксперимента — донести, что не стоит ошибочно принимать способность LLM обрабатывать естественный язык за подобие человеческого мышления. Учёный подчеркивает: когда нужно доказать свою точку зрения, он склонен доводить ситуацию до максимума. Это необычное, но эффективное сравнение позволяет понять, что даже сложное поведение может быть результатом программирования, а не осознанного выбора, имитируя, например, базовые инстинкты животного.
Такой подход помогает игрокам и широкой аудитории лучше осознать внутреннюю логику ИИ, не наделяя его излишними антропоморфными качествами. Просто потому, что ИИ обучен на человеческом языке, не делает его человеком.