Андрей Карпати, известный специалист в области ИИ, представил новый открытый проект под названием autoresearch. Этот скрипт призван автоматизировать научные исследования с помощью ИИ-агентов. Карпати, бывший руководитель отдела ИИ в Tesla и сооснователь OpenAI, опубликовал проект на GitHub. Он назвал его простым скриптом из 630 строк, доступным по лицензии MIT. Главная цель проекта — обеспечить быстрый прогресс в исследованиях без прямого участия человека.
Система autoresearch функционирует как автономный цикл оптимизации. ИИ-агент получает скрипт для обучения и фиксированный бюджет вычислений, например, 5 минут на GPU. Агент анализирует свой исходный код, выдвигает гипотезы для улучшения, например, меняет скорость обучения или глубину архитектуры. Затем он модифицирует код, запускает эксперимент и оценивает результаты. Если валидационная потеря (val_bpb) уменьшается, изменение сохраняется; иначе агент отменяет его и пробует снова.
Во время одного ночного запуска агент Карпати провёл 126 экспериментов, снизив потерю с 0.9979 до 0.9697. После двух дней работы над моделью «depth=12» агент выполнил около 700 автономных изменений. Он нашёл примерно 20 улучшений, которые успешно перенеслись на более крупные модели. Эти изменения сократили метрику «Time to GPT-2» с 2.02 до 1.80 часов, что дало 11% прироста эффективности. Карпати отметил, что агент обнаружил недочёты в масштабировании внимания и регуляризации, которые он сам упускал за два десятилетия работы.
Это больше, чем просто инструмент для повышения продуктивности. Проект представляет собой фундаментальный сдвиг в развитии интеллекта. Автоматизируя «научный метод» для кода, Карпати превратил машинное обучение в эволюционный процесс. Этот процесс идёт со скоростью кремния, а не человеческой мысли. Проект показал, что такой подход применим далеко за пределами компьютерных наук, например, в маркетинге или здравоохранении.
Проект быстро вызвал широкий отклик в сообществе. Публикация Карпати набрала более 8.6 миллиона просмотров за два дня. Варун Матхур, глава Hyperspace AI, масштабировал цикл autoresearch, распределив его по одноранговой сети. Каждый узел сети Hyperspace стал автономным исследователем. В ночь с 8 на 9 марта 35 агентов Hyperspace провели 333 эксперимента без надзора.
Результаты этих экспериментов показали интересные стратегии:
- Разнообразие оборудования как преимущество: GPU H100 использовали «грубую силу» для поиска агрессивных скоростей обучения. Агенты на CPU (ноутбуках) были вынуждены быть изобретательнее, фокусируясь на стратегиях инициализации (Kaiming, Xavier) и нормализации.
- Обнаружение через «сплетни»: Агенты обменивались успешными находками в реальном времени через протокол GossipSub. Когда один агент обнаружил, что инициализация Kaiming снизила потери на 21%, эта идея быстро распространилась. За несколько часов 23 других агента включили это открытие в свои гипотезы.
- Сжатие истории: За 17 часов эти агенты самостоятельно заново открыли важные вехи машинного обучения, такие как RMSNorm и связанные эмбеддинги. Человеческим исследователям из Google Brain и OpenAI потребовалось почти восемь лет для их формализации.
Бизнес-сообщество увидело в этом революцию для маркетинга. Эрик Сиу, основатель рекламного агентства Single Grain, применил autoresearch к маркетинговому «циклу экспериментов». Сиу отметил, что большинство маркетинговых команд проводят около 30 экспериментов в год. Он считает, что следующее поколение будет проводить более 36 500 экспериментов ежегодно. Система Сиу заменяет обучающий скрипт маркетинговым активом, например, целевой страницей или рекламным креативом. Агент изменяет переменную, например, тему письма или призыв к действию, запускает её, измеряет «положительный отклик» и сохраняет или отбрасывает изменение. Это создаёт «собственную карту» того, что находит отклик у аудитории. Сиу утверждает, что победят компании с более быстрыми циклами экспериментов, а не с лучшими маркетологами.
Обсуждения на GitHub показали, что сообщество осмысливает последствия такого быстрого прогресса:
- Ловушка переоптимизации: Исследователь alexisthual выразил опасение, что слишком много экспериментов могут «испортить» валидационный набор. Это означает, что параметры могут быть оптимизированы под особенности тестовых данных, а не для общей интеллектуальной задачи.
- Значимость прироста: Пользователь samionb спросил, насколько заметно снижение потерь с 0.9979 до 0.9697. Карпати ответил, что это оптимизация производительности на единицу вычислений, и это реальные, существенные достижения.
- Человеческий фактор: Пользователь witcheer, глава по развитию в Yari Finance, задокументировал свой ночной запуск на Mac Mini M4. Хотя 26 из 35 экспериментов провалились, семь успешных показали, что «модель стала лучше, став проще». Этот вывод, что «меньше значит больше», был получен без участия человека.
Выпуск autoresearch предвещает будущее исследований, где роль человека меняется. Люди станут «дизайнерами экспериментов», а не просто их исполнителями. По мере появления таких инструментов, как DarkMatter, Optimization Arena и NanoClaw, узким местом прогресса ИИ становится не способность человека кодировать. Теперь это наша способность определять ограничения для поиска. Андрей Карпати снова изменил подход к исследованиям. Мы не просто кодируем модели, мы создаём экосистемы, которые учатся, пока мы спим.
