ИИ-платформа автономно превосходит созданные человеком базовые показатели R&D

Исследования и разработки в области искусственного интеллекта строятся на цикле «гипотеза — эксперимент — анализ», и каждый этап требует значительных затрат ручного труда инженеров. Новый фреймворк, созданный исследователями из SII-GAIR, призван устранить это узкое место за счет автоматизации всего цикла оптимизации для обучающих данных, архитектур моделей и алгоритмов обучения.

Новый фреймворк под названием ASI-EVOLVE, разработанный исследователями из лаборатории исследований генеративного искусственного интеллекта (SII-GAIR), призван решить эту проблему. Будучи агентной системой для исследований в области ИИ для ИИ, она использует непрерывный цикл «обучение — проектирование — эксперимент — анализ» для автоматизации оптимизации фундаментального стека ИИ.

В ходе экспериментов этот цикл самосовершенствования автономно обнаружил новые разработки, которые значительно превзошли передовые экспертные аналоги, созданные людьми. Система создала новые архитектуры языковых моделей, улучшила конвейеры предварительного обучения для повышения показателей в бенчмарках более чем на 18 пунктов и разработала высокоэффективные алгоритмы обучения с подкреплением.

Для корпоративных команд, проводящих регулярные циклы оптимизации своих систем ИИ, этот фреймворк предлагает способ снизить нагрузку на ручное инженерное обеспечение, при этом достигая или превосходя производительность базовых моделей, разработанных людьми.

Узкое место данных и проектирования

Инженерные команды могут исследовать лишь крошечную часть огромного пространства возможных вариантов проектирования моделей ИИ в любой заданный момент времени. Выполнение экспериментальных рабочих процессов требует дорогостоящих ручных усилий и частых вмешательств человека. А понимание, полученное в ходе этих затратных циклов, часто замыкается в виде индивидуальной интуиции или опыта, из-за чего сложно систематически сохранять и передавать эти знания будущим проектам или между различными командами. Эти ограничения в корне сдерживают темпы и масштабы инноваций в сфере ИИ.

ИИ добился невероятных успехов в научных открытиях — от специализированных инструментов вроде AlphaFold, решающих дискретные биологические задачи, до агентных систем, отвечающих на фундаментальные научные вопросы. Тем не менее, существующие фреймворки все еще испытывают трудности с открытыми инновациями в области ИИ и в основном ограничены узкой оптимизацией в рамках весьма специфических условий.

Продвижение базовых возможностей ИИ гораздо сложнее. Оно требует изменения крупных взаимозависимых кодовых баз, проведения ресурсоемких экспериментов, потребляющих от десятков до сотен часов работы GPU, и анализа многомерных отзывов о динамике обучения.

«Существующие фреймворки еще не продемонстрировали, что ИИ может эффективно работать в этом режиме единым образом, равно как и то, что он способен обеспечивать значимые достижения по всем трем фундаментальным столпам развития ИИ, а не в рамках какой-то одной узкоспециализированной среды», — пишут исследователи.

Как ASI-EVOLVE учится проводить исследования

Чтобы преодолеть ограничения ручных исследований и разработок, ASI-EVOLVE работает по непрерывному циклу, включающему предварительные знания, генерацию гипотез, эксперименты и доработку. Система извлекает актуальные знания и исторический опыт из существующих баз данных, проектирует кандидатную программу, представляющую ее следующую гипотезу, проводит эксперименты для получения сигналов оценки и анализирует результаты в пригодные для повторного использования, понятные человеку выводы, которые передаются обратно в базу знаний.

Два ключевых компонента управляют работой ASI-EVOLVE. «База познания» (Cognition Base) выступает в роли фундаментальной предметной экспертизы системы. Чтобы ускорить процесс поиска, система предварительно загружена человеческими знаниями, релевантными для задач эвристиками и известными подводными камнями, извлеченными из существующей литературы. Это направляет исследование в перспективные области с самой первой итерации.

Вторым компонентом является «анализатор» (Analyzer), который справляется со сложными многомерными отзывами от экспериментов. Он обрабатывает сырые логи обучения, результаты бенчмарков и траектории эффективности, преобразуя их в компактные, применимые на практике выводы и причинно-следственные анализы.

Собрать фреймворк воедино помогают и несколько других дополняющих друг друга модулей. Агент-«исследователь» (Researcher) изучает предварительные знания из базы познания и прошлые результаты экспериментов для генерации новых гипотез, предлагая либо локальные модификации кода, либо создавая новые программы.

Компонент «инженер» (Engineer) запускает реальные эксперименты. Поскольку тестовые прогоны обучения ИИ невероятно дороги, инженер оснащен такими мерами эффективности, как ограничения по реальному времени (wall-clock limits) и быстрые тесты на ранний отсев для фильтрации неудачных кандидатных программ до того, как они израсходуют чрезмерное количество часов GPU.

Наконец, «база данных» (Database) служит постоянной памятью системы, сохраняя код, исследовательские мотивации, сырые результаты и финальные отчеты анализатора для каждой итерации, гарантируя, что инсайты будут систематически накапливаться с течением времени.

Объединяя эти компоненты, ASI-EVOLVE гарантирует, что агент ИИ сможет систематически учиться на сложных результатах реальных экспериментов без необходимости постоянного вмешательства человека.

В то время как предыдущие фреймворки разрабатывались для эволюции кандидатных решений, «ASI-EVOLVE эволюционирует саму познавательную способность», пишут исследователи. «Накопленный опыт и извлеченные инсайты непрерывно сохраняются и извлекаются для будущих исследований, гарантируя, что система растет не только в качестве своих решений, но и в своей способности рассуждать о том, где искать дальше».

ASI-EVOLVE в действии

В своих экспериментах исследователи продемонстрировали, что ASI-EVOLVE может успешно улучшать кураторство данных, архитектуры моделей и алгоритмы обучения для создания более совершенных систем ИИ.

Для реальных корпоративных приложений высококачественные данные остаются постоянным узким местом. Когда перед ASI-EVOLVE была поставлена задача разработать стратегии очистки по категориям для массивных корпусов предварительного обучения, система изучила образцы данных и диагностировала проблемы с качеством, такие как HTML-артефакты и несоответствия форматирования. Система автономно сформулировала пользовательские правила очистки, обнаружив, что систематическая очистка в сочетании с правилами сохранения с учетом предметной области гораздо эффективнее агрессивной фильтрации.

В ходе тестов на бенчмарках модели с 3 миллиардами параметров, обученные на данных, отобранных ИИ, показали рост среднего балла почти на 4 пункта по сравнению с моделями, обученными на сырых данных. Прирост оказался наибольшим в задачах, требующих интенсивных знаний: производительность выросла более чем на 18 пунктов в бенчмарке MMLU (Massive Multitask Language Understanding), охватывающем задачи в области STEM, гуманитарных и социальных наук.

Помимо данных, система продемонстрировала высокую эффективность в проектировании нейросетевых архитектур. За 1 773 раунда автономного поиска она создала 105 новых архитектур линейного внимания, превзошедших DeltaNet — высокоэффективный эталон, созданный человеком. Для достижения таких результатов ASI-EVOLVE разработала многомасштабные механизмы маршрутизации, которые динамически корректируют вычислительный бюджет модели в зависимости от конкретного содержимого входных данных.

Наконец, при разработке алгоритмов обучения с подкреплением ASI-EVOLVE открыла новые механизмы оптимизации. Она спроектировала алгоритмы, которые превзошли конкурентный базовый вариант GRPO на сложных бенчмарках математических рассуждений, таких как AMC32 и AIME24. Один из успешных вариантов внедрил «динамический радиус с ограничением бюджета», который удерживает обновления модели в заданных рамках, эффективно стабилизируя обучение на зашумленных данных.

Что это значит для корпоративного ИИ

Корпоративные рабочие процессы ИИ постоянно требуют оптимизации существующих систем — от тонкой настройки открытых моделей на проприетарных данных до внесения небольших изменений в архитектуры и алгоритмы. Как правило, вычислительные ресурсы и человеко-часы, необходимые для выполнения таких задач, огромны и превосходят возможности большинства организаций. В результате многие вынуждены использовать неоптимизированные версии стандартных моделей ИИ.

Исследовательская группа заявляет, что фреймворк спроектирован так, чтобы предприятия могли интегрировать проприетарные знания предметной области в репозиторий познания и позволить автономному циклу производить итерации над внутренними системами ИИ.

Исследовательская группа выложила код ASI-EVOLVE в открытый доступ, сделав базовый фреймворк доступным для разработчиков и создателей продуктов.