В Казани исследователи Университета Иннополис обнаружили, что компактные рекурсивные модели способны решать сложные пространственные задачи, где традиционные трансформеры сопоставимого размера терпят неудачу. Этот подход, основанный на многократной обработке информации одним блоком, может изменить создание систем ИИ для устройств с ограниченными вычислительными ресурсами. Эту информацию сообщает сайт ТАСС.
Заместитель директора Института анализа данных и ИИ Рустам Лукманов отметил, что в ходе экспериментов наблюдался эффект "внезапного обучения": после длительного периода стагнации ошибка резко падала, что свидетельствует о возникновении логического обобщения. Момент этого перехода зависит от сложности задачи и глубины рекурсии, что позволяет точно настраивать модель под конкретные требования.
Практический вывод заключается в том, что глубину "мышления" модели можно увеличивать не за счет роста её размера, а за счет времени на "размышление". Благодаря компактности — менее миллиона параметров — такие модели могут работать на обычных пользовательских устройствах и в условиях ограниченного вычислительного бюджета.
Статья "Глубина против рекурсии: превосходство над трансформерами в восстановлении пазлов" опубликована в сборнике конференции ICLR 2026. Авторами выступили Тимофей Брайко, Артемий Мясоедов и Рустам Лукманов. Исследование выполнено при поддержке Минэкономразвития России.