оказательство за 67 центов
Вам постоянно внушают, что для создания умного искусственного интеллекта требуются гигантские серверные дата-центры, миллиарды венчурных инвестиций и бесконечные платные подписки. Митил Вакде, выпускник Индийского технологического института в Бомбее, полностью опроверг эту корпоративную догму: он с нуля обучил языковую модель-трансформер всего за полтора часа на обычном домашнем ПК с видеокартой GeForce RTX 5090. Общие расходы на электричество составили ровно 67 центов.
Его система успешно прошла тест ARC-AGI-1 — сложнейший бенчмарк из 1000 визуально-логических задач-головоломок, где оценивается реальное мышление и логика, а не просто заучивание текстов из интернета.
«Я считаю, что эффективность обучения на малых объемах данных — самая важная проблема в современном ИИ, и я хочу ее решить».
Как отметил Вакде, главной целью было выжать максимум эффективности из стандартной архитектуры трансформеров, снизив затраты настолько, чтобы независимые разработчики могли экспериментировать прямо за домашним рабочим столом.
Победа над тяжеловесными моделями
Результаты говорят сами за себя. Компактная 8-слойная модель Вакде набрала 44% в открытом тесте ARC-1 и 7% в более сложном ARC-2. Это ставит домашнюю систему в один ряд со специализированными комплексами вроде TRM и HRM, а также оставляет позади куда более массивные корпоративные нейросети при решении визуальных логических задач. Достижение моментально вызвало ажиотаж среди ветеранов машинного обучения, получив высокую оценку от таких исследователей, как Лукас Бейер, основатель Fast.ai Джереми Говард и Рохан Анил из Google.
Инженерная хитрость заключалась в устранении вычислительных потерь вместо простого наращивания числа параметров. Разработчик отказался от стандартного оптимизатора AdamW в пользу более эффективного Normuon, внедрил современные архитектурные блоки SwiGLU и RMSNorm, а также задействовал позиционное кодирование 3D RoPE, чтобы передавать двумерные сетки головоломок без потери пространственного контекста.
Что это меняет для домашних ПК
Для всех владельцев мощных домашних компьютеров этот эксперимент разрушает миф о том, что продвинутые рассуждающие ИИ доступны только через дорогие корпоративные облачные сервисы. Когда инженер-одиночка способен с нуля обучить специализированную архитектуру за 90 минут и сущие копейки, баланс сил в ИИ возвращается к потребительскому железу. Исходный код проекта уже выложен в открытый доступ на GitHub, что открывает путь к созданию локальных логических движков и тонкой настройке под конкретные задачи без необходимости оплачивать удаленные API.