ндустрия приучила нас к тому, что генеративный искусственный интеллект требует огромных бюджетов, гигантских серверных стоек и бесконечных платных подписок. Даже для запуска скромной модели генерации картинок обычно нужен мощный компьютер с прожорливой видеокартой и солидным запасом памяти. Разработчик по имени Тим разрушил этот стереотип проектом Pico-Faces: его система генерирует цветные портреты разрешением 128×128 точек прямо на микроконтроллере RP2350.
Сам процессор в рознице стоит около одного доллара. На борту у него скромный двухъядерный чип Arm Cortex-M33 и всего 520 килобайт оперативной памяти — ровно такое железо установлено в плате Raspberry Pi Pico 2. Вместо прожорливых дата-центров вся программа и веса модели уместились во внешней флеш-памяти объемом скромные 4 мегабайта.
Как упаковать диффузию в крошечный чип
Запустить диффузионную модель на железе, где нет даже половины мегабайта свободной памяти, с наскока невозможно — разработчику пришлось переписать весь процесс вычислений с нуля. В Pico-Faces используется трансформер латентного потока, созданный по образу современных базовых архитектур вроде Flux, но сжатый в компактное скрытое пространство 16×16×8. Встроенный декодер превращает эти скрытые данные в готовую картинку, а сама модель насчитывает от 116 000 до 493 000 параметров в зависимости от версии.
Чтобы процессор справлялся с потоком цифр и не забивал память, данные оптимизировали до 8-битного формата (INT8). Они непрерывно считываются с флеш-памяти напрямую в процессе работы.
Для максимальной скорости ядра Cortex-M33 разогнали со штатных 150 МГц до 300 МГц, задействовав специальные инструкции для быстрых целочисленных расчетов. В итоге базовая модель собирает лицо примерно за пять секунд, а более продвинутая версия — за 10–20 секунд.
Что это значит для реальных устройств
Портреты 128×128 пикселей вряд ли заменят профессиональных художников или сервисы вроде Midjourney, но этот эксперимент разбивает миф о том, что умным алгоритмам обязательно нужен доступ к облаку. Запуск полноценной генеративной модели на чипе стоимостью в один доллар открывает путь к автономной домашней электронике: гаджеты будущего смогут обрабатывать умные функции на собственном процессоре — без задержек сети, серверов и ежемесячных подписок.