огда компьютерная память стоила разумных денег, никому не приходило в голову заставлять старый планшет и офисный компьютер объединять свою оперативную память ради запуска локального искусственного интеллекта. Сегодня, когда цены на комплектующие улетели в космос, на рынок выходят устройства, которые продают за живые деньги то, что создатели бесплатного софта раздают годами.
Покупателям предлагают аккуратную коробочку, но под глянцевой маркетинговой оберткой скрывается хорошо знакомый инструмент: RPC-сервер из llama.cpp, который любой желающий может скачать и настроить совершенно бесплатно.
Золотая память и иллюзия инноваций
Рынок железа превратился в финансовый кошмар для каждого, кто пытается собрать или обновить домашний компьютер. Согласно данным немецкой розницы от 3DCenter, к середине августа 2025 года цены на память DDR5 подскочили до 486% от июльского уровня. Быстрого решения проблемы никто не предлагает: представители Samsung предупредили аналитиков, что дефицит затянется как минимум до 2028 года, а глава SK Group и вовсе признал, что нехватка чипов может продлиться до 2030-го.
При этом создатели честно признают в документации, что если вы умеете обращаться с командной строкой, бесплатный софт с открытым исходным кодом остается идеальным выбором.
Что прячется внутри черного ящика
Техническая начинка коробки оказывается куда проще громких заявлений маркетологов. Никакого магіческого физического объединения памяти не происходит: модель просто разбивается на слои по разным компьютерам, а домашняя сеть лишь перекидывает туда-сюда промежуточные результаты вычислений по мере генерации каждого нового токена.
Публичный репозиторий TradeMAV на GitHub честно рассказывает о внутреннем устройстве: агент ноды запускает ggml RPC-сервер от llama.cpp на каждом устройстве; в файле README указано, что любой совместимый координатор может управлять им по стандартному протоколу llama.cpp RPC, а рекомендуемый способ проверки работоспособности — обычная команда llama-cli.
Тем не менее, на официальных страницах продукта скромно умалчивают о таких базовых характеристиках, как процессор, объем памяти, набор портов и энергопотребление. Более того, аналогичные функции для автоматического поиска устройств и универсальные интерфейсы уже давно существуют в открытом доступе — например, открытый проект exo от Exo Labs работает с компьютерами, телефонами и одноплатниками как минимум с начала 2025 года, а в премиальном сегменте новый Mac Studio от Apple поддерживает кластеризацию Thunderbolt 5 на базе технологии RDMA, где Apple обещает трехкратный прирост скорости при объединении четырех машин.
Скорость черепахи
Главный подвох такого объединения кроется в производительности, о чем создатели проекта предупреждают заранее. На странице проекта прямо указано, что объединенная память жертвует скоростью ради увеличения доступного объема, а тем, кому нужна максимальная производительность, стоит просто купить видеокарту с большим количеством видеопамяти. В демоверсиях для разработчиков лучшие результаты показали связки мини-ПК с видеокартой RTX 3060 и модели с архитектурой смеси экспертов, которые задействуют всего около трех миллиардов параметров на один токен.
Ситуация кардинально меняется при переходе к плотным нейросетям, где производительность падает до удручающих значений. Это действительно избавляет от ошибки нехватки памяти, из-за которой модель иначе просто не запустилась бы на слабом ПК, но пользоваться таким софтом для повседневных задач физически больно.
Анализ редакции
Причина этого ажиотажа проста: когда в конце августа мы рассказывали о подорожании базового комплекта оперативной памяти DDR5 объемом 32 ГБ до $400, локальный запуск нейросетей превратился в роскошь. Вместо покупки нового железа пользователям теперь упаковывают распределенные вычисления старых домашних устройств в красивый платный корпус. Обещали эксклюзивную аппаратную платформу для ИИ, а продали бесплатную утилиту llama.cpp в пластиковом корпусе с наценкой.
Мы писали об этом: 24 августа