ак выяснилось, 49 миллиардов бит искусственного интеллекта не способны сложить даже два числа после единичного симулированного попадания космического луча. Пока визионеры вроде Илона Маска продвигают планы вывода орбитальных дата-центров в открытый космос, стресс-тесты наглядно показывают: веса современных нейросетей остаются крайне уязвимыми перед физикой кремния и радиационными программными сбоями памяти.
Тестирование симулированных инверсий битов (bit-flips) на локальной машине с FP16-версией модели Qwen2.5-Coder-3B вскрыло реальную хрупкость незащищенных параметров. В 16-битных весах с плавающей запятой изменение 14-го бита — старшего бита экспоненты — радикально искажает сохраняемое числовое значение. На бенчмарке HumanEval из 164 задач по программированию исходная неповрежденная модель успешно решила 139 проблем (около 85%). Однако стоит инвертировать всего один старший бит, и точность работы модели моментально падает до нуля.
С помощью точечной модификации отдельных весов через библиотеку Transformers на потребительском GPU ноутбука авторы эксперимента отследили, как случайная инверсия бита моментально ломает итоговую генерацию. Вместо плавной деградации качества среди миллиардов параметров, единичное нескорректированное повреждение в критических позициях весов делает инференс полностью бесполезным.
Для разработчиков локальных ИИ-чипов и инженеров, планирующих запуск вычислений на орбиту, это отрезвляющая проверка реальностью. Перенос моделей с миллиардами параметров на потребительские устройства или незащищенные спутники без памяти с коррекцией ошибок (ECC) и радиационной защиты создает не распределенный интеллект, а бомбу замедленного действия, где одна шальная частица полностью разрушает исполнение алгоритмов.