сли вы рассчитывали, что встроенные фильтры безопасности в открытых моделях искусственного интеллекта на вашем ПК или смартфоне остановят вредоносные действия, это не так. Масштабное исследование Университета Ватерлоо и некоммерческой организации FAR.AI показало жесткую реальность: заводская защита у 21 популярной открытой нейросети полностью разрушилась при прямой проверке. Исследователи из MIT, ETH Zurich и Университета Торонто доказали, что каждая протестированная система теряет базовые ограничения сразу после минимальной донастройки.
В отличие от закрытых облачных сервисов вроде ChatGPT и Gemini, открытые модели позволяют скачивать рабочие файлы прямо на персональные компьютеры, корпоративные серверы или мобильные устройства. Такая схема дает независимость от платных облачных подписок, но полностью уничтожает изолированность данных и защиту от вмешательства. По словам профессора Сириши Рамбхатлы, руководителя лаборатории Critical Machine Learning Lab в Ватерлоо, продвинутые открытые модели быстро догоняют коммерческих конкурентов по мощности, из-за чего их использование без надежной защиты становится прямой угрозой.
«Когда у мощной модели отключены защитные барьеры, ее можно масштабно использовать во вред такими способами, с которыми один человек вручную никогда бы не справился»,
— подчеркнула Сириша Рамбхатла. Без встроенных ограничений локальный ИИ может запускать вредоносные скрипты, генерировать фишинговые рассылки в обход спам-фильтров или выдавать инструкции для кибератак, при этом никакой внешней кнопки экстренного отключения у системы нет.
TamperBench и скрытая проблема локального ИИ
Для стандартизации тестов ученые создали открытый бенчмарк TamperBench, представленный на конференции ACM по анализу данных и машинному обучению. Все 21 модель подвергли корректировке весов и целевому переобучению. Итог однозначен: ни одна архитектура не содержит внутренних фильтров, способных уцелеть при прямом доступе к ее файлам.
Для владельцев техники и производителей электроники это вскрывает фундаментальный изъян в работе нейросетей на процессорах со встроенным ИИ-модулем (NPU). Если программная безопасность держится на честном слове, операционные системы не могут доверять встроенным фильтрам моделей для блокировки опасных действий. Логичным шагом индустрии станет аппаратная изоляция: производители гаджетов будут вынуждены ограничить прямой доступ к вычислениям и запереть нейрочипы в закрытые аппаратные песочницы.
Пока индустрия не откажется от ненадежных программных обещаний, любые заявления о безопасности открытых локальных нейросетей остаются лишь формальностью.