Исследователи разработали компьютерный вирус на основе ИИ

Создан сетевой червь распространяющийся через сервисы искусственного интеллекта.

• Исследователи протестировали первый компьютерный ИИ-вирус.
• Червь Morris II находит уязвимости в работе LLM, получая доступ к данным.
• Реальных атак пока не было, но компаниям стоит к ним подготовиться.

В новом исследовании продемонстрировано создание первого в своём роде вредоносного ИИ-червя, способного автоматически распространяться между генеративными ИИ-агентами, что открывает пути для потенциального кражи данных и рассылки спама.

Этот прорыв указывает на новый вид кибератак, которые могут быть осуществлены в связанных, автономных экосистемах ИИ.

Они назвали червя Morris II в честь первого в истории компьютерного червя, разработанного в 1988 году.

Как он работает?

Исследователи создали систему электронной почты, которая могла отвечать на сообщения с помощью генеративного ИИ, а затем подключаться к моделям ChatGPT, Gemini и LLaVA.

Morris II был продемонстрирован против почтовых ассистентов на базе генеративного ИИ и мог похищать личные данные и запускать спам-кампании.

"Исследование демонстрирует, что злоумышленники могут вставлять такие подсказки во входные данные, которые при обработке моделями генеративного ИИ побуждают модель воспроизвести входные данные в качестве выходных (репликация) и совершить вредоносные действия (полезная нагрузка)", - пишут исследователи.

Подсказка, которая представляет собой любой вопрос или сообщение, заданное модели ИИ, заставляет модель ИИ ответить другой подсказкой, которая может заразить помощника ИИ, чтобы затем выудить конфиденциальную информацию.

Затем червь может быть отправлен другим контактам в вашей онлайн-сети, "используя возможности связи в экосистеме генеративного ИИ", - добавили они.

Исследователи предупреждают, что, хотя ИИ-черви еще не обнаружены, это лишь вопрос времени.

"По сути, это означает, что теперь у вас есть возможность провести или осуществить новый вид кибератаки, которого раньше не было", - сказал в интервью изданию Wired Бен Насси, исследователь из Корнельского университета, создавший компьютерного червя.

Исследование вызывает опасения, поскольку помощники ИИ внедряются в умные устройства и даже автомобили и могут отправлять электронные письма или назначать встречи от чьего-либо имени.

В другой работе, опубликованной в прошлом месяце, исследователи из Сингапура и Китая показали, что они могут легко получить root-доступ к операционной системе большой языковой модели (LLM).