Исследователь продемонстрировал обход защиты Microsoft Copilot

На мероприятии Black Hat USA исследователь по кибербезопасности Майкл Баргури продемонстрировал обход защиты помощника с искусственным интеллектом Microsoft Copilot, выявив потенциальные риски кибератак.

Его исследование подчеркнуло необходимость пересмотра политик безопасности при использовании ИИ-технологий, включая Copilot. Баргури выделил несколько методов, которые могут быть использованы злоумышленниками через Microsoft Copilot для осуществления атак.

С помощью плагинов Copilot злоумышленники могут устанавливать бэкдоры, эксплуатировать других пользователей ИИ, а также использовать его при атаках с применением социальной инженерии. Применяя метод инъекций в запросах, хакеры изменяют ответы ИИ в соответствии со своими целями, что позволяет осуществлять скрытое извлечение данных и обойти стандартные меры защиты файлов.

Баргури разработал инструмент LOLCopilot для демонстрации этих уязвимостей, который предназначен для этичных хакеров и работает с Microsoft 365 Copilot с использованием стандартных конфигураций. Специалисты по кибербезопасности могут использовать его для исследования уязвимостей Copilot и анализа возможных сценариев атак.

Разработчик отмечает, что текущие настройки безопасности Microsoft Copilot недостаточно эффективны для предотвращения подобных атак. Рекомендации включают в себя внедрение дополнительных мер защиты, таких как многофакторная аутентификация и строгий контроль доступа к данным, а также обучение сотрудников о рисках ИИ и установление комплексных протоколов реагирования на инциденты.

Раннее ITinfo сообщало, что издатель 11 bit studios (авторы Indika и Frostpunk) анонсировали релиз Creatures of Ava, которая также вошла в каталог Game Pass.