Уязвимость в ИИ Slack позволяет злоумышленникам красть конфиденциальную информацию

Специалисты по безопасности из PromptArmor обнаружили опасную уязвимость в искусственном интеллекте Slack. Эта уязвимость позволяет злоумышленникам использовать «инъекцию запросов» — метод, который обманывает ИИ и заставляет его раскрывать информацию из приватных каналов.

Проблема заключается в том, что ИИ Slack, который должен помогать пользователям находить информацию и обобщать беседы, может быть обманут вредоносными запросами. Злоумышленники могут встроить такие запросы в публичные каналы, заставляя ИИ раскрывать конфиденциальную информацию, включая ключи API.

Ситуация усугубляется недавним обновлением Slack, которое позволяет ИИ включать файлы из каналов и прямых сообщений в свои ответы. Это открывает новые возможности для злоумышленников, которые могут использовать эту функцию для кражи конфиденциальных документов.

PromptArmor рекомендует администраторам Slack ограничить доступ ИИ к документам до тех пор, пока не будет найдено исправление.

Раннее ITinfo сообщало, что важно регулярно создавать резервные копии важных данных, особенно в эпоху цифровых угроз, связанных с программами-вымогателями.