«Лаборатория Касперского»: пользователи манипулируют ИИ в чат-ботах и поисковиках

Специалисты «Лаборатории Касперского» обнаружили новую угрозу, связанную с искусственным интеллектом (ИИ), который используется в чат-ботах и поисковых системах. Пользователи научились встраивать в свои сайты и документы специальные «инъекции» — фразы, которые незаметно для человека, но влияют на работу ИИ.

Эти «инъекции» позволяют манипулировать результатами поиска, например, выдвигая определенные резюме на первый план при поиске работы, или повышая рейтинг конкретных товаров в поисковых чат-ботах. Некоторые пользователи даже используют «инъекции», чтобы выразить протест против использования ИИ.

Эксперты «Лаборатории Касперского» отмечают, что создатели ИИ активно работают над защитой от таких манипуляций. Например, компании OpenAI и Google разрабатывают новые модели, способные распознавать и предотвращать «инъекции». 

Несмотря на эти усилия, важно понимать, что ИИ все еще уязвим к такого рода манипуляциям. Поэтому необходимо быть осторожными при использовании результатов, полученных с помощью ИИ, обращая внимание на потенциальные «инъекции».

Раннее ITinfo сообщало, что в будущем люди будут иметь персональных ИИ-помощников.