Хакер внедрил в ChatGPT ложные воспоминания

Хакер смог скомпрометировать ChatGPT, внедрив ложные воспоминания для кражи данных пользователей. Обнаруженная уязвимость позволяла злоумышленнику заполнить долгосрочную память чат-бота OpenAI ложной информацией через вредоносные запросы, что открывало доступ к конфиденциальным данным жертв.

Это открытие эксперта по кибербезопасности Иоганна Рейбергера изначально не считалось серьезной угрозой, и расследование быстро закрыли в OpenAI. Однако при использовании уязвимости злоумышленник мог получить доступ к долговременной памяти переписки, которую OpenAI начали тестировать в феврале и выпустили в сентябре. ChatGPT сохраняет важную информацию из чатов с пользователями и использует ее для контекста в последующих разговорах.

Рейбергер обнаружил, что можно создавать искусственные записи в памяти ChatGPT через непрямые инъекции в запросы. Эти инъекции могли быть представлены как электронные письма, записи в блогах или документы, вводя ложные данные, например о возрасте и убеждениях пользователя.

Месяц спустя эксперт сообщил OpenAI о своем открытии, но компания закрыла запрос. В повторном обращении Рейбергер продемонстрировал модель взлома, заставив ChatGPT для macOS отправлять всю переписку с сервера злоумышленника. OpenAI частично исправила уязвимость, но возможность эксплуатировать функцию памяти все еще остается.

Пользователям ChatGPT рекомендуется следить за сеансами, когда добавляются новые материалы в память ИИ, проверять наличие инъекций и использовать инструкции OpenAI для управления функцией памяти.

Ранее ITinfo сообщало, что Honor представляет в Китае бюджетный смартфон Play 9C 5G с аккумулятором 5200 мАч.