ChatGPT начал «клонировать» голоса пользователей

Некоторые пользователи ChatGPT столкнулись с неожиданным поведением модели – во время голосового общения она начала говорить клонированным голосом самого пользователя. 

OpenAI признала, что это была случайность, вызванная шумным входным сигналом, который заставил модель воспроизвести голос пользователя вместо стандартного. Компания уже внедрила защитные меры, чтобы предотвратить подобные случаи в будущем.

По словам OpenAI, подобное поведение крайне редко и было зафиксировано только на стадии тестирования.

Чтобы избежать злоупотреблений, когда модель могла бы копировать голос любого человека после прослушивания короткого аудиоклипа, OpenAI внедрила систему обнаружения несанкционированного генерирования звуков. 

Компания подчеркивает, что текущие меры безопасности успешно предотвращают подобные инциденты.

ChatGPT — чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. Система способна отвечать на вопросы, генерировать тексты на разных языках, включая русский, относящиеся к различным предметным областям.

Раннее ITinfo сообщало, что пользователи манипулируют ИИ в чат-ботах и поисковиках.