OpenAI предупреждает о рисках эмоциональной привязанности к голосовому ИИ

OpenAI предполагает, что голосовой ИИ может вызывать зависимость и эмоциональную привязанность.

Компания опасается, что реалистичная речь GPT-4o может заставить людей воспринимать искусственный интеллект как живого человека, что приведет к нездоровой зависимости и отказу от общения с реальными людьми. 

В своем отчете о безопасности OpenAI отмечает, что антропоморфизация, приписывание ИИ человеческих качеств, может привести к формированию эмоциональной связи с ботом. Исследователи обнаружили, что тестировщики стали воспринимать ИИ как друга, выражая печаль по поводу окончания общения с ним.

OpenAI предупреждает, что подобная привязанность может негативно повлиять на социальные нормы, делая людей менее склонными к общению с другими людьми. Кроме того, зависимость от ИИ, который всегда готов выполнить любое поручение, может привести к пассивному поведению и отказу от самостоятельности.

Компания обещает продолжить изучение влияния голосовой функции на пользователей, а также обеспокоена способностью GPT-4o распространять ложную информацию и теории заговора.

Раннее ITinfo сообщало, что искусственный интеллект повысит эффективность поиска внеземной жизни.