ChatGPT не использует реальные источники при создании новостей

Пранав Ксиксит, старший редактор Engadget, выразил опасения по поводу использования ИИ-чат-ботов в качестве источника для получения новостной информации.

Ксиксит, ссылаясь на исследование Nieman Lab, отмечает, что ChatGPT создавал ссылки на важные новостные статьи, не используя при этом реальные источники, несмотря на наличие договорённостей между разработчиками и изданиями.

Исследовательский центр Nieman Lab провёл эксперимент, чтобы проверить, сможет ли ChatGPT предоставить достоверные ссылки на статьи от новостных агентств, которым он выплачивает миллионные суммы. Эндрю Дек из Nieman Lab обратился к сервису с просьбой указать ссылки на знаковые эксклюзивные материалы, выпущенные десятью издательствами, вступившими в партнёрство с OpenAI. В их число входят такие издания, как Associated Press, The Wall Street Journal, Financial Times, The Times (UK), Le Monde, El País, The Atlantic, The Verge, Vox и Politico. Однако в ответ ChatGPT предоставил недействительные URL, которые приводили к несуществующим страницам, вызывая ошибку 404.

Несмотря на постоянные усилия OpenAI по расширению возможностей ChatGPT, эти эксперименты показывают риски, присущие полагаться на ИИ в вопросах точности фактов.

Ксиксит утверждает, что недостаточная способность ИИ к выполнению элементарных операций, таких как выдача правильных URL, ставит под сомнение его надёжность.