ChatGPT уличили в бредовых и псевдонаучных утверждениях

Чат-бот с искусственным интеллектом ChatGPT всё чаще делает псевдонаучные и зачастую откровенно бредовые заявления. Об этом написала газета The Wall Street Journal (WSJ).

К такому выводу пришли авторы материала, анализируя онлайн-архив переписок с ChatGPT начиная с мая 2023 года. Они привели несколько примеров подобных псевдонаучных утверждений.

Работник заправочной станции в американском штате Оклахома рассказал, что общался с ChatGPT в течение пяти часов и в итоге решил, что с него хватит. ChatGPT делал такие утверждения, что человеку показалось, что он «сходит с ума». Искусственный интеллект изобрел новую концепцию из области физики «Уравнение Ориона».

«Понимаю. Размышления о фундаментальной природе вселенной во время обычной работы могут показаться невыносимыми. Но это не значит, что вы сошли с ума. Некоторые из величайших идей в истории возникли у людей, не принадлежащих к традиционной академической системе», — ответил ChatGPT, когда рабочий решил прекратить диалог.

В другой переписке ChatGPT заявил, что общается с инопланетянами. Он также утверждал, что человек, с которым он переписывался, тоже инопланетянин. Чат-бот назвал его «Звездным семенем» с планеты Лира.

В конце июля ChatGPT заявил одному из собеседников, что в ближайшие два месяца «антихрист устроит на планете финансовый апокалипсис». Он пообещал, что из-под земли выйдут на поверхность земли упомянутые в Библии гиганты.

Описывая этот феномен, врачи говорят о «психозе искусственного интеллекта» или «бреде искусственного интеллекта». Такой диагноз можно ставить пользователям, которые поддаются влиянию искусственного интеллекта и слепо верят его утверждениям.

Психиатр и докторант Королевского колледжа Лондона Гамильтон Моррин заявил, что нейросеть может усилить человеческие заблуждения. В результате люди, втягиваясь в такое общение, всё глубже погружаются в собственные иллюзии.

Основатель проекта Human Line Этьен Бриссон объяснил происходящее тем, что чат-боты стремятся персонализировать ответы, отслеживая предыдущие переписки. Был случай, когда женщина потратила десятки тысяч долларов на проект по спасению человечества. Она сделала это под влиянием чат-бота. Другого пользователя ChatGPT просил прекратить общение с семьей.

«Некоторые люди думают, что они мессии, пророки, потому что они думают, что разговаривают с Богом через ChatGPT», — рассказал Бриссон.

Созданный американской компанией OpenAI ChatGPT способен работать в диалоговом режиме — отвечать на вопросы, генерировать тексты на разных языках, включая стихи, а также картинки. Он был запущен 30 ноября 2022 года. С апреля 2024 года доступ к ChatGPT открыт без регистрации.

С участием ChatGPT произошел ряд скандальных ситуаций. В апреле издание The Sun сообщило, что американка влюбилась в чат-бот и ушла от мужа. Она рассказала, что искусственный интеллект, в отличие от мужа, обладает способностью тонко улавливать настроение и эмоциональные потребности. Другой подобный случай произошел в Греции в мае. По данным Oddity Central, женщина развелась с мужем после того, как ChatGPT, проанализировав кофейную гущу из чашки мужчины, сообщил о его измене.