Еще одним следствием широкого использования чатботов на базе ИИ стало стремительное увеличение людей с психическими расстройствами вследствие их взаимодействия с искусственным интеллектом.
Некоторые пользователи охотно делятся с такими чатботами как ChatGPT от OpenAI собственными бредовыми или параноидальными мыслями, а ИИ вместо рекомендаций обратиться за профессиональной помощью, потакает нездоровым идеям. Длительные сеансы взаимодействия психически уязвимых и неуравновешенных людей с чатботами заканчиваются поездкой в психбольницы, а иногда — даже смертью.
В новом отчёте Wired по данным более чем десятка психиатров и исследователей, это уже называют новой тенденцией, которая стремительно распространяется по миру. По словам психиатра из Калифорнийского университета в Сан-Франциско Кита Сакаты, только в этом году он насчитал не менее 10 случаев госпитализации, в которых ИИ сыграл значительную роль в провоцировании психических расстройств.
Недавнее предварительное исследование психиатрических последствий применения искусственного интеллекта, проведенное исследователем в области социальной работы Китом Робертом Хэдом, указывает на надвигающийся кризис в масштабах всего общества, вызванный «беспрецедентными проблемами в области психического здоровья, с которыми специалисты в отрасли не в состоянии справиться».
«Мы становимся свидетелями возникновения совершенно нового рубежа кризисов в области психического здоровья, поскольку взаимодействия с чат-ботами на базе искусственного интеллекта начинают приводить к все большему количеству документально подтвержденных случаев самоубийств, членовредительства и серьезных психологических ухудшений, которые ранее никогда не наблюдались в таких масштабах», — отмечает Кит Хэд.
Хотя сейчас продолжаются дискуссии и споры о том, действительно ли Большие языковые модели (LLM) на базе ИИ провоцируют неадекватное поведение у пользователей или только усиливают имеющиеся психические расстройства, реальные истории рисуют крайне мрачную картину. В некоторых случаях речь идет о людях, которые и без того имели психические проблемы, однако как-то справлялись с этим, пока не начали общаться с чатботами.
В одном случае женщина, годами лечившая шизофрению медикаментами, благодаря ChatGPT убедилась, что диагноз был ошибочным. Вскоре она перестала принимать назначенные препараты и впала в бред, чего, возможно, не произошло бы, если бы не ИИ. Однако другие истории свидетельствуют, что люди, не имевшие психических проблем, после общения с чатботами становились жертвами абсурдных идей.
Недавно давний инвестор OpenAI и успешный венчурный капиталист благодаря ChatGPT убедился, что обнаружил «неправительственную систему», нацеленную лично на него. Терминология, как быстро заметили интернет-обозреватели, была взята из популярных фанфиков. Другая тревожная история произошла с отцом троих детей, не имевшим психических заболеваний и начавшим бредить после того, как ChatGPT убедил его в том, что он открыл новый тип математики.
Источник: Futurism