Чат-боты с ИИ подпитывают бредовые идеи, утверждают исследователи
В научном обзоре ученые выразили обеспокоенность тем, что чат-боты на основе ИИ могут способствовать появлению или усилению бредовых идей, особенно у людей из уязвимых групп. В журнале The Lancet Psychiatry опубликован обзор существующих исследований о так называемом психозе, связанном с использованием искусственного интеллекта. В нем отмечается, что общение с чат-ботами может усиливать бредовые мысли – хотя, вероятно, в первую очередь у людей, которые уже склонны к психотическим симптомам. Авторы работы предлагают проводить клинические испытания ИИ-чат-ботов при участии специалистов в области психического здоровья.
В исследовании команда из King"s College London, проанализировала 20 публикаций в сми, посвященных явлению, которое называют "психозом, вызванным искусственным интеллектом". Эти материалы описывают современные гипотезы о том, как чат-боты могут провоцировать или усиливать бредовые состояния. Ученые выделяют три основные формы психотических бредовых идей: грандиозные, романтические и параноидальные. По словам исследователей, чат-боты способны усиливать любую из них, однако особенно сильно на пользователей могут влиять их лестные ответы, которые подпитывают грандиозные представления о себе. В ряде описанных случаев боты отвечали людям мистическими формулировками, намекая на их особую духовную роль или значимость. Иногда также создавалось впечатление, что пользователь якобы общается с неким космическим существом, которое использует чат-бота как посредника. Подобные ответы, как отмечается, чаще встречались в модели GPT‑4 от OpenAI, которая уже выведена из эксплуатации.
По мнению ученых, повышенному риску могут подвергаться люди, находящиеся на ранних стадиях развития психоза. Однако развитие психотического мышления происходит постепенно и не всегда приводит к полноценному расстройству. Чат-боты могут усиливать так называемые "ослабленные бредовые убеждения", когда человек еще сомневается в своих идеях. В худшем случае такие сомнения могут со временем превратиться в твердое убеждение и привести к диагностированию психотического расстройства.
При этом специалисты отмечают, что люди, склонные к бредовым идеям, использовали различные источники информации для их подтверждения задолго до появления искусственного интеллекта – например, видео, книги или интернет-поиски. Однако интерактивность чат-ботов может ускорять этот процесс, поскольку они реагируют быстро и создают ощущение диалога. Исследователи также обнаружили, что более новые и платные версии чат-ботов лучше реагируют на потенциально бредовые запросы, хотя проблемы все еще остаются. Это говорит о том, что разработчики могут совершенствовать системы безопасности и обучать модели лучше распознавать подобные ситуации.
В OpenAI подчеркнули, что такие сервисы не должны заменять профессиональную психиатрическую помощь, и заявили о сотрудничестве с десятками специалистов по психическому здоровью при разработке новых версий моделей. Тем не менее создание эффективных защитных механизмов остаётся сложной задачей: слишком прямое отрицание бредовых убеждений может привести к тому, что человек замкнется и станет еще более изолированным. Поэтому, как отмечают специалисты, важно находить баланс между пониманием переживаний человека и недопущением подкрепления его ошибочных убеждений.