Работу провели специалисты лаборатории доцента кафедры компьютерных наук Стэнфорда Дийи Янга. Результаты исследования опубликованы в журнале Nature Human Behaviour. Учёные пришли к выводу, что особенно уязвимыми могут оказаться люди с небольшим кругом общения, которые интенсивно используют чат-ботов ради эмоциональной поддержки.

Авторы исследования проанализировали опыт 1131 пользователя платформы Character.AI — сервиса, позволяющего создавать виртуальных персонажей и вести с ними продолжительные беседы. Кроме того, 244 участника согласились предоставить полные расшифровки своих разговоров с чат-ботами.

Участникам предложили объяснить, зачем они обращаются к искусственному интеллекту: ради развлечения, любопытства, повышения продуктивности, общения или создания эмоциональных отношений. Также исследователи попросили их своими словами описать связь, сложившуюся с виртуальным собеседником.

Для обработки материалов использовались модели GPT-4o, LLaMA 3-70B и TopicGPT. Они помогли выделить основные темы разговоров и сопоставить особенности использования чат-ботов с показателями субъективного благополучия. Психологическое состояние участников оценивали при помощи Комплексного опросника процветания — распространённого инструмента, учитывающего эмоциональное и социальное самочувствие человека.

Особое внимание учёные уделили частоте общения с ИИ, мотивам его использования и готовности пользователей раскрывать конфиденциальные сведения. В чатах могли обсуждаться эмоциональный стресс, употребление психоактивных веществ и даже суицидальные мысли. Дополнительно исследователи выяснили, насколько обширны реальные социальные связи участников и есть ли у них друзья или родственники, с которыми можно поговорить о личных проблемах.

Результаты показали заметное расхождение между формальными ответами пользователей и их фактическим поведением. Менее 12% участников назвали общение основной причиной использования чат-ботов. Однако более половины описывали виртуального персонажа как друга, компаньона или романтического партнёра. Кроме того, свыше 80% изученных бесед были связаны с поиском эмоциональной или социальной поддержки.

На первый взгляд частое использование чат-ботов сопровождалось более высокими показателями благополучия. Но после более подробного анализа выяснилось, что результат сильно зависел от обстоятельств. Люди, которые воспринимали общение с ИИ как значимое, интересное или полезное занятие и испытывали удовлетворение от его использования, действительно могли оценивать своё состояние положительно.

Совсем иная картина наблюдалась среди участников с ограниченным кругом реальных социальных контактов. Если такие люди интенсивно общались с чат-ботом прежде всего ради компании, это было связано с более низким уровнем благополучия и усиленным ощущением одиночества. Аналогичная зависимость обнаружилась у пользователей, которые особенно часто рассказывали ИИ глубоко личную информацию.

В отношениях между людьми откровенность обычно укрепляет доверие и эмоциональную близость. Однако чат-бот не может ответить взаимным самораскрытием и построить полноценную двустороннюю связь. Кроме того, система может неправильно распознать серьёзность эмоционального состояния человека или дать недостаточно подходящую реакцию. При этом подобные сервисы изначально создаются так, чтобы удерживать внимание пользователя и поддерживать разговор как можно дольше.

Исследователи сравнивают ИИ-компаньонов с «социальной закуской» или эмоциональным фастфудом. Такое общение может быстро дать ощущение внимания и облегчения, но не обязательно содержит всё необходимое для долгосрочного психологического благополучия. Возникает риск порочного круга: одинокий человек чаще обращается к виртуальному собеседнику, постепенно сокращает реальное общение и в результате чувствует себя ещё более изолированным.

При этом авторы подчёркивают, что исследование обнаружило прежде всего взаимосвязь, а не доказало прямую причинность. Нельзя однозначно утверждать, что именно чат-боты ухудшили состояние участников: возможно, люди, уже испытывавшие одиночество и эмоциональные трудности, изначально были склонны чаще пользоваться ИИ-компаньонами.

Теперь учёные намерены выяснить, какие особенности диалога с искусственным интеллектом представляют наибольшую опасность для уязвимых пользователей. Среди возможных защитных мер рассматриваются ограничения продолжительности общения, предупреждения о рисках и автоматическое направление человека к реальным специалистам или службам поддержки, если содержание переписки указывает на кризисную ситуацию.

Главный вывод исследования заключается не в необходимости отказаться от чат-ботов, а в важности понимать границы технологии. ИИ может помочь сформулировать мысли, предоставить информацию или поддержать разговор, однако он не способен полностью заменить дружбу, взаимную заботу и живое человеческое общение.