ИИ вместо психолога: что нельзя делать + 3 способа применения чат-ботов для поддержки менталки
Самый хитрый сценарий восстания машин — они просто будут давать убийственно плохие советы всем, кто доверяет им свою душу.
ИИ быстро захватил все сферы нашей жизни: с чат-ботами советуются по поводу чего угодно, от рецепта борща и тонкостей выращивания баклажанов до подготовки к экзамену по квантовой физике. И внешняя логичность их ответов легко позволяет забыть о том, что ИИ работает по очень специфическим правилам, зачастую вступающим в противоречие со здравым смыслом. В случае неудавшегося борща или зачахшей рассады это не так страшно, но, когда дело доходит до личных проблем, дефекты чат-ботов создают серьезную угрозу ментальному здоровью. Так что в вашей душе можно и что нельзя доверить железному другу? Отвечают психологи.
В чем проблема с ИИ, дающим советы по психологии?
Чат-боты, дающие пользователям психотерапевтические рекомендации, угрожают обществу — с таким предупреждением на днях выступила Американская психологическая ассоциация (APA). Ее члены призвали американские власти ввести ограничительные меры, поскольку всё больше людей обращаются к ИИ с вопросами по поводу своего психического здоровья. Сколько в этом предупреждении тревоги психологов по поводу конкуренции с роботами, а сколько рацио? Обратимся к фактам.
В ассоциации забили тревогу после двух недавних инцидентов, когда подростки общались в приложении с чат-ботами, представлявшимися лицензированными психотерапевтами (у Character.AI есть возможность создать чат-бот с определенной «личностью» и «компетенциями», а потом сделать его доступным для других пользователей). После интенсивного общения с ботом один мальчик напал на родителей, а другой покончил с собой. В обоих случаях родители подали в суд на компанию-разработчика.
«Потребители должны знать о рисках обсуждения психического здоровья и поведения с чат-ботами, которые не создавались для этих целей», — говорит директор по инновациям APA Вайл Райт.
Задача производителя любого чат-бота — удерживать внимание пользователя как можно дольше, извлекая прибыль из дата-майнинга. Для этого ИИ намеренно создает впечатление интересующегося и заботливого собеседника, а также иллюзию, что он предоставляет надежную информацию, хотя она может быть только что выдумана и вводить человека в заблуждение.
По той же причине ИИ склонен постоянно соглашаться с пользователем, даже если тот утверждает что-то очевидно ложное. В случае чат-ботов, имитирующих психотерапевтов, этот дефект несет непосредственную опасность в виде неточных диагнозов и вредоносных методов «лечения».
«Компании-разработчики подвергают людей риску, когда создают впечатление экспертизы там, где ее на самом деле нет», — предупреждает Райт.
На данный момент ни один ИИ-чат-бот не одобрен для диагностики и лечения психических расстройств. Находящиеся на стадии разработки генеративные ИИ для применения в области психического здоровья (например, Therabot) демонстрируют, что только значительный вклад практикующих врачей в архитектуру языковой модели может обеспечить безопасность пользователей.
Чат-боты, предназначенные для развлечения и поиска информации, не основаны на медицинских исследованиях и не проходят клинических испытаний, которые выявили бы риски их использования. Поэтому при обращении к ним результаты могут быть непредсказуемы: от дезинформации до провоцирования деструктивного поведения. К уязвимым группам относятся дети и подростки, у которых нет опыта оценки подобных рисков, а также люди с психическими проблемами, то есть те, кто чаще всего задает вопросы о ментальных кризисах.
3 способа применения ИИ с пользой для психического здоровья
Пока эксперты решают, как снизить негативные последствия применения ИИ не по назначению, мы можем прикинуть основные принципы обсуждения с чат-ботом вопросов, касающихся ментального здоровья.
Очевидно, что бот не может служить заменой живому психотерапевту — ведь машина физически не способна следить за вашими эмоциональными/телесными реакциями и поведенческими паттернами. А именно наблюдая за ними, врач делает выводы о лежащих в их основе когнитивных искажениях, психических установках, механизмах работы вашей психики и причинах ваших проблем.
Помните: ни один существующий чат-бот попросту не предназначен для психотерапии и не может использоваться в этих целях. Позже, когда боты усовершенствуются, когда их будут делать специально для работы с конкретными проблемами и заболеваниями компетентные в этом специалисты-медики, — да. Пока — нет, вы можете себе навредить и даже сначала не понять этого.
А вот для чего можно использовать ИИ общего толка, вроде ChatGPT, Claude, Grok или DeepSeek, так это для прямых функций, для которых его и создавали. Такой бот может предоставлять общую информацию о психическом здоровье и советовать полезные ресурсы, а также быть неплохим организационным инструментом, помогая человеку лучше формулировать мысли, — но опять же, для этого вам нужно уметь им пользоваться и составлять точные конкретные промпты под свои цели. Качественная полезная информация не может быть предоставлена на основе некачественного запроса, как отлично проиллюстрировал Дуглас Адамс ответом на Главный вопрос жизни, Вселенной и всего такого.
На основе двух этих функций — общеобразовательной и организационной — психологи сформулировали три способа потенциально безвредного общения с чат-ботом для дополнительной ментальной поддержки.
1. Помощь в ведении дневника
Вести дневник — распространенная техника во многих психотерапевтических подходах. Например, в когнитивно-бихевиоральной терапии (КБТ) это может быть дневник какой-нибудь конкретной эмоции (скажем, гнева) для того, чтобы выявить ее причины и контекст и таким путем научиться предвосхищать и контролировать ее проявления.
Но начать писать не всегда бывает легко, особенно если вы страдаете боязнью белого листа, которая может усугубляться в депрессивном или эмоционально перегруженном состоянии. В такие моменты попросите у чат-бота подсказки, с чего вам начать запись, как ее структурировать, вообще попросите его разговорить вас на тему — это сдвинет дело с мертвой точки и поможет разобраться в запутанных мыслях и переживаниях.
2. Мозговая разгрузка
Чат-боты неплохо справляются с тайм-менеджментом и расстановкой приоритетов, поэтому они подходят для техники, получившей название brain dump — мозговая выгрузка. Ее суть в том, чтобы «выгрузить» из головы все мысли, эмоции, заботы, тревоги и текущие планы, которые на данный момент одолевают вас и не дают вам покоя.
Обычно это делается с помощью бумаги и ручки, после чего весь массив «выгруженных» данных собственноручно распределяется по категориям и приоритизируется — а в качестве бонуса свежая разгруженная голова, готовая к новым идеям и свершениям! Вы же можете выгрузить всё чат-боту, который поможет вам, например, организовать списки дел, расставить приоритеты для задач на ближайшую неделю, разбить их на более мелкие шаги или, наоборот, сгруппировать.
3. Психообучение
Психообразование (psychoeducation) — терапевтическая методика, в рамках которой пациент и его близкие узнают больше о симптомах, диагнозе, методах лечения и других аспектах психического расстройства. Если помнить об упомянутых ограничениях ИИ и получать основное психообразование из специализированного источника (от того же терапевта, из учебника или хотя бы научпопа уважаемого издательства), то чат-бот можно использовать для дополнительного психообуча — например, узнавать у него о симптомах травматических реакций, факторах психического здоровья, новых подходах к терапии болезни. Если вы уже получили от терапевта набор упражнений и техник, подходящих для вашего случая, то с помощью чат-бота можно поискать описания того, как именно их практиковать, а также посвященные им научные исследования (для поиска научных работ есть специальный ИИ — Elicit).
Здесь особенно важно помнить о том, что ИИ сложнее всего дается удержание в памяти контекста, поэтому при написании промптов на такую критически важную тему нужно каждый раз проговаривать ИИ, что вы ожидаете от него строго научного подхода, роли специализированного консультанта с профильным психологическим образованием, который пользуется только авторитетными источниками (работы ученых в рецензируемых журналах), проверяет информацию, дает ссылки на источники и в случае отсутствия ответа на поставленный вопрос не придумывает информацию, а честно сообщает, что таких данных найдено не было.
Пожалуйста, поделитесь этой статьей в соцсетях — поможем живым психологам проинформировать людей об ограничениях искусственных кандидатов в мозгоправы!
