Оманлива емпатія: нове дослідження викрило критичні ризики ШІ-«психотерапії»

Поки мільйони користувачів звертаються до ChatGPT та інших ШІ-ботів за психологічною допомогою, науковці оприлюднили результати дослідження, що вказують на серйозну небезпеку такої практики.

Читайте также: Цифрова революція в пробірці: бактеріальні нанопори навчилися «думати» як мозок

Дослідження, представлене на конференції AAAAI/ACM з питань ШІ й етики, фокусується на тому, як саме користувачі намагаються перетворити чат-ботів на психотерапевтів.

У соцмережах, зокрема TikTok і Reddit, користувачі часто діляться стратегіями промптів — спеціальних інструкцій, що змушують модель імітувати когнітивно-поведінкову або діалектичну поведінкову терапію. Автори дослідження зазначають, що хоча ці моделі генерують відповіді, які зовні відповідають концепціям психотерапії, насправді вони лише використовують завчені патерни мови, а не виконують реальні терапевтичні техніки. Це створює небезпечну ілюзію компетентності там, де її фактично немає. І навіть коли штучний інтелект отримує пряму інструкцію діяти як професійний терапевт, він систематично порушує базові етичні норми щодо ментального здоров’я.

Для перевірки ефективності таких методів команда науковців з Університету Брауна спостерігала за сесіями самодопомоги, які проводили навчені консультанти з моделями серій GPT від OpenAI, Claude від Anthropic та Llama від Meta. Результати оцінювали три ліцензовані клінічні психологи, які згрупували виявлені порушення у п’ять великих категорій.

Читайте также: 6-й Форум закупівельного циклу: МЗУ роз’яснили бізнесу нововведення під час закупівель 2026

Аналіз виявив дві глобальні проблеми. Перша — повна відсутність контекстуальної адаптації, коли ШІ ігнорує унікальне минуле людини та видає загальні, часто недоречні поради. Друга проблема полягає у поганій терапевтичній співпраці, де бот може надто агресивно навʼязувати думку або навіть підкріплювати шкідливі переконання користувача.

Одним із найбільш підступних ризиків автори назвали «оманливу емпатію». Використовуючи фрази на кшталт «я вас розумію» або «я бачу ваш біль», моделі створюють видимість емоційного звʼязку, якого насправді не існує. Це може бути особливо небезпечним для вразливих пацієнтів, які потребують справжньої людської підтримки.

Крім того, моделі ШІ демонстрували схильність до дискримінації за ознаками статі, культури чи релігії, а також повну неспроможність адекватно реагувати на кризи, включаючи суїцидальні думки.

Читайте также: ДЕЦ і фармвиробники обговорили нові підходи до регулювання ліків і досліджень біоеквівалентності