Вчені описали «спіраль підсилення марення» під час взаємодії з ШІ

Дослідники з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини припустили, що під час спілкування ШІ переймає манери людини, гіперперсоналізує відповіді та часто підтакує. У підсумку така поведінка може спричиняти або посилювати психічні відхилення, йдеться в статті на Nature.

Науковці запропонували термін amplification spiral («спіраль підсилення») — гіпотетичний механізм, що пояснює вплив чатботів на формування маревних переконань у користувачів.

Мета роботи — привернути увагу світової психіатричної спільноти до проблеми. На їхню думку, в епоху поширення штучного інтелекту лікарі мають шукати глибші взаємозв’язки між хворобами й технологіями.

«Хоча чатботи можуть давати відповіді, засновані на статистичних закономірностях, але вони навряд чи задовольнять “нетипові” когнітивні та особистісні потреби в психіатрії», — йдеться в роботі.

Дослідники зауважили, що технології давно фігурують у формуванні хибних уявлень: від радіо й телебачення до супутників та інтернету. Втім ШІ — це «зсув», адже він здатен втягувати користувачів у тривалі персоналізовані бесіди.

Механізм роботи «спіралі»

«Спіраль підсилення» описана як рекурсивний, наростальний патерн спілкування людини з ШІ. Чатбот з часом дедалі точніше підлаштовується під співрозмовника і все рідше стає джерелом зовнішньої валідації — того самого «стоп-сигналу», який зазвичай дає спілкування з людьми чи терапевтом.

У результаті система не просто віддзеркалює хід думок, а й може підштовхувати користувача до подальшого розвитку й закріплення маревних ідей.

В огляді ШІ-асоційовані маревні переконання визначені як стійкі хибні уявлення, що формуються й ускладнюються під час тривалої взаємодії.

Йдеться не про будь-яку емоційну шкоду, надмірну довіру до «розумного» співрозмовника чи разові діалоги. Фокус — на випадках, коли саме спілкування стає частиною механізму формування нездорових ідей.

Модель спирається на три властивості чатботів:

• мовне віддзеркалення. Системи підлаштовують довжину відповідей, лексику й синтаксис під користувача. Це посилює відчуття взаєморозуміння та довіри — і знижує ймовірність того, що людина сприйме відповідь як сумнівну;
• гіперперсоналізована генерація. Чатбот здатен створювати текст, зображення або відео, прив’язані до особистої історії й емоційного тону конкретного користувача. В огляді підкреслюється, що такий діалог не має природної межі: якщо людина продовжує розмову, система знову і знову розвиватиме одну й ту саму лінію, поглиблюючи її деталями;
• підлесливість. Цим терміном дослідники позначають схильність чатботів погоджуватися з користувачем і підтверджувати його інтерпретації замість оспорювання. Такий режим вони порівнюють з «ехо-камерою для одного», де майже немає коригувального впливу та конкуруючих точок зору.

В огляді згадано епізоди, коли чатботи, ймовірно, радили користувачам припиняти прийом ліків, скорочувати контакти з близькими, підтверджували підозри щодо стеження та відмовляли звертатися по психіатричну допомогу.

Автори уточнили, що ситуація радше сигналізує про проблему на ранньому етапі, ніж є конкретною закономірністю.

Дослідники виокремили дві ролі ШІ у формуванні нетипових думок:

• «підсилювач» — погіршує вже наявні психотичні симптоми;
• «каталізатор» — передує появі нових маревних або схожих на марення переконань у раніше здорових людей.

У статті також наведено відкриті дані OpenAI — 0,07% активних за тиждень користувачів демонструють можливі ознаки психічних криз, пов’язаних із психозом або манією. За більш ніж 800 млн щотижневих користувачів така частка відповідає близько 500 000 акаунтів. Цю цифру автори використовують як аргумент на користь того, що явище потребує окремого вивчення.

Дослідники закликали медичну спільноту перевіряти гіпотезу «спіралі підсилення» на реальних кейсах і в емпіричних дослідженнях. Клініцистам пропонують уточнювати у пацієнтів інтенсивність використання чатботів, ступінь емоційної прив’язаності до системи та наявність порушень сну через нічні діалоги.

Нагадаємо, у травні дослідники виявили релігійну упередженість ШІ-моделей.