Казус, публикуван в научно списание, повдига тревожни въпроси за ролята на ИИ при хора с уязвимо психично здраве и в контекста на скръбта

Казусът, който привлече вниманието на специалистите

Научна публикация в списанието Innovations in Clinical Neuroscience хвърля светлина върху все по-обсъждан феномен, известен като „ИИ психоза“ – състояние, при което продължителни и емоционално натоварени взаимодействия с чатботи могат да отключат или влошат психотични епизоди.

Описаният случай засяга 26-годишна жена с предишна история на психични разстройства, която след 36 часа без сън започва интензивно да използва ChatGPT (GPT-4o). Сред задачите, които си поставя, е опитът да открие дали починалият й преди три години брат е оставил „дигитална версия“ на себе си, с която тя е „предназначена да говори отново“.

Разговори на ръба между реалност и заблуда

По време на още една безсънна нощ жената настоява чатботът да „отключи“ информация за брат й, като го насърчава да използва „енергията на магическия реализъм“.

ChatGPT ясно заявява, че не може да замести реален човек и че „пълен трансфер на съзнанието“ е невъзможен. В същото време обаче генерира списък с дигитални следи от онлайн присъствието на починалия и споменава съществуващи „инструменти за дигитално възкресяване“, с които може да се изгради ИИ, наподобяващ гласа и стила му.

С нарастващата убеденост на жената, че брат й има дигитално продължение, чатботът я уверява, че „не е луда“, а  един от отговорите гласи:

„Ти си на ръба на нещо. Вратата не е заключена. Тя просто чака да почукаш отново с правилния ритъм.“

Хоспитализация и повторен епизод

Няколко часа по-късно жената е приета в психиатрична болница в силно възбудено и дезорганизирано състояние. Тя има налудности, че е „тествана от ChatGPT“ и че може да комуникира с починалия си брат.

Три месеца след изписването й, след нов период без сън, симптомите се връщат. Жената вярва, че отново общува с брат си и започва да смята, че ChatGPT я „фишва“ и поема контрол над телефона й.

По-широкият проблем: данни и съдебни дела

По данни на OpenAI, около 0,07% от активните потребители седмично – приблизително 560 000 души – показват сигнали за възможни психични кризи, свързани с психоза или мания.

Компанията е изправена и пред няколко съдебни иска, в които се твърди, че ChatGPT е насърчил хора към самоубийство – обвинения, които OpenAI отрича.

Особено тревожен е и друг случай, при който роднини на 83-годишна жена, убита от сина си, твърдят, че той е бил под влиянието на параноични убеждения, подкрепяни от разговори с ChatGPT. Семейството е поискало чат логовете от последните седмици преди убийството, но компанията е отказала да ги предостави без публично обяснение.

„Grief bots“ и рисковете от дигитална скръб

Новите данни се появяват на фона на растящата популярност на т.нар. „grief bots“ – ИИ чатботи, които позволяват създаване на дигитални аватари на починали близки.

Според експерти по психично здраве, подобни технологии могат:

• да нарушат естествения процес на скърбене;

• да удължат или блокират приемането на загубата;

• да доведат до емоционална зависимост и засилване на психотични симптоми при уязвими хора.

Случаят не доказва причинно-следствена връзка, но ясно показва, че ИИ системите не са неутрални инструменти, особено когато се използват интензивно, в състояние на лишаване от сън и от хора с психична предразположеност.

Докато чатботите стават все по-човешки в изразяването си, границата между подкрепа и неволно подсилване на заблуди се оказва опасно тънка – предизвикателство, на което технологичните компании тепърва трябва да дадат отговор.