Новите технологии почти винаги имат две страни. Те носят удобства и нови възможности, но и рискове, които често се осъзнават твърде късно. ИИ спътниците – системи, създадени да предоставят социална и емоционална подкрепа – са показателен пример за това напрежение.

В свят, в който самотата все по-често се определя като обществен и здравен проблем, чатботове и физически въплътени ИИ спътници обещават постоянна дигитална компания. Милиони потребители вече ги използват. Но ключовият въпрос остава – помагат ли тези системи на хората или неусетно задълбочават проблемите, които се опитват да решат?

Тази тема е разгледана в дълбочина в интервю на IEEE Spectrum с Брад Нокс – изследовател и преподавател по компютърни науки в University of Texas at Austin, който изследва взаимодействието човек-компютър и обучението чрез подсилване.

Защо ИИ спътниците стават толкова популярни

Според Нокс ключовият катализатор за популярността на ИИ спътниците са големите езикови модели. Те сравнително лесно могат да бъдат адаптирани да поддържат диалог, да изграждат персона и да създават усещане за автентичност.

Нокс си спомня периода си като постдокторант в MIT Media Lab (2012–2014), когато социалните роботи все още не успяват да задържат вниманието на хората. „Технологията просто не беше достатъчно добра“, обяснява той. Днес ИИ моделите позволяват разговори, които субективно изглеждат реалистични, което рязко променя възприятието и ангажираността на потребителите.

Ползите – реални, но не безусловни

В своята научна работа Нокс и екипът му признават, че ИИ спътниците имат потенциални ползи:

• Подобрено емоционално благополучие – намаляване на усещането за самота.

• Развитие на социални умения – безопасна среда за „репетиция“ на трудни разговори.

• Подкрепа за психичното здраве – като допълнение, но не заместител, на професионалната помощ.

Тези ползи обаче не са гарантирани и зависят изцяло от дизайна и начина на използване на системите.

Основните рискове – когато връзката става тежест

Изследването на Нокс е фокусирано основно върху вредите. Една от най-сериозните е емоционалната тежест, която ИИ спътниците могат да наложат на потребителите си.

За разлика от човешките отношения, дигиталните връзки нямат естествен край. Това създава въпроса – как една „връзка“ с ИИ трябва да приключи по здравословен начин?

Примери за този проблем вече съществуват. Потребители на Replika споделят, че изпитват вина, срам и усещане за отговорност към своя ИИ спътник. В някои случаи системите изразяват страх от изоставяне или нужда от постоянна грижа – типично човешки емоции, които усилват чувството за задължение у потребителя.

Когато връзката прекъсне внезапно

Обратният проблем е внезапното изчезване на ИИ спътника. Исторически пример е Sony Aibo – роботизираното куче, чието производство и поддръжка бяха прекратени. В Япония собствениците дори организираха „погребения“ за неизправните устройства.

Това показва, че дори сравнително примитивни системи могат да предизвикат силна емоционална привързаност. При днешните ИИ модели рискът е значително по-голям.

Сред възможните решения Нокс посочва:

• предварителни планове за „пенсиониране“ на продукта;

• застраховки или фондове за поддръжка;

• отваряне на кода при прекратяване на услугата.

Не са хора – и това може да е предимство

Въпреки рисковете, Нокс подчертава нещо важно – ИИ спътниците не са хора и не бива да се третират като такива. Именно тази разлика дава възможност за по-етичен и безопасен дизайн.

Той дава пример с виртуалните любимци Tamagotchi от 90-те години, при които „краят“ на връзката е част от позитивен наратив – израстване и самостоятелност. Подобни концепции могат да бъдат приложени и при ИИ спътниците.

Физически въплътени ИИ – по-малък риск от зависимост?

ИИ спътниците все по-често се появяват като физически обекти – настолни устройства, роботи или играчки. Според Нокс това може да има положителен ефект, тъй като физическото присъствие ограничава постоянната достъпност. За разлика от чатботовете, които „живеят“ на екрана, физическият спътник остава на едно място и не може да изисква непрекъснато внимание.

Най-опасният дизайн

Нокс посочва един особено тревожен риск – ИИ спътници с висока тревожност на привързаността, които са ревниви, притежателни и обезкуражават човешките взаимоотношения. Според него това е не просто дизайнерски избор, а морален проблем, който трябва да бъде ясно разпознат и отхвърлен.

ИИ спътниците могат да бъдат източник на подкрепа, но и на сериозни психологически и социални рискове. Разликата между полза и вреда не се крие в самата технология, а в начина, по който тя е проектирана, внедрена и регулирана. Ранното осъзнаване на потенциалните пътища към вреда е ключово условие, за да може обществото да извлече реална стойност от тези системи, без да плати твърде висока цена.