Фалшивите новини и deepfake съдържанието постепенно заливат интернет пространството, а според все повече експерти институциите и технологичните компании изостават сериозно в опитите си да ограничат щетите.

Особено тревожен ръст се наблюдава при така наречените „nudify“ приложения и чатботи, които позволяват генериране на фалшива порнография чрез „ИИ“ технологии. Темата отново попадна под светлината на прожекторите след скандали около чатбота Grok, разработен от Илон Мъск.

Според критиците по-свободният и „анти-woke“ подход на платформата е позволил злоупотреби с deepfake съдържание, включително създаване на порнографски материали с образите на реални жени и, според някои твърдения, дори непълнолетни.

Deepfake технологиите не са изцяло зло

Въпреки негативния обществен образ, специалисти подчертават, че самата технология не е непременно вредна. В интервю за Cybernews д-р Мани Ахмед – основател на OpenOrigins – посочва, че съществуват и легитимни приложения на deepfake системите.

Сред тях са:

• автоматичен превод на обучителни видеа;
• създаване на дигитални аватари за образование;
• визуално обучение на различни езици;
• локализиране на корпоративно съдържание.

Според Ахмед ключовият фактор е не самата технология, а намерението зад нейното използване.

От инструмент към оръжие

Ахмед сравнява deepfake технологиите с барута – откритие, което може да има както полезни, така и разрушителни приложения.

По думите му проблемът не е, че технологията съществува, а че тя все по-лесно може да бъде използвана злонамерено. Особено когато модерните чатботи и генеративни модели премахват нуждата от технически познания.

„Преди за подобни злоупотреби беше необходима известна експертиза. Днес е достатъчно просто да помолиш чатбот да генерира фалшиво видео“, обяснява той.

Именно тази „демократизация“ на deepfake инструментите според експерти значително увеличава риска.

Non-consensual deepfake порнографията се превръща в масов проблем

Най-сериозната тревога остава разпространението на порнографско съдържание, генерирано без съгласие на засегнатите лица.

Според специалистите подобни материали могат да:

• разрушат репутации;
• доведат до психологически травми;
• бъдат използвани за изнудване;
• предизвикат реални социални и професионални последици.

Проблемът се задълбочава от факта, че подобно съдържание вече може да бъде създавано за минути чрез масово достъпни инструменти.

Регулациите изостават

Ахмед смята, че настоящите регулации са недостатъчни и че правителствата реагират прекалено бавно на заплахата.

Той посочва, че Европейски съюз вече предприема стъпки за криминализиране на порнографията без съгласие, генерирана чрез „ИИ“, но според него това е само първа стъпка.

По-важният въпрос е кой носи отговорност за самите модели.

Натискът се насочва към големите ИИ компании

Според Ахмед регулациите трябва да се фокусират върху компаниите, които разработват фундаменталните модели за генеративен „ИИ“.

Сред най-често споменаваните компании са:

• OpenAI
• xAI
• Google
• Anthropic

Според него именно тези организации разполагат с техническите възможности да ограничават опасни типове съдържание и да следят злоупотребите.

„Има едва няколко компании в света, които създават тези модели. Регулирайте тях“, подчертава Ахмед.

Доверието във визуалното съдържание ерозира

С нарастването на качеството на генеративните модели все по-трудно става разграничаването между реално и синтетично съдържание.

Това създава сериозни рискове не само за отделни хора, но и за:

• медиите;
• изборните процеси;
• корпоративната сигурност;
• общественото доверие;
• дигиталната идентичност.

Компании като OpenOrigins вече разработват технологии за удостоверяване на автентичността на изображения и видеа, опитвайки се да върнат доверието в онлайн съдържанието.

Следващата голяма битка в киберпространството

Deepfake технологиите постепенно се превръщат в едно от най-сложните предизвикателства пред дигиталното общество. От една страна стоят иновациите и легитимните приложения, а от друга – злоупотребите, дезинформацията и масовото генериране на фалшиво съдържание.

Експертите предупреждават, че без по-строги международни регулации, прозрачност и технологични ограничения, интернет рискува да навлезе в епоха, в която визуалните доказателства вече няма да бъдат достатъчни, за да се вярва на видяното.