Федералното бюро за разследване (ФБР) предупреждава за нарастваща тенденция злонамерени лица да създават дълбоко фалшиво съдържание за извършване на атаки със сексторство.

Сексторството е форма на онлайн изнудване, при която злонамерените извършители заплашват мишените  си с публично разкриване на явни изображения и видеоклипове, които са откраднали (чрез хакерство) или придобили (чрез принуда), като обикновено изискват парични плащания за задържане на материала.

В много от случаите на секстормоз компрометиращото съдържание не е реално, като заплашващите лица само се преструват, че имат достъп, за да сплашат жертвите и да ги накарат да платят искането за изнудване.

ФБР предупреждава, че сексуалните изнудвачи вече използват публично достъпни изображения на своите мишени, като например безобидни снимки и видеоклипове, публикувани в платформи на социални медии. След това тези изображения се подават на инструменти за създаване на дълбоко фалшиво съдържание, които ги превръщат в генерирано от изкуствен интелект сексуално съдържание.

Въпреки че създадените изображения или видеоклипове не са истински, те изглеждат много реални, така че могат да послужат за целите на изнудването на извършителя на заплахата, тъй като изпращането на този материал на семейството, колегите и т.н. на мишената все пак може да причини на жертвите големи лични и репутационни вреди.

„От април 2023 г. ФБР наблюдава увеличение на броя на жертвите на сексторство, които съобщават за използването на фалшиви изображения или видеоклипове, създадени от съдържание, публикувано в сайтовете им в социалните медии или в уеб публикации, предоставени на злонамерения извършител при поискване или заснети по време на видеочатове“, се казва в предупреждението, публикувано на портала IC3 на ФБР.

„Въз основа на неотдавнашни съобщения от жертви злонамерените извършители обикновено изискват: 1. Плащане (напр. пари, карти за подаръци) със заплахи за споделяне на изображенията или видеоклиповете с членове на семейството или с приятели в социалните мрежи, ако средствата не бъдат получени; или 2. Жертвата да изпрати истински изображения или видеоклипове със сексуална тематика“.

ФБР казва, че създателите на откровено съдържание понякога пропускат частта с изнудването и публикуват създадените видеоклипове направо в порнографски уебсайтове, излагайки жертвите на голяма аудитория без тяхното знание или съгласие.

В някои случаи секс изнуджачите  използват тези вече публични качвания, за да увеличат натиска върху жертвата, като искат заплащане за премахване на публикуваните изображения/видеоклипове от сайтовете.

ФБР съобщава, че за съжаление тази медийна манипулация е засегнала и непълнолетни лица.

Как да се защитите

Скоростта, с която способните инструменти за създаване на съдържание с помощта на изкуствен интелект стават достъпни за широката аудитория, създава враждебна среда за всички потребители на интернет, особено за тези от чувствителните категории.

Съществуват множество проекти на инструменти за създаване на съдържание, достъпни безплатно чрез GitHub, които могат да създават реалистични видеоклипове само от едно изображение на лицето на мишената, без да изискват допълнително обучение или набор от данни.

Много от тези инструменти разполагат с вградени защити за предотвратяване на злоупотреби, но тези, които се продават в подземните форуми и пазарите в тъмната мрежа, не разполагат с такива.

ФБР препоръчва на родителите да наблюдават онлайн активността на децата си и да разговарят с тях за рисковете, свързани със споделянето на лични данни онлайн.

Освен това на родителите се препоръчва да извършват онлайн търсения, за да определят степента на излагане на децата им онлайн, и при необходимост да предприемат действия за сваляне на съдържание.

Възрастните, които публикуват изображения или видеоклипове онлайн, трябва да ограничат достъпа до гледане до малък личен кръг приятели, за да намалят излагането на риск. В същото време лицата на децата винаги трябва да бъдат размазани или маскирани.

И накрая, ако откриете дълбоко фалшиво съдържание, което ви изобразява в порнографски сайтове, докладвайте за това на властите и се свържете с хостинг платформата, за да поискате премахване на медията, която ви обижда.

Обединеното кралство наскоро въведе закон под формата на изменение на Закона за онлайн безопасност, който класифицира споделянето на deepfakes без съгласието на страните като престъпление.