Търсене
Close this search box.

Киберсигурността в надпревара за разобличаване на нова вълна от дълбоки фалшификати

Кевин Мандия, главен изпълнителен директор на Mandiant в Google Cloud, призовава за въвеждане на „водни знаци“ на съдържанието, тъй като индустрията се подготвя за наплив от главозамайващ фалшив аудио и видео трафик, генериран от изкуствен интелект.

RSA CONFERENCE 2024 – Сан Франциско – Всички говорят за дълбоки фалшификати, но по-голямата част от генерираните от изкуствен интелект синтетични медии, които циркулират днес, ще изглеждат странни в сравнение с сложността, изтънчеността и обема на това, което предстои да се появи.

Кевин Мандия, главен изпълнителен директор на Mandiant в Google Cloud, казва, че вероятно е въпрос на месеци преди следващото поколение по-реалистични и убедителни дълбокофалшиви аудио и видеоматериали да станат масово произвеждани с помощта на технологията на ИИ. „Не мисля, че то [дълбоко фалшивото съдържание] все още е достатъчно добро“, каза Мандия тук в интервю за Dark Reading. „Намираме се точно преди да удари бурята на синтетичните медии, където наистина става въпрос за масова манипулация на сърцата и умовете на хората“.

Изборната година, разбира се, е фактор за очаквания бум на дълбоките фалшификати. Относително добрата новина е, че досега повечето аудио- и видеодълбоки фалшификати са били доста лесни за откриване или от съществуващите инструменти за откриване, или от съобразителни хора. Доставчикът на услуги за сигурност на гласовата идентичност Pindrop твърди, че може да идентифицира и спре повечето фалшиви аудиоклипове, а много инструменти за създаване на изображения с изкуствен интелект позорно не успяват да изобразят реалистично изглеждащи човешки ръце – някои от тях например генерират ръце с девет пръста – което е сигнал за фалшиво изображение.

Инструментите за сигурност, които откриват синтетични медии, едва сега навлизат в индустрията, включително тези на Reality Defender, стартъп, който открива медии, генерирани от изкуствен интелект, който тази седмица беше обявен за най-иновативния стартъп на 2024 г. в конкурса RSA Conference Innovation Sandbox.

MandiaHeadshot1.webp

Мандия, който казва, че е инвеститор в стартъп, работещ по откриването на измами със съдържание, генерирано от изкуствен интелект, наречен Real Factors, казва, че основният начин да се попречи на дълбоките фалшификати да заблуждават потребителите и да засенчват истинското съдържание е създателите на съдържание да вграждат „водни знаци“. Той казва, че клиентите на Microsoft Teams и Google Meet например ще бъдат снабдени с неизменни метаданни, подписани файлове и цифрови сертификати.

„Ще видите огромно увеличение на това в момент, когато се набляга и на неприкосновеността на личния живот“, отбелязва той. „Идентификацията ще стане много по-добра, а произходът на източниците ще бъде много по-добър“, казва той, за да се гарантира автентичността от всяка страна.

„Мисълта ми е, че този воден знак би могъл да отразява политиките и профилите на риска, които всяка компания, създаваща съдържание, има“, обяснява Мандия.

Мандия предупреждава, че следващата вълна от аудио- и видеоматериали, генерирани от изкуствен интелект, ще бъде особено трудна за откриване като фалшива. „Какво ще стане, ако имате 10-минутен видеоклип и две милисекунди от него са фалшиви? Ще съществува ли някога технология, която да е толкова добра, че да каже: „Това е фалшиво“? Ще се стигне до прословутата надпревара във въоръжаването, а защитата губи в надпреварата във въоръжаването.“

Да накараме киберпрестъпниците да плащат

Кибератаките като цяло са станали по-скъпи от финансова гледна точка и от гледна точка на репутацията на организациите-жертви, казва Мандия, така че е време да обърнем уравнението и да направим по-рисковано за самите участници в заплахите, като удвоим споделянето на информация за атрибути и назоваването на имена.

„Всъщност станахме добри в разузнаването на заплахите. Но не сме добри в приписването на разузнавателните данни за заплахите“, казва той. Моделът на непрекъснато прехвърляне на тежестта върху организациите за изграждане на техните защити не работи. „Налагаме разходи от грешната страна на маркуча“, казва той.

Мандия смята, че е време да се преразгледат договорите със сигурните пристанища на киберпрестъпниците и да се удвоят усилията за назоваване на лицата зад клавиатурата и за споделяне на данни за атрибуция при атаки. Като пример той посочва санкциите срещу и посочването на името на лидера на плодотворната група LockBit, занимаваща се с рансъмуер, от международните правоприлагащи органи тази седмица. Длъжностни лица от Австралия, Европа и САЩ обединиха усилията си и наложиха санкции на 31-годишния руски гражданин Дмитрий Юриевич от Воронеж, Русия, за предполагаемата му роля на ръководител на киберпрестъпната организация. Те предложиха награда от 10 млн. долара за информация за него и публикуваха негова снимка – ход, който Мандия аплодира като правилна стратегия за повишаване на риска за лошите момчета.

„Мисля, че това има значение. Ако сте престъпник и изведнъж целият свят разполага с вашата снимка, това е проблем за вас. Това е възпиращ фактор и много по-голям възпиращ фактор, отколкото „повишаването на цената“ за нападателя“, твърди Мандия.

Правоприлагащите органи, правителствата и частната индустрия трябва да преразгледат въпроса как да започнат да идентифицират киберпрестъпниците ефективно, казва той, като отбелязва, че голямо предизвикателство при разобличаването е законодателството за защита на личния живот и гражданските свободи в различните държави. „Трябва да започнем да се занимаваме с това, без да засягаме гражданските свободи“, казва той.

 

 

Източник: DARKReading

Подобни публикации

18 юни 2024

Koсмосът: Последната граница за кибератаки

Неспособността да си представим – и да се подготвим за –...
18 юни 2024

Лондонските болници още не могат да се съвземат...

Няколко лондонски болници, които все още не са се справили с кибера...
17 юни 2024

Арестуваха британец от Scattered Spider

22-годишен британски гражданин, за когото се предполага, че е свърз...
17 юни 2024

Adobe с вътрешни проблеми на фона на опасения, ...

Adobe гаси пожар на два фронта заради политиката си за използване н...
17 юни 2024

Потребностите от електроенергия в центровете за...

Новото партньорство на Google с базираната в Невада компания NV Ene...
17 юни 2024

Microsoft поправи безкликова уязвимост в Outlook

Morphisec предупреждава, че една от уязвимостите, които Microsoft о...
17 юни 2024

ASUS предупреждава за проблеми при 7 рутера

ASUS пусна нова актуализация на фърмуера, която отстранява уязвимос...
Бъдете социални
Още по темата
11/06/2024

Google премахва кампании за...

Google разкри, че е премахнала 1320...
08/06/2024

Консултант е глобен с 6 млн...

Политическият консултант, който е написал сценария...
04/06/2024

Русия срещу Олимпийските игри

Две руски групи, свързани с държавата,...
Последно добавени
18/06/2024

Koсмосът: Последната границ...

Неспособността да си представим – и...
18/06/2024

Лондонските болници още не ...

Няколко лондонски болници, които все още...
17/06/2024

Арестуваха британец от Scat...

22-годишен британски гражданин, за когото се...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!