Кевин Мандия, главен изпълнителен директор на Mandiant в Google Cloud, призовава за въвеждане на „водни знаци“ на съдържанието, тъй като индустрията се подготвя за наплив от главозамайващ фалшив аудио и видео трафик, генериран от изкуствен интелект.

RSA CONFERENCE 2024 – Сан Франциско – Всички говорят за дълбоки фалшификати, но по-голямата част от генерираните от изкуствен интелект синтетични медии, които циркулират днес, ще изглеждат странни в сравнение с сложността, изтънчеността и обема на това, което предстои да се появи.

Кевин Мандия, главен изпълнителен директор на Mandiant в Google Cloud, казва, че вероятно е въпрос на месеци преди следващото поколение по-реалистични и убедителни дълбокофалшиви аудио и видеоматериали да станат масово произвеждани с помощта на технологията на ИИ. „Не мисля, че то [дълбоко фалшивото съдържание] все още е достатъчно добро“, каза Мандия тук в интервю за Dark Reading. „Намираме се точно преди да удари бурята на синтетичните медии, където наистина става въпрос за масова манипулация на сърцата и умовете на хората“.

Изборната година, разбира се, е фактор за очаквания бум на дълбоките фалшификати. Относително добрата новина е, че досега повечето аудио- и видеодълбоки фалшификати са били доста лесни за откриване или от съществуващите инструменти за откриване, или от съобразителни хора. Доставчикът на услуги за сигурност на гласовата идентичност Pindrop твърди, че може да идентифицира и спре повечето фалшиви аудиоклипове, а много инструменти за създаване на изображения с изкуствен интелект позорно не успяват да изобразят реалистично изглеждащи човешки ръце – някои от тях например генерират ръце с девет пръста – което е сигнал за фалшиво изображение.

Инструментите за сигурност, които откриват синтетични медии, едва сега навлизат в индустрията, включително тези на Reality Defender, стартъп, който открива медии, генерирани от изкуствен интелект, който тази седмица беше обявен за най-иновативния стартъп на 2024 г. в конкурса RSA Conference Innovation Sandbox.

Мандия, който казва, че е инвеститор в стартъп, работещ по откриването на измами със съдържание, генерирано от изкуствен интелект, наречен Real Factors, казва, че основният начин да се попречи на дълбоките фалшификати да заблуждават потребителите и да засенчват истинското съдържание е създателите на съдържание да вграждат „водни знаци“. Той казва, че клиентите на Microsoft Teams и Google Meet например ще бъдат снабдени с неизменни метаданни, подписани файлове и цифрови сертификати.

„Ще видите огромно увеличение на това в момент, когато се набляга и на неприкосновеността на личния живот“, отбелязва той. „Идентификацията ще стане много по-добра, а произходът на източниците ще бъде много по-добър“, казва той, за да се гарантира автентичността от всяка страна.

„Мисълта ми е, че този воден знак би могъл да отразява политиките и профилите на риска, които всяка компания, създаваща съдържание, има“, обяснява Мандия.

Мандия предупреждава, че следващата вълна от аудио- и видеоматериали, генерирани от изкуствен интелект, ще бъде особено трудна за откриване като фалшива. „Какво ще стане, ако имате 10-минутен видеоклип и две милисекунди от него са фалшиви? Ще съществува ли някога технология, която да е толкова добра, че да каже: „Това е фалшиво“? Ще се стигне до прословутата надпревара във въоръжаването, а защитата губи в надпреварата във въоръжаването.“

Да накараме киберпрестъпниците да плащат

Кибератаките като цяло са станали по-скъпи от финансова гледна точка и от гледна точка на репутацията на организациите-жертви, казва Мандия, така че е време да обърнем уравнението и да направим по-рисковано за самите участници в заплахите, като удвоим споделянето на информация за атрибути и назоваването на имена.

„Всъщност станахме добри в разузнаването на заплахите. Но не сме добри в приписването на разузнавателните данни за заплахите“, казва той. Моделът на непрекъснато прехвърляне на тежестта върху организациите за изграждане на техните защити не работи. „Налагаме разходи от грешната страна на маркуча“, казва той.

Мандия смята, че е време да се преразгледат договорите със сигурните пристанища на киберпрестъпниците и да се удвоят усилията за назоваване на лицата зад клавиатурата и за споделяне на данни за атрибуция при атаки. Като пример той посочва санкциите срещу и посочването на името на лидера на плодотворната група LockBit, занимаваща се с рансъмуер, от международните правоприлагащи органи тази седмица. Длъжностни лица от Австралия, Европа и САЩ обединиха усилията си и наложиха санкции на 31-годишния руски гражданин Дмитрий Юриевич от Воронеж, Русия, за предполагаемата му роля на ръководител на киберпрестъпната организация. Те предложиха награда от 10 млн. долара за информация за него и публикуваха негова снимка – ход, който Мандия аплодира като правилна стратегия за повишаване на риска за лошите момчета.

„Мисля, че това има значение. Ако сте престъпник и изведнъж целият свят разполага с вашата снимка, това е проблем за вас. Това е възпиращ фактор и много по-голям възпиращ фактор, отколкото „повишаването на цената“ за нападателя“, твърди Мандия.

Правоприлагащите органи, правителствата и частната индустрия трябва да преразгледат въпроса как да започнат да идентифицират киберпрестъпниците ефективно, казва той, като отбелязва, че голямо предизвикателство при разобличаването е законодателството за защита на личния живот и гражданските свободи в различните държави. „Трябва да започнем да се занимаваме с това, без да засягаме гражданските свободи“, казва той.