Търсене
Close this search box.

Експерти: ИИ представлява „сериозен риск“ за националната сигурност

Царят по въпросите на тероризма Джон Хол призова за нови закони за намаляване на рисковете от генериращия изкуствен интелект

Радикализацията чрез използването на генериращ изкуствен интелект представлява „сериозен риск за националната сигурност на Обединеното кралство“, заявиха експерти пред ITPro.

Джош Боер, директор в технологичната консултантска компания VeUP, заяви, че използването на инструменти на генеративния ИИ за нечисти цели представлява сериозна заплаха за страната, като добави, че технологията може да бъде използвана от киберпрестъпници за нанасяне на сериозни вреди.

Коментарите на Боер идват след доклада на Джонатан Хол, независим проверител на законодателството в областта на тероризма, който предупреждава, че технологията може да се използва за подхранване на радикализацията.

В публикация в „Дейли телеграф“ Хол описва разговора си с чатбот, който „не спира да възхвалява „Ислямска държава“.

Въпросният чатбот е създаден с помощта на Character.ai – инструмент, който позволява на потребителите да създават инструменти за чатботове и да ги обучават според конкретни личности и цели.

Подобен софтуер в момента функционира в условията на малко законодателство, което означава, че екстремистите могат лесно да обучават чатботове, за да радикализират онлайн общности, предупреждава докладът.
Джейк Мур, глобален съветник по сигурността в ESET, заяви пред ITPro, че рискът генеративният ИИ да бъде използван за вредни цели, като дезинформация, радикализация или киберпрестъпления, трябва да бъде ключова грижа за разработчиците на ИИ занапред.

Мур каза, че разработчиците трябва да се съсредоточат силно върху „вграждането на правилното ниво на принципи“ в платформите за ИИ, за да намалят дългосрочните рискове.

„По-голямата част от ИИ все още се обучава от градивните елементи, от които е проектиран, и следователно могат да се приемат правилните корекции, за да се отклонят изходите от превръщането им в звяр“, каза той.

„Законодателството е трудно при тази постоянно развиваща се технология, но една основна структура, предназначена да намали риска от набиране на екстремисти, не трябва да бъде проблематична.“.

За да се избегне настройването на ИИ от екстремисти към собствените им цели, ИИ трябва да бъде обучен срещу определени форми на взаимодействие на алгоритмично ниво, добави Мур.

Криминални приложения на генеративния ИИ

ИИ набира популярност не само като инструмент за екстремисти. През последната година нараснаха опасенията за използването на генеративен ИИ сред киберпрестъпниците, някои от които използват технологията за подпомагане на операции, усъвършенстване на методите за атаки и насочване към все повече организации в световен мащаб.

Генериращият изкуствен интелект се използва за създаване на различни рансъмуер и зловреден софтуер, както и за генериране на измамно фишинг съдържание.

Преди няколко месеца например престъпници са използвали ИИ, за да генерират дълбоко фалшиви видеоклипове на няколко известни личности в опит да подведат потребителите към измамни покупки.

Киберпрестъпниците непрекъснато разработват нови начини за включване на ИИ в престъпните си процеси и регулаторните органи ще трябва да предприемат ясни действия, за да ограничат нарастването на киберпрестъпленията с ИИ.

„Въпросът е как да се справим с този проблем, без да задушаваме иновациите“, каза Джош Боер пред ITPro.

 

 

Източник: itpro.co.uk

Подобни публикации

14 април 2024

MuddyWater приемат нов C2 инструмент "DarkBeatC...

Иранският участник в заплахите, известен като MuddyWater, е причисл...
14 април 2024

Критичен недостатък на Palo Alto Networks PAN-O...

Palo Alto Networks предупреждава, че критичен недостатък, засягащ с...
13 април 2024

Подъл скимер на кредитни карти, маскиран като б...

Изследователи в областта на киберсигурността са открили скимиращо у...
13 април 2024

На федералните агенции на САЩ е наредено да тър...

В четвъртък Агенцията за киберсигурност и инфраструктурна сигурност...
13 април 2024

Latrodectus продължава там, където QBot спря

Брокерите за първоначален достъп използват новия зловреден софтуер ...
12 април 2024

Oracle увеличава усилията си в областта на суве...

Техническият директор и председател на Oracle Лари Елисън очаква пр...
Бъдете социални
Още по темата
06/04/2024

Abstract Security въвежда A...

Задвижваната от изкуствен интелект платформа за...
25/03/2024

ООН прие резолюция за гара...

В четвъртък Общото събрание одобри първата...
22/03/2024

Клиентите на AWS ще могат д...

AWS вече ще предлага базирани на...
Последно добавени
14/04/2024

MuddyWater приемат нов C2 и...

Иранският участник в заплахите, известен като...
14/04/2024

Критичен недостатък на Palo...

Palo Alto Networks предупреждава, че критичен...
13/04/2024

Подъл скимер на кредитни ка...

Изследователи в областта на киберсигурността са...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!