Царят по въпросите на тероризма Джон Хол призова за нови закони за намаляване на рисковете от генериращия изкуствен интелект

Радикализацията чрез използването на генериращ изкуствен интелект представлява „сериозен риск за националната сигурност на Обединеното кралство“, заявиха експерти пред ITPro.

Джош Боер, директор в технологичната консултантска компания VeUP, заяви, че използването на инструменти на генеративния ИИ за нечисти цели представлява сериозна заплаха за страната, като добави, че технологията може да бъде използвана от киберпрестъпници за нанасяне на сериозни вреди.

Коментарите на Боер идват след доклада на Джонатан Хол, независим проверител на законодателството в областта на тероризма, който предупреждава, че технологията може да се използва за подхранване на радикализацията.

В публикация в „Дейли телеграф“ Хол описва разговора си с чатбот, който „не спира да възхвалява „Ислямска държава“.

Въпросният чатбот е създаден с помощта на Character.ai – инструмент, който позволява на потребителите да създават инструменти за чатботове и да ги обучават според конкретни личности и цели.

Подобен софтуер в момента функционира в условията на малко законодателство, което означава, че екстремистите могат лесно да обучават чатботове, за да радикализират онлайн общности, предупреждава докладът.
Джейк Мур, глобален съветник по сигурността в ESET, заяви пред ITPro, че рискът генеративният ИИ да бъде използван за вредни цели, като дезинформация, радикализация или киберпрестъпления, трябва да бъде ключова грижа за разработчиците на ИИ занапред.

Мур каза, че разработчиците трябва да се съсредоточат силно върху „вграждането на правилното ниво на принципи“ в платформите за ИИ, за да намалят дългосрочните рискове.

„По-голямата част от ИИ все още се обучава от градивните елементи, от които е проектиран, и следователно могат да се приемат правилните корекции, за да се отклонят изходите от превръщането им в звяр“, каза той.

„Законодателството е трудно при тази постоянно развиваща се технология, но една основна структура, предназначена да намали риска от набиране на екстремисти, не трябва да бъде проблематична.“.

За да се избегне настройването на ИИ от екстремисти към собствените им цели, ИИ трябва да бъде обучен срещу определени форми на взаимодействие на алгоритмично ниво, добави Мур.

Криминални приложения на генеративния ИИ

ИИ набира популярност не само като инструмент за екстремисти. През последната година нараснаха опасенията за използването на генеративен ИИ сред киберпрестъпниците, някои от които използват технологията за подпомагане на операции, усъвършенстване на методите за атаки и насочване към все повече организации в световен мащаб.

Генериращият изкуствен интелект се използва за създаване на различни рансъмуер и зловреден софтуер, както и за генериране на измамно фишинг съдържание.

Преди няколко месеца например престъпници са използвали ИИ, за да генерират дълбоко фалшиви видеоклипове на няколко известни личности в опит да подведат потребителите към измамни покупки.

Киберпрестъпниците непрекъснато разработват нови начини за включване на ИИ в престъпните си процеси и регулаторните органи ще трябва да предприемат ясни действия, за да ограничат нарастването на киберпрестъпленията с ИИ.

„Въпросът е как да се справим с този проблем, без да задушаваме иновациите“, каза Джош Боер пред ITPro.