Тъй като ChatGPT се използва все по-широко, индустрията трябва да действа предпазливо. Ето защо.

След като ChatGPT се появява на първите страници на вестниците, светът сякаш е попаднал в епизод на „Черното огледало“. Някои твърдят, че изкуственият интелект ще бъде най-доброто решение на най-големите ни проблеми с киберсигурността, а други – че ще доведе до цял куп нови предизвикателства.

Макар, че ChatGPT е невероятна технология, тя също така улеснява хакерите, като превръща възможностите на националните държави в стока в полза на „скрипт кидс“ – известни още като неуки хакери. В допълнение към писането на текст, технологията открива страшен сценарий, при който компютърът може да бъде насочен да търси информация в изображения, които хората не могат да доловят веднага, но машините са достатъчно чувствителни, за да видят. Примери за това биха били отражения на пароли върху стъкло или хора, които се появяват на снимки, които не биха се появили на тях без помощта на ИИ.

С нарастващото приемане на ChatGPT  индустрията трябва да действа предпазливо, и ето защо. Съществуват три вида възможности, за които хакерите могат да използват ChatGPT: масов фишинг, обратно инженерство и интелигентен зловреден софтуер. Нека разгледаме подробно всеки от тях.

Масов фишинг

Тъй като ChatGPT е толкова мощна, тя може да намали времето, необходимо за създаване на ръчно подготвени, персонализирани имейли до списък с хора, от няколко дни до само няколко минути. И само с едно щракване на бутона ChatGPT може да отговаря на много специфични въпроси и да използва знанията си, за да се представя за експерти от персонала по сигурността и за такива, които не са от персонала по сигурността. Тъй като ChatGPT може също така да превежда текст във всякакъв стил на писане или да коригира на много високо ниво, след като бъде постигнато съставяне на  списък със служители и техните данни, е лесно да се създадат масово имейли, в които хакерът се представя за някой друг, за да увеличи шансовете за успешна атака.

Фишингът е съществена част от хакерските атаки срещу организации, независимо дали става дума за получаване на достъп до сървърите на дадена организация или за опит да се убедят хората да прехвърлят пари. За да се преборят с това, бизнес лидерите трябва да обучават служителите за последиците за сигурността от ChatGPT и как да разпознават потенциалните атаки. Служителите трябва да бъдат особено критични към текстовете и никога да не приемат, че нещо идва от автентичен източник. Вместо просто да се доверяват сляпо на всеки, служителите трябва да се доверяват на други механизми, като например да обръщат голямо внимание на това дали даден имейл/код е дошъл от сървъра на компанията или дали съдържа подходящ подпис. Най-важният  съвет е служителите да използват други средства за проверка освен стила на самия текст.

Обратно инженерство

ChatGPT е невероятен в разбирането на кода или дори на машинния код. Предоставяйки двоичен код или обфускулиран код на дадена система, ChatGPT може да обясни как работи кодът и какво прави по начин, който улеснява хакерите да манипулират частта от софтуера и им позволява да получат достъп до сървърите на компанията.

В миналото обратното инженерство е било много рядко срещано и изключително доходоносно умение; в миналото само националните държави са можели да го включат в своите операции. Сега това е нещо, което може да се прави от най-обикновени хакери.

Интелигентен зловреден софтуер

ChatGPT може да функционира като минимозък за зловреден софтуер, което го прави напълно автономен. В днешно време усъвършенстваният зловреден софтуер позволява на хакера да направи тунел през сървърите на дадена компания, за да наблюдава хакнатата мрежа и сървъри и да изпраща команди как да извлече информация. Тази операция обикновено включва свързване на хакера със зловреден софтуер, който той е успял да инсталира някъде в мрежата или сървърите на хакнатата компания.

С помощта на ChatGPT зловредният софтуер може да взема решения самостоятелно, така че да разбере къде се намират интересните данни, къде може да се съхраняват локално пароли и дори как да се свърже с източниците на данни и да ги извлече автоматично. ChatGPT може да пресява много повече данни от човек – в някои случаи дори го прави по-добре – което прави риска от зловреден софтуер, използващ ChatGPT, много по-опасен, отколкото би бил случаят с обикновен зловреден софтуер, който позволява на хакерите да се свързват и да го управляват. Тъй като той е напълно автономен – вече не е необходимо хакерът да контролира зловредния софтуер и ръчно да го насочва към правилното място – той е не само по-опасен, но може да бъде и по-често срещан. Това означава, че повече компании са изложени на риск да бъдат атакувани спорадично, вместо да бъдат специално насочени към тях.

Вече станахме свидетели как Samsung стана жертва на една от първите кибератаки, използващи ChatGPT, и със сигурност няма да е последната, която ще го направи. Това е добро напомняне, че компаниите от всички отрасли трябва да останат бдителни, като обучават служителите си да разбират рисковете за киберсигурността на ChatGPT – не само когато те самите го използват, но и когато някой друг може да го използва срещу тях. С течение на времето  инвестиционните приоритети щ се променят, така че екипите за защита на личните данни и сигурността да могат да гарантират, че техните организации не са уязвими за негативните последици от ChatGPT.