Автономните агенти с изкуствен интелект могат да подпомагат киберпрестъпниците при проникване в корпоративни мрежи с минимална човешка намеса. За разлика от стандартните чатботове, които обикновено отказват да съдействат за злонамерени действия, тези системи могат да изпълняват последователности от задачи и да действат самостоятелно в интернет.

Обикновените чатботове с изкуствен интелект (ИИ) разполагат с механизми за ограничаване на опасните заявки, но те не са непреодолими. Чрез специално формулирани инструкции, заобикаляне на защитните ограничения и комбиниране на отговори от различни модели злонамерени лица могат да получат информация за подготовка на атаки, създаване на зловреден код и планиране на прониквания.

Съществената разлика е, че стандартният чатбот предоставя предимно информация, докато автономният ИИ агент може да изпълнява възложени задачи чрез свързани инструменти и услуги. При подходящи разрешения и технически възможности подобна система може да автоматизира отделни етапи от атаката, без човек да контролира всяка стъпка.

От чатботове към автономни инструменти за атаки

Киберпрестъпниците могат да използват т.нар. jailbreak техники, за да се опитат да заобиколят ограниченията на комерсиалните ИИ модели. Един от подходите е заявката да бъде представена като легитимна изследователска задача или като дейност с предполагаема общественополезна цел.

Получената информация може да бъде обединена с отговори от други системи и използвана за съставяне на план за атака. В зависимост от случая това може да включва подготовка на зловреден софтуер, социално инженерство или действия, насочени към организации от публичния и частния сектор.

Автономните агенти разширяват тези възможности, защото могат да свързват отделни операции в по-сложен работен процес. При наличие на необходимите инструменти те биха могли да автоматизират разузнаването, проверката на достъпни услуги и други действия, които иначе изискват координация от човешки оператори.

Това не означава, че всеки ИИ агент може самостоятелно да прониква в произволна система. Реалните му възможности зависят от модела, предоставените разрешения, свързаните инструменти, ограниченията на средата и способността му да изпълнява надеждно сложни задачи.

Атаки срещу стотици организации с ограничена човешка намеса

В материала на Panda Security се описва случай, при който китайскоговорящ киберпрестъпник е използвал автономни ИИ агенти срещу системите на повече от хиляда бизнеса. Сред споменатите компании са John Deere и SharkNinja. Според изложеното от източника изследователите смятат, че първоначалните инструкции към агентите са били формулирани на китайски език в рамките на по-малко от 100 знака.

Твърденията очертават потенциала за мащабиране на кибератаките чрез автоматизация. Когато голяма част от повтарящите се операции се възлага на софтуерни агенти, един оператор може да координира повече задачи и да насочва усилията си към по-голям брой цели.

Посочените подробности обаче не са достатъчни сами по себе си, за да се установят независимо мащабът на компрометирането, конкретните технически методи и ролята на автономните агенти във всеки отделен случай. Затова твърденията за засегнатите компании и резултатите от операцията следва да се разглеждат с оглед на първичните изследователски данни и допълнителните потвърждения.

Какво означава това за корпоративната сигурност

Автоматизацията може да намали времето и усилията, необходими за изпълнение на определени етапи от една атака. Това създава допълнителен натиск върху организациите да откриват подозрителна активност навреме, да ограничават ненужния мрежов достъп и да следят използването на идентификационни данни и административни инструменти.

Сред основните мерки за защита са редовното актуализиране на системите, многофакторната автентикация, ограничаването на привилегиите, сегментацията на мрежите и непрекъснатото наблюдение на крайните устройства и критичните услуги. Важно е също да се ограничават правата на самите ИИ агенти, когато те се използват в легитимни бизнес процеси.

Организациите, които внедряват автономни системи, трябва да определят ясни граници за действията им, да регистрират извършените операции и да изискват човешко одобрение за чувствителни действия. Така рискът от злоупотреба или непредвидено поведение може да бъде намален.

Кой носи отговорност за действията на ИИ агентите

Автономността не освобождава хората от отговорност за незаконни действия. ИИ системите не притежават самостоятелна правосубектност само защото могат да изпълняват задачи без постоянен човешки контрол.

Правната оценка зависи от приложимото законодателство и конкретните обстоятелства, включително намерението, извършените действия и участието на съответните лица. Използването на ИИ за подготовка или изпълнение на неразрешено проникване не прави подобна дейност законна. Същевременно не всяка заявка към чатбот с опасно съдържание автоматично представлява престъпление – значение имат контекстът и конкретното поведение.

Развитието на автономните агенти променя начина, по който могат да се организират и мащабират кибератаките. Основното предизвикателство за защитниците не е просто появата на по-способни модели, а възможността те да бъдат свързани с инструменти, достъп и автоматизирани работни процеси. Именно затова контролът върху разрешенията, наблюдението и своевременното откриване на подозрителни действия стават все по-важни.