Автономните атаки преминават от експеримент към реален оперативен риск

Киберсигурността навлиза в нов етап, в който времето може да се окаже по-важно от самата технология. Изследване на Booz Allen върху 18 водещи американски и китайски модела за ИИ показва, че някои системи вече демонстрират способност да изпълняват значителна част от веригата на кибератаката с минимална човешка намеса.

Най-сериозният сигнал идва от тестовете с Claude Mythos на Anthropic, който е успял автономно да премине през пълната последователност на атака в производствена корпоративна среда. Това включва придобиване на административни права чрез откраднати идентификационни данни и проникване без предварително предоставени идентификационни данни при по-труден сценарий.

Това не означава, че всяка ИИ система днес може самостоятелно да превземе реална инфраструктура. Но показва нещо далеч по-важно – бариерата пред автоматизирането на сложни атаки пада бързо.

Моделът вече не е единственият фактор

Една от най-важните констатации в изследването е, че оценката на риска само по възможностите на конкретния модел вече е недостатъчна.

Моделът може да бъде свързан с т.нар. attack harness – среда, която му предоставя инструменти, памет, обратна връзка и възможност да изпълнява последователни действия. Така дори система, която сама по себе си е по-слаба, може да придобие значително по-голям оперативен потенциал.

Това променя и начина, по който трябва да се тестват защитите. Не е достатъчно организацията да пита какво може конкретният модел. Тя трябва да знае какво може цялата система, когато моделът получи достъп до инструменти и автономно изпълнение.

Шест месеца могат да се окажат критичен хоризонт

Според анализа повечето от изследваните модели могат да достигнат пълна автономна способност за изпълнение на kill chain в рамките на около шест месеца.

Още по-тревожно е, че приблизително две трети от тестваните модели са успели надеждно да получат първоначален достъп до защитена мрежа без предоставени идентификационни данни.

Същевременно има важна граница. При тестове с реални, а не нарочно създадени уязвимости, всички тествани frontier API модели са получили нулев резултат. Това показва, че реалната среда все още е значително по-трудна от лабораторния сценарий.

Но тази разлика не трябва да създава фалшиво чувство за сигурност. Тя може да бъде преодоляна не толкова чрез фундаментален пробив в самия ИИ, колкото чрез по-добра инженерна инфраструктура около него.

Защитата не може да остане човешка по подразбиране

Традиционният модел разчита на човек да види сигнала, да го анализира, да вземе решение и да предприеме действие. При автономен нападател тази последователност може да се окаже прекалено бавна.

Именно тук се появява концепцията за Counter AI – използване на ИИ за откриване, объркване, забавяне и ограничаване на автономни атакуващи системи.

При тестовете на Booz Allen координирани Counter AI механизми са намалили успеха на автономния нападател с над 95%. Това е важен резултат, защото показва, че автономността не е еднопосочно предимство за атакуващия.

Тя създава и нови възможности за защита.

Критичната инфраструктура трябва да бъде готова да бъде пробита

Най-същественият стратегически извод е, че защитата трябва да се промени от „как да предотвратим всяко проникване“ към „как да ограничим последствията, когато проникването се случи“.

За операторите на енергетика, комуникации, вода, здравеопазване и други критични услуги това означава по-строга сегментация, Zero Trust архитектура, контрол на привилегиите, силна идентификация и изолация на критичните активи.

Но технологията сама няма да реши проблема.

Организациите трябва да доказват устойчивостта си чрез реалистични упражнения с актуални възможности на ИИ, а не само чрез годишни одити и документи за съответствие.

Новата мерна единица е времето

В традиционната киберсигурност организациите често измерват броя на откритите инциденти, уязвимостите и защитните механизми.

При автономните атаки все по-важен ще бъде друг показател – колко време е необходимо на системата да открие, разбере и ограничи атаката.

Ако нападателят може да извършва разузнаване, да търси идентификационни данни, да ескалира привилегии и да се придвижва странично почти без човешка намеса, защитата, която разчита на ръчни процеси, неизбежно губи.

Затова надпреварата вече не е просто между по-добър софтуер и по-добър софтуер. Тя е между човешката скорост и машинната автономност.

И ако критичната инфраструктура иска да запази предимството си, тя трябва да премине към защита, която може да открива, взема решения и реагира със скорост, близка до тази на атакуващия.

Защото следващият голям пробив в киберсигурността може да не бъде нова уязвимост. Може да бъде моментът, в който машината просто започне да атакува по-бързо, отколкото човекът може да реагира.