Анализ на Cisco Talos предупреждава, че масовият и лесно забележим характер на сегашните атаки с автономни ИИ агенти може да се промени. Ако нападателите започнат да поставят прикритостта над скоростта, традиционните методи за откриване ще бъдат подложени на по-сериозно изпитание.
Кибератаките с участието на автономни ИИ агенти вече показват как автоматизацията може да ускори действията срещу публична инфраструктура. Досегашните инциденти обаче често се отличават с голям обем заявки, масови регистрации и автоматизирани действия, които бързо привличат вниманието на администраторите.
Според Jerzy Kramarz, изследовател в Cisco Talos, тази шумна активност не е неизбежна характеристика на технологията, а избор на начина, по който агентите са организирани и насочвани. Следващото поколение може да запази автоматизацията и издръжливостта си, като същевременно намали признаците, по които защитниците разпознават атаката.
От масови действия към прикрито проникване
Сред публично известните случаи на атаки с автономни агенти са инциденти, засягащи платформата Hugging Face, проекта DSEWiki и хранилището за Ruby пакети RubyGems.
Случаят с RubyGems показва характерния модел: автоматизирани регистрации и масово публикуване на пакети натоварват инфраструктурата и привличат вниманието на поддържащите проекта в рамките на дни. Подобна активност напомня повече на мащабен автоматизиран тест за проникване, отколкото на добре прикрита операция на червен екип.
При последната оперативната сигурност е решаваща. Нападателят се стреми да установи достъп, да се придвижва в мрежата и да постигне целите си, без да задейства защитните механизми. Според анализа на Talos именно тук автономните агенти могат да променят подхода си: вместо да оптимизират скоростта и броя на действията, те могат да бъдат насочени към по-предпазливо поведение.
Автоматизираните системи не се уморяват и могат да продължават да работят, да сравняват резултати и да адаптират действията си. Това не означава, че всеки ИИ агент е способен на успешно прикрито проникване, но показва защо защитниците не бива да разчитат единствено на големия обем подозрителна активност.
Какво означава това за центровете за наблюдение на сигурността
Ако атакуващите агенти намалят скоростта и обема на заявките, откриването им може да стане по-трудно. Затова организациите трябва да разширят наблюдението отвъд периметъра и да търсят признаци за злоупотреба с достъп и движение между системите.
Cisco Talos препоръчва няколко практически приоритета:
- Актуализиране и упражняване на плана за реакция при инциденти. Трябва да са определени отговорниците, правомощията за вземане на решения и резервните комуникационни канали, включително при недостъпност на основните системи.
- Сценарии с ИИ агенти в ученията. Освен стандартни ransomware ситуации е необходимо да се моделират компрометиран агент във вътрешната мрежа, последователна злоупотреба с идентификационни данни и кражба на параметри на ИИ модели.
- Многофакторно удостоверяване, устойчиво на фишинг. Защитата трябва да обхваща не само VPN достъпа, но и Active Directory, системите за единно вписване и вътрешните приложения. FIDO2 ключове и ключове за достъп (passkeys) са предпочитани пред SMS кодове и обикновени push потвърждения.
- Сегментиране на достъпа. Една компрометирана парола или сесия не трябва да осигурява достъп до цялата инфраструктура.
Ранните сигнали остават важни
Дори при по-сложни атаки някои индикатори могат да помогнат за ранното откриване: рязък ръст на опитите за SQL инжектиране, необичайно количество автоматизиран трафик и увеличение на предупрежденията от защитната стена за уеб приложения (WAF).
Допълнителен сигнал могат да бъдат заявки от инструменти като Python, curl или wget, вместо от обичайни браузъри. Тези признаци сами по себе си не доказват атака, тъй като легитимни приложения и администратори също използват автоматизирани инструменти. Значението им зависи от контекста, честотата и съчетаването им с други събития.
Затова наблюдението трябва да включва не само входящия трафик, но и комуникацията между вътрешните системи, DNS заявките и необичайните модели на използване на идентичности. Така организациите могат да откриват действия, които не предизвикват очевиден пик на активността.
Основният извод от анализа на Cisco Talos е, че шумът не е надеждна постоянна характеристика на атаките с ИИ агенти. Досегашните инциденти дават възможност на защитниците да разпознават автоматизирани модели, но тази преднина може да намалее, ако следващите поколения агенти бъдат оптимизирани за прикритост. Подготовката изисква по-добра вътрешна видимост, ограничаване на привилегиите и редовно проверявани процедури за реакция.
