Когато обсъждаме изкуствения интелект (ИИ) с клиенти, обичайно срещамe две крайни реакции. Някои се вълнуват от обещанията: по-малко аларми, по-бързи отговори и потенциал за почти автономни SOC операции. Други се притесняват: означава ли това, че атакуващите ще могат да извършват хиляди автоматизирани кибератаки едновременно?

Истината е, че и двете реакции са обосновани. Технологията се движи към агентен ИИ, който се различава от сегашните копилотни системи – той действа като независим оператор, способен да планира, адаптира и изпълнява последователност от действия самостоятелно.

Етап 1 (2025): Умни инструменти с човешки контрол

Днес ИИ се използва за ускоряване на конкретни задачи. Атакуващите го прилагат за създаване на убедителни фишинг съобщения, клониране на гласове за социално инженерство или сканиране на уязвимости. Защитниците го използват като копилот: обобщава аларми, анализира логове и подготвя доклади.

Все още човекът е в центъра на контрола, а защитата зависи от комбинацията между ендпойнт, мрежа, облак и системи за идентичност.

Етап 2 (след 1-2 години): Автономни кампании

Следващият скок ще настъпи, когато агентният ИИ може да управлява пълни атакуващи кампании. Вместо само да създава фишинг съобщения, ИИ ще ги разпространява, ще събира креденшъли, ще тества достъпа в облачни приложения, ще придвижва привилегии и ще установява постоянство. Ако се сблъска с блокада, ще адаптира стратегията си незабавно.

За защитниците това ще направи традиционните SOC операции неадекватни. Автоматизираната защита ще стане необходимост –  изолиране на устройства, нулиране на акаунти и блокиране на злонамерен трафик в секунди, преди човекът дори да види алармата.

Етап 3 (3-5 години): Адаптивни противници

Следващата еволюция ще е адаптивността. Агентният ИИ ще се учи от неуспехите и ще коригира действията си. Ако един креденшъл не работи, ще търси друга уязвимост. Ако ендпойнтът е обновен, ще пробва странични движения.

Защитата ще изисква пълна интеграция между ендпойнт, мрежа, облак и идентичност, така че сигналите да се обменят в реално време и атаките да бъдат неутрализирани преди да се случат.

Предизвикателства пред агентния ИИ

Все още има препятствия:

• Моделите трябва да имат по-добра памет и последователност, за да управляват дългосрочни цели.

• Необходимо е по-добро логическо разсъждение, за да се изпълняват правилно действия в различни системи.

• Трябва да могат автономно да взаимодействат със софтуер и API, без постоянен надзор.

• И да се учат безопасно от неуспехи, без непредвидимо поведение.

Прогресът вече е налице: демонстрирани са ИИ агенти, които могат да кодират, дебъгват и постигат цели, но превръщането им в автономни киберкампании изисква още ключови пробиви.

Кой ще има предимство?

Равновесието ще зависи от това кой ще внедри агентния ИИ по-ефективно. Ако атакуващите го направят първи, можем да видим автономни рансъмуер банди, фабрики за фишинг и адаптивни злонамерени кампании. Ако защитниците го приложат навреме, SOC операциите ще станат ИИ-първи, като човешкият експерт умножава своето влияние чрез автоматизация.

Интеграцията ще е ключова: ендпойнт, мрежа, облак и идентичност трябва да обменят сигнали в реално време, за да се реагира ефективно.

Дълбоките фейкове не са главният проблем

Дискусиите често се фокусират върху deepfake видеа и гласове. Те са проблем, но основната промяна идва, когато агентният ИИ съчетава всичко – краде идентичности, експлоатира облачни конфигурации, движи се странично по мрежата и установява постоянство – всичко автоматично и с висока скорост.

Фокусът само върху отделни измами е като да пазим предната врата, докато нападателят влиза през страничния прозорец.

Сегашната фаза (Етап 1) вече е тук, Етап 2 започва да се проявява чрез доказателствени концепции, а Етап 3 не е далеч. Урокът е ясен: защитниците не могат да чакат. Автоматизацията трябва да се внедри веднага, а всяка защита трябва да говори на един и същи „език“.

Бъдещата битка няма да е човек срещу човек – ще е ИИ срещу ИИ. Организациите, които интегрират защитата си и приемат агентните инструменти отговорно, ще са тези, които ще устоят, когато правилата на играта се променят.

Адам Уинстън,

watchguard.com