Месец след представянето на новия модел Anthropic Mythos, част от опасенията, че технологията ще „революционизира“ хакерските атаки, започват да изглеждат преувеличени според представители на кибер индустрията.

При представянето на модела през април компанията предупреди, че Mythos е открил хиляди уязвимости в софтуерни продукти, включително проблеми във всички основни операционни системи и браузъри. Това доведе до сериозни реакции от правителства и финансови институции, а в началото на май Белият дом дори започна обсъждане на възможни регулации за пускането на нови ИИ модели след тестове за сигурност.

В самата киберзащитна общност обаче реакцията е значително по-умерена.

„ИИ открива уязвимости от години“

Според специалисти по vulnerability research възможността ИИ да открива софтуерни слабости не е нещо ново. Новото при Mythos е по-скоро скоростта, мащабът и по-ниската бариера за използване.

Айзък Евънс, основател и изпълнителен директор на Semgrep, смята че има сериозна разлика между възприятията на политиците и реалната практика в киберсигурността.

По думите му Mythos безспорно представлява технологичен напредък, но реакциите около него не отразяват реално как тези способности ще се използват на практика.

Други експерти посочват, че защитните екипи използват ИИ за откриване на уязвимости „от месеци, ако не и от години“. Според тях истинският проблем не е самото откриване на бъгове, а:

• валидирането им;
• приоритизирането;
• безопасното им отстраняване без нарушаване на системите.

Mythos ускорява процеса, но не заменя експертите

Според експерти моделът действително показва значително подобрение спрямо предишните поколения ИИ системи. Mythos може да открива повече уязвимости с по-малко и по-опростени инструкции, което намалява техническата бариера за работа с подобни инструменти.

Антъни Грико, Chief Security and Trust Officer в Cisco, посочва че една от най-полезните способности на Mythos е възможността да анализира огромни обеми код много по-бързо и да намалява фалшивите позитиви.

Това позволява на защитните екипи да се концентрират върху реалните и критични рискове.

Въпреки това специалистите подчертават, че човешките изследователи все още превъзхождат ИИ при:

• дълбоки анализи;
• сложни attack chain разследвания;
• контекстуално разбиране на инфраструктурата;
• оценка на реалния риск.

Ограниченията не са само технологични

Друг важен фактор е, че повечето организации все още нямат инфраструктурата, необходима за ефективно използване на модел от нивото на Mythos.

Според Cisco подобен ИИ изисква:

• сериозен изчислителен ресурс;
• специализирана среда („harness“);
• добре изградени процеси;
• опитни екипи.

Експертите сравняват ситуацията с това да дадеш болид от Формула 1 на човек, който досега е карал само велосипед – технологията е мощна, но без необходимата подготовка няма как да се използва пълният ѝ потенциал.

Рискът не е само в ИИ, а в скоростта на атаките

Темата около Mythos се засилва и от факта, че киберпрестъпните групи вече започват да използват ИИ в реални операции.

Наскоро Google съобщи за първия известен случай, при който голяма киберпрестъпна група е използвала ИИ за откриване на неизвестна уязвимост с подготовка за масова експлоатация.

Въпреки това специалистите предупреждават, че повечето реални заплахи все още не разчитат основно на ИИ.

Синтия Кайзер, бивш високопоставен служител по киберсигурност във ФБР, подчертава че съвременните ransomware групи вече извършват атаки в рамките на под един час – дори без помощта на генеративен ИИ.

Новата реалност за защитните екипи

Случаят с Mythos показва по-скоро накъде се движи индустрията, отколкото непосредствена „киберапокалиптична“ заплаха.

Основният проблем пред организациите вече не е дали ИИ може да открива уязвимости, а дали защитните екипи могат достатъчно бързо:

• да обработват огромния обем открития;
• да разграничават реалните рискове;
• да реагират преди атакуващите;
• да автоматизират анализа и response процесите.

Това е и причината все повече компании да инвестират в XDR, MDR и MSSP услуги, комбиниращи ИИ анализ, автоматизация и човешка експертиза.

Според експертите бариерите пред подобни модели вероятно ще намаляват бързо, което означава, че организациите трябва още отсега да подготвят процеси, инфраструктура и екипи за новата фаза на ИИ подпомагани кибератаки и защита.