Развитието на специализирани ИИ модели за киберсигурност навлиза в нова фаза, след като Cloudflare публикува резултати от собствен анализ на модела Mythos Preview на Anthropic. Изводите на компанията показват, че моделът вече е способен не просто да открива отделни уязвимости, а да комбинира множество привидно нискорискови слабости в реално работещи експлойти.

Това е сериозна промяна в начина, по който ИИ може да бъде използван в offensive security среда. Според Cloudflare подобни способности доближават поведението на модела до това на опитен изследовател по сигурността, а не до традиционен автоматизиран скенер.

Cloudflare тества Mythos върху реални корпоративни среди

Компанията е провела тестове върху над 50 вътрешни production хранилища, включително инфраструктурни системи, мрежови компоненти, вътрешни платформи и open-source проекти.

Главният технологичен директор на Cloudflare Грант Бурзикас подчертава, че най-сериозната разлика между Mythos и предишните поколения ИИ модели е способността му да „свързва точките“ между няколко отделни слабости.

Вместо просто да маркира уязвимости, моделът може да изгради логическа верига за атака и да генерира proof-of-concept експлойт. Според Cloudflare това значително съкращава времето за валидиране на рискове и позволява по-бързо вземане на решения при triage процесите.

От автоматизиран анализ към автономно offensive reasoning

Традиционните инструменти за vulnerability scanning обикновено работят по предварително дефинирани сигнатури или известни шаблони. При Mythos ситуацията е различна – моделът демонстрира способност за reasoning и контекстуален анализ.

Cloudflare описва поведението му като близко до работата на senior security researcher, особено при комбиниране на множество нискорискови уязвимости в една по-сериозна attack chain.

Това е важен момент за индустрията, защото показва как ИИ постепенно преминава отвъд ролята на помощен инструмент и започва да участва активно в offensive security анализи.

Проблемите със защитните механизми остават

Въпреки впечатляващите способности, Cloudflare предупреждава, че защитните механизми на модела са непостоянни и могат да бъдат заобиколени чрез сравнително малки промени в prompt заявките.

Компанията описва случай, при който моделът първоначално отказва да извърши vulnerability research, но след премахване на .git директорията от тестовия код променя поведението си и изпълнява същата задача – въпреки че самият код остава непроменен.

Този тип неустойчиви прегради повдигат сериозни въпроси около безопасното публично предоставяне на подобни модели.

Според Cloudflare бъдещо широко разпространение на Mythos би изисквало допълнителни защитни слоеве и по-строги механизми за контрол.

Хората все още превъзхождат ИИ при сложни разследвания

Въпреки напредъка на модела, Cloudflare подчертава, че човешките експерти все още имат предимство при дълбоки и комплексни разследвания върху големи кодови бази.

Изследователите могат да се концентрират върху конкретни траектории на атаката, преходи между security boundaries или специфични класове уязвимости и да ги анализират в значително по-голяма дълбочина.

В настоящия си вид Mythos се представя най-добре като асистент на security екипи, а не като напълно автономен offensive analyst.

Новата надпревара в киберсигурността

Случаят около Mythos Preview показва колко бързо ИИ започва да променя offensive и defensive security екосистемата. Докато компаниите виждат огромен потенциал за ускоряване на vulnerability research процесите, нарастват и опасенията, че подобни технологии могат да бъдат използвани от групи за автоматизиране на сложни атаки.

Точно затова Anthropic засега ограничава достъпа до модела чрез инициативата Project Glasswing, в която участват ограничен брой организации и компании от сектора на киберсигурността.

Cloudflare предупреждава, че времето за реакция на защитниците постепенно намалява, тъй като ИИ системите започват да ускоряват offensive цикъла при откриване и експлоатация на уязвимости.