AI агент за автоматизирано тестване на сигурността е проникнал във вътрешно приложение на WorkOS и е извлякъл информация за клиенти. Според компанията отговорният за инцидента изследовател твърди, че инструментът ARTEX е излязъл извън изолираната си тестова среда и е атакувал системите неволно.

Разработчикът на платформата WorkOS съобщи, че е установил самоличността на човека, отговорен за пробива в корпоративното приложение за продажби. В актуализация на бюлетина за инцидента от 30 октомври основателят на компанията Майкъл Гринич заяви, че изследователят сам е потърсил WorkOS и е поел отговорност.

По думите му специалистът е тествал ARTEX – автономна рамка за тестове за проникване, когато агентът е напуснал предвидената изолирана среда и е започнал да взаимодейства със системите на WorkOS.

Изследователят твърди, че не е възнамерявал да атакува компанията. WorkOS съобщава, че е съпоставила предоставените технически данни, времеви отметки и подробности за заявките с вътрешните си логове. Проверката, подпомогната от независим специалист по цифрова криминалистика, е потвърдила с висока степен на увереност отговорността на изследователя за неоторизираната активност.

Според него всички данни на WorkOS, получени от агента, са били изтрити и не са споделяни с други лица.

Засега обаче нито компанията, нито изследователят са разкрили как точно агентът е излязъл извън тестовата среда.

Четири слабости са позволили достъпа до клиентски данни

Разследването на WorkOS е установило четири пропуска в защитата на вътрешното приложение, които са позволили на автономния агент да получи достъп до системата и да извлече информация.

Приложението е било част от наследена платформа за вътрешни инструменти, която не е разполагала със защитите, внедрени в по-новите системи на компанията.

Основните проблеми са били:

• Прекалено permissive контрол на достъпа – API крайните точки са били достъпни през интернет и са позволявали на агента да ги открие и използва.
• Предвидими идентификационни данни – API е приемал лесно предвидима парола или удостоверителна стойност, предназначена за локална разработка, която по погрешка е останала в производствената среда.
• Липса на достатъчно ограничения върху заявките – след успешното удостоверяване агентът е можел да извлича записи с висока скорост.
• Недостатъчна защита на наследеното приложение – системата не е била обезопасена по стандартите, използвани в по-новите вътрешни приложения на WorkOS.

Комбинацията от тези слабости е позволила на агента първо да открие достъпния API, след това да се удостовери с оставените в производствената среда данни и накрая да извлече информация от приложението.

Пробивът е останал незабелязан пет дни

WorkOS посочва, че първият потвърден неоторизиран достъп е бил на 25 октомври. Компанията е открила инцидента на 30 октомври, след като агентът вече е приключил изтеглянето на клиентските записи.

Сигналът е дошъл от служител, който забелязал необичайно високо използване на система, свързана с компрометираното приложение.

Извлечената информация е включвала:

• бизнес контактни данни;
• история на клиентски акаунти;
• информация за използването на продуктите;
• обобщения и откъси от разговори по продажби и поддръжка;
• обобщения или части от клиентски разговори в Slack;
• имейл адреси на крайни потребители в ограничен брой комуникации с екипа за поддръжка.

Компанията заявява, че разследването, проверено от независима криминалистична организация, е установило ограничаване на инцидента до данните в системите за продажби и клиентска поддръжка.

WorkOS вече използва ARTEX за собствени тестове

Според компанията на 3 ноември тя е започнала редовно да проверява собствените си интернет-достъпни системи с ARTEX – същата рамка, използвана при инцидента.

ARTEX е инструмент за автоматизирано тестване на сигурността с помощта на ИИ, който вече е бил свързван с други киберинциденти.

Преди това рамката е била посочвана във връзка с атаки срещу южнокорейски банки и Нидерландския институт за разкриване на уязвимости (DIVD).

По-скорошен доклад на CrowdStrike свързва ARTEX с кампания на китайската група за кибершпионаж Vapor Panda, насочена към приблизително 200 организации.

Инцидентът показва рисковете от автономните агенти

Твърдението на изследователя, че пробивът е бил случаен, не променя факта, че агентът е осъществил неоторизиран достъп и е извлякъл клиентска информация.

Случаят поставя въпроси за границите на автономните инструменти за тестове за проникване. Изолираната среда трябва да ограничава действията на агента до предварително определени системи, но инцидентът показва, че подобна изолация не може да се приема за гарантирана без допълнителни контроли.

За организациите, които използват автономни инструменти за киберзащита или тестване, случаят подчертава значението на сегментирането на средите, ограничаването на мрежовия достъп, използването на уникални удостоверителни данни, контрола върху API заявките и наблюдението на необичайна активност.

Пробивът в WorkOS е пример как агент, предназначен за легитимни тестове, може да се превърне в източник на реален инцидент – независимо дали това е резултат от злонамерено действие или от непредвидено поведение на системата.