Доклад на Cloud Security Alliance показва, че организациите трябва спешно да променят стратегиите си за защита срещу автономни ИИ системи

Автономните ИИ агенти постепенно се превръщат в неизменна част от корпоративните процеси, но заедно с ползите носят и нов клас рискове за информационната сигурност. Според нов доклад на Cloud Security Alliance (CSA) цели 92% от специалистите по киберсигурност изразяват сериозни опасения относно влиянието на ИИ агентите върху сигурността, управлението и риска в организациите.

Изводът е категоричен – традиционните средства за защита вече не са достатъчни срещу заплахи, при които автономни системи могат да бъдат манипулирани или използвани като инструмент за сложни кибератаки.

Нови заплахи, породени от автономния ИИ

Докладът посочва, че все по-често се наблюдават атаки, насочени не към уязвимости в инфраструктурата, а към начина, по който ИИ обработва информация. Сред най-опасните техники са манипулирането на потребителските инструкции (prompt injection), комбинирането на последователни злонамерени заявки и злоупотребата с автоматизирани процеси за заобикаляне на съществуващите механизми за защита.

Друг сериозен риск произтича от способността на генеративните модели да създават убедителни текстове, които могат да бъдат използвани при фишинг, социално инженерство и атаки тип Business Email Compromise (BEC).

Необходимост от непрекъснат мониторинг

Според CSA организациите трябва да преминат от реактивен към проактивен модел на защита. Това включва непрекъснато наблюдение на взаимодействията с ИИ системите, проследяване на използваните инструкции, контрол върху достъпа на ИИ агентите до корпоративни ресурси и детайлно картографиране на връзките между различните системи.

Особено внимание трябва да се обърне на идентифицирането на всички ИИ агенти, работещи както във вътрешната инфраструктура, така и във веригата на доставки. Това позволява по-бързо откриване на потенциални компрометирания и ограничаване на риска от разпространение на атаки.

Нови политики и обучение ще бъдат решаващи

Докладът подчертава, че развитието на автономния ИИ изисква изцяло нови рамки за управление на киберсигурността. Освен внедряване на модерни механизми за откриване на заплахи, организациите трябва да инвестират в обучение на своите екипи и в разработване на политики, които интегрират сигурността още при проектирането на ИИ решенията.

Експертите очакват и засилване на регулаторните изисквания през следващите години, което ще наложи на компаниите да доказват не само защитата на своите информационни системи, но и сигурността на използваните ИИ технологии. Посланието на доклада е ясно – организациите, които започнат подготовката си още сега, ще бъдат значително по-добре защитени срещу следващото поколение киберзаплахи.