Платформите за генеративен изкуствен интелект като ChatGPT променят начина, по който получаваме достъп до информация, отговаряме на въпроси и дори разработваме софтуерен код. Не е изненадващо, че според проучването на KPMG за киберсигурността: (PDF), две трети (66%) от лидерите в областта на сигурността смятат, че автоматизацията, базирана на ИИ, е много важна, както сега, така и в бъдеще, за изпреварване на новите заплахи и за повишаване на гъвкавостта и оперативността на техните SOC. Въпреки че автоматизацията, базирана на ИИ, предлага множество предимства, надеждността на препоръките, генерирани от ИИ, остава основна грижа за лидерите в областта на киберсигурността. Това повдига въпроса: Какво е необходимо, за да се разгърне пълният потенциал на ИИ в киберсигурността?

Всеки, който е проучвал генеративни платформи за ИИ, може да види, че ИИ има потенциал значително да подобри киберсигурността – особено при запитване на големи масиви от данни, идентифициране на аномалии и активиране на действия, базирани на събития, като например триаж на билети, предупреждаване на екипи или намаляване на фалшивите положителни резултати. Въпреки това, както всяка технология, ИИ също въвежда нови рискове и предизвикателства, които трябва да бъдат внимателно управлявани. Някои основни рискове включват:

• Въоръжен  ИИ: кибернетичните противници могат да използват ИИ за разработване на сложни методи за атака, включително въвеждане на злонамерени данни в наборите от данни за обучение, за да повредят моделите на ИИ, което води до неправилни или опасни резултати.
• Прекалено разчитане на ИИ: Организациите могат да станат прекалено зависими от системите с ИИ, вярвайки, че те са безпогрешни, което може да доведе до самодоволство от човешкия надзор и ръчните проверки на сигурността.
• Липса на прозрачност: Системите на ИИ, особено тези, които се основават на дълбоко обучение, могат да бъдат непрозрачни, което затруднява разбирането на начина на вземане на решения. Тази липса на прозрачност може да окаже отрицателно въздействие върху реакцията при инциденти и анализа на първопричините.
• Загриженост за неприкосновеността на данните: ИИ изисква огромни количества данни за обучение, което поражда опасения относно неприкосновеността на личния живот и съответствието, особено когато става въпрос за чувствителна информация. Освен това системите за ИИ могат да съхраняват или обработват големи масиви от данни, което ги прави привлекателни цели за киберпрестъпници, които се стремят да откраднат или манипулират тези данни.
• Ресурсна интензивност: Внедряването и поддръжката на системи за киберсигурност, базирани на ИИ, може да бъде скъпо, тъй като изисква значителни изчислителни ресурси и квалифициран персонал.

Въпреки тези предизвикателства ИИ играе ключова роля в съвременната киберсигурност, предлагайки значителни предимства, които помагат на организациите да се защитят от все по-сложни заплахи. Някои основни предимства на ИИ в киберсигурността включват:

• Усъвършенствано откриване на заплахи: ИИ може непрекъснато да наблюдава мрежи, системи и устройства в реално време, като открива заплахите по-бързо от традиционните методи. Той може също така да идентифицира необичайни модели на поведение, които могат да означават атака, дори ако конкретната заплаха е неизвестна (напр. заплахи от нулев ден). Освен това моделите за машинно обучение могат да анализират исторически данни, за да предвидят потенциални заплахи, което позволява проактивни мерки за защита.
• Автоматизиране на задачите по сигурността: ИИ автоматизира повтарящи се задачи, като например анализ на логове, сканиране на уязвимости и управление на кръпки, като по този начин намалява работното натоварване на екипите по киберсигурност. Той може също така да автоматизира първоначалните реакции при инциденти със сигурността, като изолиране на засегнатите системи или блокиране на злонамерен трафик, което позволява по-бързото ограничаване на заплахите.
• Работа с големи обеми данни: ИИ се справя отлично с обработката на огромни количества данни, което му позволява да пресява логове, мрежов трафик и сигнали за сигурност, за да идентифицира потенциални заплахи с по-голяма скорост и точност от човешките анализатори.
• Намаляване на фалшивите положителни резултати: Чрез използване на машинно обучение ИИ може да намали броя на фалшивите положителни резултати в сигналите за сигурност, което позволява на екипите по сигурността да се съсредоточат върху истинските заплахи и да избегнат умората от сигналите.
• Проактивен лов на заплахи: ИИ може автоматично да търси индикатори за компрометиране в инфраструктурата на организацията, като идентифицира потенциални заплахи, преди те да причинят щети.
• Оптимизиране на ресурсите: Чрез автоматизиране на много аспекти на киберсигурността ИИ помага на организациите да оптимизират ресурсите си, намалявайки необходимостта от големи екипи по сигурността и свеждайки до минимум въздействието на недостига на умения в областта на киберсигурността. С ИИ, който се занимава с рутинни задачи, специалистите по киберсигурност могат да се съсредоточат върху по-сложни и стратегически предизвикателства, повишавайки цялостната ефективност на операциите по сигурността.

Понастоящем повечето стратегии за ИИ са тясно фокусирани върху подпомагането на конкретни задачи, а организациите все още оценяват рисковете, породени от тази нововъзникваща технология. Въпреки това, тъй като кибернетичните противници все повече използват ИИ, специалистите по сигурността не трябва да изостават. Вместо това те трябва да намерят баланс между риска и ползата, за да подобрят лова на заплахи и да постигнат по-голяма оперативна ефективност.