Ако 2023 г. и 2024 г. бяха годините на проучване, шумотевица и вълнение около ИИ, то 2025 г. (и 2026 г.) ще бъдат годините, в които организациите ще започнат да се фокусират върху конкретни случаи на употреба за най-продуктивно внедряване на ИИ и, което е по-важно, ще разберат как да прилагат предпазни огради и управление, така че екипите по сигурността да го възприемат като по-малък риск и по-голяма полза за организацията.

Не ме разбирайте погрешно, организациите вече започват да внедряват ИИ в широк спектър от бизнес подразделения:

• Предприятията разработват приложения, които добавят възможности на Големия езиков модел (LLM), за да осигурят превъзходна функционалност и усъвършенствана персонализация.
• Служителите използват инструменти GenAI на трети страни за целите на изследванията и производителността
• Разработчиците използват асистенти за код с ИИ, за да програмират по-бързо и да спазват предизвикателните производствени срокове
• Компаниите изграждат свои собствени LLM за вътрешни случаи на употреба и за търговски цели.

ИИ все още е в процес на съзряване

Въпреки това, подобно на други технологии, които са се появили преди това, като автоматизацията на облака и киберсигурността, в момента ИИ не е достатъчно зрял. Един от най-известните модели за измерване на технологичната зрялост е цикълът на Gartner. Той проследява инструментите през първоначалния „спусък на иновациите“, през „пика на завишените очаквания“ до „коритото на разочарованието“, последвано от „склона на просветлението“ и накрая достигане на „платото на продуктивността“.

Възприемайки този модел, оприличавам ИИ на шумотевицата, на която станахме свидетели около „облака“ преди десетилетие, когато всички бързаха да мигрират към „облака“ – по онова време универсален термин, който имаше различно значение за различните хора. „Облакът“ премина през всички етапи на цикъла на шумотевицата и ние продължаваме да откриваме все по-специфични случаи на употреба, върху които да се съсредоточим за постигане на най-голяма производителност. В днешно време мнозина вече мислят как да „оразмерят“ облака си спрямо своята среда. В някои случаи те преместват част от инфраструктурата си обратно към локални или хибридни/многооблачни модели.

Точно сега виждаме ИИ в тази фаза на „пик на завишените очаквания“ и прогнозираме, че той ще се потопи в „коритото на разочарованието“, където организациите ще осъзнаят, че той не е сребърният куршум, който са смятали, че ще бъде. Всъщност вече има признаци на цинизъм, тъй като лицата, вземащи решения, са бомбардирани с маркетингови послания от доставчиците и се затрудняват да разграничат кое е истински случай на употреба и кое не е подходящо за тяхната организация. Това е тема, която се появи и при съзряването на автоматизацията на киберсигурността – необходимостта да се определи правилният случай на използване на технологията, а не да се опитваме да я прилагаме повсеместно.

ИИ е функция на мащаба

При все това ИИ е и ще продължи да бъде полезен инструмент. В днешния икономически климат, когато бизнесът се адаптира към новата нормална ситуация на непрекъснати промени, ИИ – заедно с автоматизацията – може да бъде функция за мащабиране на екипите по киберсигурност, която им позволява да се променят и да увеличават мащаба си, за да се защитават от все по-разнообразни атаки. Всъщност нашето неотдавнашно проучване сред 750 професионалисти в областта на киберсигурността установи, че 58% от организациите вече използват ИИ в киберсигурността до известна степен. Въпреки това очакваме, че преди да стане наистина продуктивен, ИИ в киберсигурността ще премине през същия цикъл на приемане и предизвикателства, които изпитват „облакът“ и автоматизацията, включително проблеми с доверието и техническото внедряване.

Страхът, несигурността и съмненията, свързани с ИИ, са основателни. Той би могъл да има значителен вреден ефект, ако се използва неправилно или ако моделът на ИИ не прави това, което трябва. Този страх е сходен с възгледите на специалистите по киберсигурност относно автоматизацията на киберсигурността във времето. По-ранните проучвания, които проведохме за приемането на автоматизацията, показаха липса на доверие в резултатите от автоматизацията, но последното проучване, което току-що публикувахме, показва по-голямо доверие с напредването на автоматизацията.

Ето защо много организации създават ръководни комитети, за да разберат по-добре използването на ИИ в различните бизнес отдели. Има и регулации, които ще влязат в сила, като например Законът на ЕС за ИИ, който представлява цялостна правна рамка, определяща правилата за разработване и използване на ИИ.

Разбиране на това какви данни се споделят

Това е основен въпрос за ръководителите в областта на сигурността – да се установи кой използва инструментите на ИИ и за какво ги използва. Какви фирмени данни споделят с външни инструменти, защитени ли са тези инструменти и дали са толкова невинни, колкото изглеждат? Например, дали асистентите за код на GenAI, които се използват от разработчиците, връщат лош код и внасят риск за сигурността? Съществуват и аспекти като Dark AI, който включва злонамерено използване на технологиите на ИИ за улесняване на кибератаки, халюцинации и отравяне на данни, когато се въвеждат злонамерени данни за манипулиране на кода, което може да доведе до вземане на лоши решения.

В тази връзка проучване (PDF) на Splunk сред главните директори по информационна сигурност (CISOs) установи, че 70% от тях смятат, че генеративният AI може да даде на кибернетичните противници повече възможности за извършване на атаки. Със сигурност преобладаващото мнение е, че ИИ е от полза повече за нападателите, отколкото за защитниците.

Намиране на правилния баланс

Ето защо нашият подход към ИИ е насочен към възприемане на балансирана гледна точка. ИИ със сигурност няма да реши всеки проблем и той трябва да се използва като автоматизация, като част от съвместна комбинация от хора, процеси и технологии. Просто не можете да замените човешката интуиция с ИИ, а много нови регулации за ИИ предвиждат запазване на човешкия надзор, така че става въпрос за намиране на правилния баланс и използване на технологията в правилните сценарии за правилния случай на употреба и получаване на резултатите, от които се нуждаете.

С поглед към бъдещето, тъй като компаниите разбират по-добре случаите на използване на ИИ, той ще се развие от обикновения Gen AI, за да включи и допълнителни технологии. Към днешна дата генеративните приложения на ИИ в преобладаващата си част са фокусирани върху разминаването на информацията. Това означава, че те създават ново съдържание въз основа на набор от инструкции. Вярваме, че с развитието на ИИ ще видим повече приложения на ИИ, които сближават информацията. С други думи, те ще ни показват по-малко съдържание чрез синтезиране на наличната информация, което специалистите в бранша сполучливо наричат „SynthAI“. Това ще доведе до промяна на функцията на стъпката в стойността, която ИИ може да предостави – ще го обсъдя в бъдеща статия.

Aвтор: Марк Соломон, главен маркетинг директор в ThreatQuotient