LinkedIn носи отговорност за един милиард глобални потребители, които разполагат с огромен хардуер, в момент на нарастващи заплахи и уязвимости за киберсигурността. Тя се нуждае от наистина ефективна система за управление на уязвимостите, за да предотврати бедствие.

Организацията реши да рационализира и максимизира своята система, за да защити по-добре своята потребителска база и себе си. Тя реши да използва силата на изкуствения интелект, за да направи това. Тъй като няма готово, адаптирано и подходящо приложение за ИИ, тя реши да поеме по пътя „Направи си сам“ – и SecurityWeek разговаря с вицепрезидента и ръководител на инженерния отдел Сабри Тозин, за да разбере процеса на разработване на нова платформа: проектът за ИИ Security Posture Platform (SPP).

Първият проблем беше да се създаде единен източник на истина за цялата хардуерна екосфера. „Ако имате множество източници, които правят запитвания за една и съща информация, вече нямате източник на истината“, обясни Тозин. „Така че първата стъпка беше да кажа: „Добре, от всички тези различни източници ще събера всички данни в един граф на знанието, който ще се превърне в мой единен източник на истината, информиращ ме за всички мои активи и техните взаимоотношения.“

Това е Графът на знанията за сигурността – хранилище на данни в реално време за всички цифрови активи, предоставящо необходимата информация за идентифициране на уязвимости и прогнозиране на пътищата за атаки.

Вторият проблем е навигацията в графа, за да се открият и след това да се намалят уязвимостите. Това е страната на генния изкуствен интелект на SPP AI. Вярно е, че отношенията на LinkedIn с Microsoft и отношенията на Microsoft с OpenAI осигуряват достъп до адаптирани модели на gen-AI; но има десетки различни модели, които организациите могат да изтеглят. Проблем при разработката на приложение „Направи си сам“ би бил изборът на правилния модел за конкретната задача – но това не беше проблем за LinkedIn.

Следващият етап беше да се постигне максимална ефективност на съпоставянето на заявките на инженерите по сигурността с графа на знанието, за да се получат правилните отговори. Част от решението беше да се използва GraphQL API, а не RESTful API, което, както казва LinkedIn, „дава на нашите потребители гъвкавостта да преминават през различни възли и връзки, като създават най-ефективните заявки, свързани с техните случаи на употреба“.

Втората част от решението се крие в самия граф: функциите са съпоставени с типове възли, което позволява на модела да избере най-подходящия възел, който съответства на контекста на заявката, от списъка с наличните възли.

Разбира се, това е само част от архитектурата на проекта, предназначена да осигури на инженерите бърз достъп до точни отговори. Другите елементи включват обработка на подкани и грешки (автоматично усъвършенстване на подканите въз основа на развиващия се контекст и нуждите на потребителя); резервен механизъм в случай, че първоначалното запитване не дава адекватни резултати (изготвяне на вторични запитвания); обучение от минали запитвания (за обогатяване на бъдещи запитвания в същия контекст); и др.

Преглед на платформата Security Posture (кредит за изображения: LinkedIn)

Кражбата на удостоверения и злоупотребата с тях е може би един от най-големите проблеми в областта на сигурността. Базираният на изкуствен интелект достъп на лоши типове до потенциални уязвимости на LinkedIn би бил огромна заплаха – но Тозин посочва, че SPP AI е затворена система, която може да се използва само от малка част от вътрешния екип по сигурността: API не може да бъде достъпен от всеки и може да бъде строго контролиран и наблюдаван. Освен това самите заявки са обект на откриване на аномалии. Стилът на заявките на естествен език, използвани от различните легитимни потребители, се разбира от системата и всеки недоброжелател, който се опитва да отправи запитване към SPP AI, вероятно ще бъде открит.

Заслужава да се отбележи и философията на Тозин за ИИ. „Целта на ИИ не е да намали екипа от 100 инженери до 50 инженери, а да направи 100 инженери толкова продуктивни, колкото 200 инженери“, казва той. ИИ е инструмент, който помага да се осигури по-добро разбиране, по-бързо. Но той предоставя тези прозрения на хората – не ги замества. „Всичко тук се проверява от хора“, каза той.

Доказателството за всяко приложение е в неговите резултати. Проектът започва преди три поколения на GPT с Davinci. „В началото – казва LinkedIn – наблюдавахме около 40-50% точност при нашите „слепи тестове“. В сегашното поколение модели GPT-4 виждаме 85-90% точност.“

Всяко ново поколение изисква фина настройка, за да се постигне максимална производителност. Но тази фина настройка също така намалява халюцинациите. В този случай халюцинацията не е някаква измислена приказка, създадена от gen-AI, защото той няма отговор на въпроса, а погрешна интерпретация на данните, с които разполага.

„Всъщност става въпрос за усъвършенстване на отговорите и обучение на данните с течение на времето“, казва Тозин. „Когато изпробвате новия модел, задавате му въпроси и получавате отговори, операторът (не забравяйте, че всичко се проверява от хора) може да каже: „Това не е вярно – казва, че този лаптоп не е бил пачнат, но аз знам, че е бил“. Така че настройката на новия модел е въпрос на разбиране къде и защо е допусната грешката – и нейното отстраняване.“ Халюцинацията е грешка в интерпретацията, която може да бъде поправена в изкуствения интелект „Направи си сам“, защото вие притежавате целия проект: в този случай графа на знанията, модела gen-AI и подсказките.

Резултатът за LinkedIn е система за управление на уязвимостите, която позволява на екипа по сигурността да проучи един източник на истината за цялата недвижима собственост в реално време и да получи незабавен отговор на естествен език на въпроси като: „Засегнати ли сме от уязвимост X?“, „Коя е най-рисковата уязвимост на моите устройства?“ и „Какви услуги се изпълняват на хост X и кои са собствениците?“

LinkedIn следва поговорката: ако искате да го направите добре, направете го сами. Сагар Шах и Амир Джалали от LinkedIn публикуваха блог с повече подробности за проекта SPP AI.

Източник: SecurityWeek