Търсене
Close this search box.

Стартъпът за киберсигурност Simbian пусна на пазара три AI агента LLM, които работят като виртуални служители, но със скоростта, издръжливостта и точността на роботи.

Изкуственият интелект с голям езиков модел (LLM), типичен за ChatGPT на OpenAI, направи революция и може би демократизира използването на ИИ. Въпреки че сега ИИ предлага много предимства на всички, тези предимства се основават предимно на по-доброто и по-бързото извършване на дейностите.

Киберпрестъпниците винаги възприемат варианти, които правят нещата по-добре и по-бързо. От пускането на ChatGPT през 2022 г. насам очакваме LLM да увеличи скоростта и мащаба на престъпните кибератаки; и това вече започна. Знаем, че единственият начин да мащабираме защитата си, за да съответства на мащаба на атаките, базирани на ИИ, е да използваме същия ИИ.

Но как? Киберзащитата използва ИИ, базиран на машинно обучение, от повече от десетилетие в области като антивирусна защита, откриване на аномалии/поведение и EDR от повече от десетилетие. Това е било от полза, но няма да се справи с очаквания ръст и сложност на атаките, базирани на LLM. Трябва да увеличим мащаба на защитата си с изкуствен интелект.

Тук си заслужава да разгледаме накратко връзката между ML (машинно обучение) и LLM, защото въпреки че последният предлага по-голям потенциал, той на практика е само специфично приложение или вид ML. Макар че това в никакъв случай не е научно разграничение, ML осигурява предимно двоични решения (отговори „да/не“) и изисква сравнително ниска изчислителна мощност, която може да бъде осигурена вътрешно, докато LLM осигурява аналогови (разговорни) решения и изисква огромни количества изчислителна мощност, която обикновено трябва да бъде осигурена чрез облак.

В резултат на това ML може да открие потенциален проблем, но не може лесно да обясни какъв е той, нито какво трябва да се направи по отношение на него. Оттук и нарастването на броя на сигналите и добре известната умора от сигналите, от която сега страдат екипите по сигурността.

Решението е лингвистично просто, макар и технически трудно – използвайте силата на ML, за да насочвате екипите по сигурността към правилния курс на действие за отстраняване на открития проблем.

Това е подходът, възприет от Simbian с пускането на три нови агента с изкуствен интелект, базирани на технологията LLM. Първият е SOC Agent. Той самостоятелно разследва и реагира на сигнали за сигурност и значително подобрява средното време за реакция на екипа по сигурността.

Вторият е агентът за търсене на заплахи. Използвайки способността на LLM да поглъща свободен текст и да реагира по подобен начин, той може да увеличи обема на информацията за заплахите, която може да анализира. Разузнавателните канали и многословните доклади за заплахи генерират хипотези за лов на заплахи въз основа на TTP на даден участник. „Той блокира, върти и издирва в цялата среда, като осигурява цялостна защита за разлика от традиционните SIEM и XDR, които са ограничени до съхраняваните от тях логове“, твърди Simbian.

Третият е GRC Agent, който използва разговорните възможности на LLM, за да отговаря в области като въпросници за сигурност на клиенти и анализи на риска на веригата за доставки от трети страни. Резултатът повишава точността и драстично намалява необходимото време (Simbian предполага, че задачи, които обикновено отнемат повече от три дни, могат да бъдат изпълнени за по-малко от час).

Една от опасностите при директното използване на стоков LLM (ChatGPT, Gemini, Llama и др.) е възможността за изтичане на вътрешни данни. Съоснователят и главен изпълнителен директор на Simbian, Амбуж Кумар, обяснява как работят неговите агенти и как се избягва този проблем. Резултатът е TrustedLLM на Simbian.

„Започваме с ядрото на LLM, но след това работим върху него, като прецизираме контекстното обучение, създадено за сигурност, за да предоставим нашия собствен TrustedLLM; самият той е създаден с една-единствена цел – да подпомага задачите по сигурността.“ Той оприличи процеса на ученик, който преминава от гимназията в университета, където всички глупави уроци се отменят и се заменят със сериозни. „Започваме със стоковия LLM и добавяме много знания и най-добри практики в областта на сигурността. Добавяме защитна стена с изкуствен интелект, така че всичко, което нашият TrustedLLM вижда извън домейна, и всичко, което генерира, но може да бъде видяно извън домейна, е безопасно. И след това добавяме нашите проверки за халюцинации, за да можем да видим дали не е глупав и дали не халюцинира. Комбинацията от всичко това наричаме TrustedLLM.“

 

TrustedLLM не прави излишни съществуващите инвестиции в ML. Кумар обясни причините и предимствата на това. „Първите LLM бяха слаби в математиката“, каза той. „Те се опитваха да генерират математически резултат от неща, които бяха събрали от интернет, което можеше да е погрешно. Сега те просто разпознават заявката като математическа и се позовават на калкулатор, за да предоставят правилния резултат.“

TrustedLLM прави същото със съществуващите инструменти за сигурност на домейна. „Той ще използва CrowdStrike, ще използва Palo Alto, ще използва Cisco – ще използва всички инструменти за сигурност и всички традиционни инструменти за машинно обучение, които са му на разположение.“ Точно както стоковите LLM подобряват способността си да правят математика, като използват калкулатор, така и LLM на Simbian подобрява функционалността си в областта на сигурността, като използва вече наличните данни.

Нашите агенти с изкуствен интелект, казва фирмата, „помагат на предприятията да извлекат повече от тези инструменти, като свързват точките и автоматизират операциите по сигурността на последната миля“.

Simbian излезе от невидимия свят преди шест месеца с начално финансиране от 10 млн. долара. Тези AI Agents са първият плод на нейната цел да изгради автономна платформа за сигурност, базирана на изкуствен интелект.

Източник: По материали от Интернет

Подобни публикации

3 ноември 2024

Използван е бъг RCE в Microsoft SharePoint за п...

Наскоро разкритата уязвимост на Microsoft SharePoint за отдалечено ...
3 ноември 2024

Обходен път поправя замръзване при копиране на...

Microsoft разследва известен проблем, който засяга клиентите на Mic...
3 ноември 2024

Рансъмуерът Cactus удря HACLA

Жилищната администрация на град Лос Анджелис (HACLA), един от най-г...
3 ноември 2024

Пазарът на труда в киберсигурността стагнира

Проучването на ISC2 за работната сила в областта на киберсигурностт...
2 ноември 2024

Новото разширение за Chrome ChatGPT Search прил...

Новото разширение за Chrome на OpenAI „ChatGPT search“ не прилича н...
2 ноември 2024

Потребителите на Azure Virtual Desktop с пробле...

Microsoft предупреди клиентите, че може да се появят до 30 минути ч...
1 ноември 2024

САЩ и Израел описват методите на иранските хакери

Тази седмица Съединените щати и Израел публикуваха консултативен до...
1 ноември 2024

Русия наложи космическа глоба на Google

Говорителят на Кремъл, Дмитрий Песков,  признава, че „дори не може ...
1 ноември 2024

Умножаване на крайните точки: Увеличаване на уя...

Неотдавна милиони автомобили Kia бяха засегнати от уязвимост, която...
Бъдете социални
Още по темата
02/11/2024

Новото разширение за Chrome...

Новото разширение за Chrome на OpenAI...
31/10/2024

Проектиране на инвестиционн...

CISO трябва да се опитат да...
30/10/2024

Високият потенциал на нецен...

Версия 2.5 на WhiteRabbitNeo е проектирана...
Последно добавени
03/11/2024

Използван е бъг RCE в Micro...

Наскоро разкритата уязвимост на Microsoft SharePoint...
03/11/2024

Обходен път поправя замръз...

Microsoft разследва известен проблем, който засяга...
03/11/2024

Рансъмуерът Cactus удря HACLA

Жилищната администрация на град Лос Анджелис...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!