Стартъпът за киберсигурност Simbian пусна на пазара три AI агента LLM, които работят като виртуални служители, но със скоростта, издръжливостта и точността на роботи.
Изкуственият интелект с голям езиков модел (LLM), типичен за ChatGPT на OpenAI, направи революция и може би демократизира използването на ИИ. Въпреки че сега ИИ предлага много предимства на всички, тези предимства се основават предимно на по-доброто и по-бързото извършване на дейностите.
Киберпрестъпниците винаги възприемат варианти, които правят нещата по-добре и по-бързо. От пускането на ChatGPT през 2022 г. насам очакваме LLM да увеличи скоростта и мащаба на престъпните кибератаки; и това вече започна. Знаем, че единственият начин да мащабираме защитата си, за да съответства на мащаба на атаките, базирани на ИИ, е да използваме същия ИИ.
Но как? Киберзащитата използва ИИ, базиран на машинно обучение, от повече от десетилетие в области като антивирусна защита, откриване на аномалии/поведение и EDR от повече от десетилетие. Това е било от полза, но няма да се справи с очаквания ръст и сложност на атаките, базирани на LLM. Трябва да увеличим мащаба на защитата си с изкуствен интелект.
Тук си заслужава да разгледаме накратко връзката между ML (машинно обучение) и LLM, защото въпреки че последният предлага по-голям потенциал, той на практика е само специфично приложение или вид ML. Макар че това в никакъв случай не е научно разграничение, ML осигурява предимно двоични решения (отговори „да/не“) и изисква сравнително ниска изчислителна мощност, която може да бъде осигурена вътрешно, докато LLM осигурява аналогови (разговорни) решения и изисква огромни количества изчислителна мощност, която обикновено трябва да бъде осигурена чрез облак.
В резултат на това ML може да открие потенциален проблем, но не може лесно да обясни какъв е той, нито какво трябва да се направи по отношение на него. Оттук и нарастването на броя на сигналите и добре известната умора от сигналите, от която сега страдат екипите по сигурността.
Решението е лингвистично просто, макар и технически трудно – използвайте силата на ML, за да насочвате екипите по сигурността към правилния курс на действие за отстраняване на открития проблем.
Това е подходът, възприет от Simbian с пускането на три нови агента с изкуствен интелект, базирани на технологията LLM. Първият е SOC Agent. Той самостоятелно разследва и реагира на сигнали за сигурност и значително подобрява средното време за реакция на екипа по сигурността.
Вторият е агентът за търсене на заплахи. Използвайки способността на LLM да поглъща свободен текст и да реагира по подобен начин, той може да увеличи обема на информацията за заплахите, която може да анализира. Разузнавателните канали и многословните доклади за заплахи генерират хипотези за лов на заплахи въз основа на TTP на даден участник. „Той блокира, върти и издирва в цялата среда, като осигурява цялостна защита за разлика от традиционните SIEM и XDR, които са ограничени до съхраняваните от тях логове“, твърди Simbian.
Третият е GRC Agent, който използва разговорните възможности на LLM, за да отговаря в области като въпросници за сигурност на клиенти и анализи на риска на веригата за доставки от трети страни. Резултатът повишава точността и драстично намалява необходимото време (Simbian предполага, че задачи, които обикновено отнемат повече от три дни, могат да бъдат изпълнени за по-малко от час).
Една от опасностите при директното използване на стоков LLM (ChatGPT, Gemini, Llama и др.) е възможността за изтичане на вътрешни данни. Съоснователят и главен изпълнителен директор на Simbian, Амбуж Кумар, обяснява как работят неговите агенти и как се избягва този проблем. Резултатът е TrustedLLM на Simbian.
„Започваме с ядрото на LLM, но след това работим върху него, като прецизираме контекстното обучение, създадено за сигурност, за да предоставим нашия собствен TrustedLLM; самият той е създаден с една-единствена цел – да подпомага задачите по сигурността.“ Той оприличи процеса на ученик, който преминава от гимназията в университета, където всички глупави уроци се отменят и се заменят със сериозни. „Започваме със стоковия LLM и добавяме много знания и най-добри практики в областта на сигурността. Добавяме защитна стена с изкуствен интелект, така че всичко, което нашият TrustedLLM вижда извън домейна, и всичко, което генерира, но може да бъде видяно извън домейна, е безопасно. И след това добавяме нашите проверки за халюцинации, за да можем да видим дали не е глупав и дали не халюцинира. Комбинацията от всичко това наричаме TrustedLLM.“
TrustedLLM не прави излишни съществуващите инвестиции в ML. Кумар обясни причините и предимствата на това. „Първите LLM бяха слаби в математиката“, каза той. „Те се опитваха да генерират математически резултат от неща, които бяха събрали от интернет, което можеше да е погрешно. Сега те просто разпознават заявката като математическа и се позовават на калкулатор, за да предоставят правилния резултат.“
TrustedLLM прави същото със съществуващите инструменти за сигурност на домейна. „Той ще използва CrowdStrike, ще използва Palo Alto, ще използва Cisco – ще използва всички инструменти за сигурност и всички традиционни инструменти за машинно обучение, които са му на разположение.“ Точно както стоковите LLM подобряват способността си да правят математика, като използват калкулатор, така и LLM на Simbian подобрява функционалността си в областта на сигурността, като използва вече наличните данни.
Нашите агенти с изкуствен интелект, казва фирмата, „помагат на предприятията да извлекат повече от тези инструменти, като свързват точките и автоматизират операциите по сигурността на последната миля“.
Simbian излезе от невидимия свят преди шест месеца с начално финансиране от 10 млн. долара. Тези AI Agents са първият плод на нейната цел да изгради автономна платформа за сигурност, базирана на изкуствен интелект.
АБОНИРАЙТЕ СЕ ЗА НАШИЯ Е-БЮЛЕТИН И ПОЛУЧАВАЙТЕ НОВИНИ И СЪВЕТИ НА ТЕМА КИБЕРСИГУРНОСТ.
© 2022 Фондация “Киберсигурност за Всеки” с ЕИК 206932045. Всички права запазени. Политики за поверителност.
ж.к. Гео Милев бл. 117, вх.А
София 1113, България
support[@]e-security.bg
Фондация “Киберсигурност за Всеки” с ЕИК 206932045 е ЮЛНЦ в обществена полза, регистрирано в ЕС, работещо в съответствие с мисията и целите си.
Моля, имайте предвид, че всички споменати продукти и/или имена на компании са търговски марки ™ или ® на съответните им притежатели. Уебсайтът/фондацията няма никаква свързаност и/или одобрение за/от тях – тези търговски марки се използват само за образователни цели като примери. Настоящият уебсайт е онлайн информационна платформа, управлявана от доброволна фондация в обществена полза. Благодарим ви, че сте тук и за всякакви допълнителни въпроси, не се колебайте да се свържете с нас.
Мисията на Фондация “Киберсигурност за Всеки” е да допринесе за подобряване на киберсигурността, информационна сигурност и защита на системите и да повиши културата на обществото и организациите по тези и свързани с тях теми. Ние насърчаване безопасността и поверителността на потребителите, като повишаваме осведомеността, информираме за най-добрите и нови практики и помагаме на хора и организации да преодолеят съвременните предизвикателства за сигурността на мрежата и опазването на техните дигиталните активи.
На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.
Моля, проверете електронната си поща за да потвърдите.