Разработчикът на зловредния чатбот FraudGPT подготвя още по-сложни инструменти за борба с недоброжелатели, базирани на генеративен изкуствен интелект и технологията Bard на Google – един от тях ще използва голям езиков модел (LLM), който използва като база знания цялата тъмна мрежа.
Етичен хакер, който вече е открил друг хакерски инструмент, базиран на ИИ, WormGPT, е съобщил на изследователите, че изобретателят на FraudGPT – известен в хакерските форуми като „CanadianKingpin12“ – подготвя още злонамерени чатботове, базирани на ИИ, според SlashNext.
Според SlashNext следващите ботове, наречени DarkBART и DarkBERT, ще въоръжат престъпниците с възможности за изкуствен интелект, подобни на ChatGPT, които отиват много по-далеч от съществуващите предложения на киберпрестъпниците. В публикация в блога, публикувана на 1 август, фирмата предупреждава, че ИИ потенциално ще намали бариерата за бъдещите киберпрестъпници да разработват сложни фишинг кампании за компрометиране на бизнес електронна поща (BEC), да намират и използват уязвимости от нулев ден, да търсят слабости в критичната инфраструктура, да създават и разпространяват зловреден софтуер и много други.
„Бързият напредък от WormGPT към FraudGPT и сега към „DarkBERT“ за по-малко от месец подчертава значителното влияние на злонамерения изкуствен интелект върху киберсигурността и киберпрестъпността“, пише в публикацията си изследователят от SlashNext Даниел Кели.
По отношение на функционалността DarkBART ще бъде тъмна версия на изкуствения интелект на Google BART, а хакерите заявиха, че ще се основава на голям езиков модел (LLM), известен като DarkBERT, който е създаден от южнокорейската фирма за разузнаване на данни S2W с цел реална борба с киберпрестъпността. Понастоящем той е ограничен до академични изследователи, което би направило злонамерения достъп до него забележителен.
„Участникът в заплахата … твърди, че е получил достъп до DarkBERT“, казва Кели, като добавя, че когато се е свързал с него чрез Telegram, CanadianKingpin12 е споделил видеоклип, демонстриращ, че неговата версия на DarkBERT „е преминала специализирано обучение върху огромен корпус от текстове от Dark Web“, пише Кели.
Злонамереният разработчик също така твърди, че новият му бот … може да бъде интегриран с Google Lens“, добави Кели. „Тази интеграция дава възможност за изпращане на текст, придружен от изображения.“ Това е забележително, като се има предвид, че досега предложенията, подобни на ChatGPT, са били само текстови.
Вторият противников инструмент, объркващо наречен също DarkBERT (но напълно отделен от корейския AI), ще отиде още по-далеч, като използва цялата Тъмна мрежа като свой LLM, предоставяйки на участниците в заплахите достъп до кошера на хакерския ъндърграунд за осъществяване на киберзаплахи. Той ще има и интеграция с Google Lens, твърди CanadianKingpin12.
Кели отбеляза, че разработчиците на инструменти за генериращ изкуствен интелект за противници, подобно на техните по-благосклонни колеги, вероятно скоро ще предложат достъп до интерфейса за програмиране на приложения (API) на чатботовете, което ще позволи по-безпроблемна интеграция в работните процеси и кода на киберпрестъпниците и ще намали бариерите за влизане в играта.
„Подобен напредък поражда значителни опасения за потенциалните последици, тъй като случаите на използване на този тип технологии вероятно ще стават все по-сложни“, пише Кели.
Този бърз напредък означава също, че защитата срещу заплахите ще изисква проактивен подход. В допълнение към типичното обучение, предоставяно на служителите на предприятията за разпознаване на фишинг атаки, организациите трябва да осигурят и специфично за BEC обучение, за да запознаят служителите с естеството на тези атаки и ролята на изкуствения интелект, казват изследователите. Освен това предприятията трябва да засилят и мерките за проверка на имейли, за да се борят със заплахите, основани на ИИ, като добавят строг процес и маркиране на ключови думи към вече въведените мерки.
„Тъй като киберзаплахите се развиват, стратегиите за киберсигурност трябва непрекъснато да се адаптират, за да противодействат на възникващите заплахи“, пише Кели. „Проактивният и образован подход ще бъде най-силното ни оръжие срещу киберпрестъпленията, задвижвани от ИИ.“
АБОНИРАЙТЕ СЕ ЗА НАШИЯ Е-БЮЛЕТИН И ПОЛУЧАВАЙТЕ НОВИНИ И СЪВЕТИ НА ТЕМА КИБЕРСИГУРНОСТ.
© 2022 Фондация “Киберсигурност за Всеки” с ЕИК 206932045. Всички права запазени. Политики за поверителност.
ж.к. Гео Милев бл. 117, вх.А
София 1113, България
support[@]e-security.bg
Фондация “Киберсигурност за Всеки” с ЕИК 206932045 е ЮЛНЦ в обществена полза, регистрирано в ЕС, работещо в съответствие с мисията и целите си.
Моля, имайте предвид, че всички споменати продукти и/или имена на компании са търговски марки ™ или ® на съответните им притежатели. Уебсайтът/фондацията няма никаква свързаност и/или одобрение за/от тях – тези търговски марки се използват само за образователни цели като примери. Настоящият уебсайт е онлайн информационна платформа, управлявана от доброволна фондация в обществена полза. Благодарим ви, че сте тук и за всякакви допълнителни въпроси, не се колебайте да се свържете с нас.
Мисията на Фондация “Киберсигурност за Всеки” е да допринесе за подобряване на киберсигурността, информационна сигурност и защита на системите и да повиши културата на обществото и организациите по тези и свързани с тях теми. Ние насърчаване безопасността и поверителността на потребителите, като повишаваме осведомеността, информираме за най-добрите и нови практики и помагаме на хора и организации да преодолеят съвременните предизвикателства за сигурността на мрежата и опазването на техните дигиталните активи.
На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.
Моля, проверете електронната си поща за да потвърдите.