Разработчикът на зловредния чатбот FraudGPT подготвя още по-сложни инструменти за борба с недоброжелатели, базирани на генеративен изкуствен интелект и технологията Bard на Google – един от тях ще използва голям езиков модел (LLM), който използва като база знания цялата тъмна мрежа.

Етичен хакер, който вече е открил друг хакерски инструмент, базиран на ИИ, WormGPT, е съобщил на изследователите, че изобретателят на FraudGPT – известен в хакерските форуми като „CanadianKingpin12“ – подготвя още злонамерени чатботове, базирани на ИИ, според SlashNext.

Според SlashNext следващите ботове, наречени DarkBART и DarkBERT, ще въоръжат престъпниците с възможности за изкуствен интелект, подобни на ChatGPT, които отиват много по-далеч от съществуващите предложения на киберпрестъпниците. В публикация в блога, публикувана на 1 август, фирмата предупреждава, че ИИ потенциално ще намали бариерата за бъдещите киберпрестъпници да разработват сложни фишинг кампании за компрометиране на бизнес електронна поща (BEC), да намират и използват уязвимости от нулев ден, да търсят слабости в критичната инфраструктура, да създават и разпространяват зловреден софтуер и много други.

„Бързият напредък от WormGPT към FraudGPT и сега към „DarkBERT“ за по-малко от месец подчертава значителното влияние на злонамерения изкуствен интелект върху киберсигурността и киберпрестъпността“, пише в публикацията си изследователят от SlashNext Даниел Кели.

DarkBART и DarkBERT: ново поколение ИИ

По отношение на функционалността DarkBART ще бъде тъмна версия на изкуствения интелект на Google BART, а хакерите заявиха, че ще се основава на голям езиков модел (LLM), известен като DarkBERT, който е създаден от южнокорейската фирма за разузнаване на данни S2W с цел реална борба с киберпрестъпността. Понастоящем той е ограничен до академични изследователи, което би направило злонамерения достъп до него забележителен.

„Участникът в заплахата … твърди, че е получил достъп до DarkBERT“, казва Кели, като добавя, че когато се е свързал с него чрез Telegram, CanadianKingpin12 е споделил видеоклип, демонстриращ, че неговата версия на DarkBERT „е преминала специализирано обучение върху огромен корпус от текстове от Dark Web“, пише Кели.

Злонамереният разработчик също така твърди, че новият му бот … може да бъде интегриран с Google Lens“, добави Кели. „Тази интеграция дава възможност за изпращане на текст, придружен от изображения.“ Това е забележително, като се има предвид, че досега предложенията, подобни на ChatGPT, са били само текстови.

Вторият противников инструмент, объркващо наречен също DarkBERT (но напълно отделен от корейския AI), ще отиде още по-далеч, като използва цялата Тъмна мрежа като свой LLM, предоставяйки на участниците в заплахите достъп до кошера на хакерския ъндърграунд за осъществяване на киберзаплахи. Той ще има и интеграция с Google Lens, твърди CanadianKingpin12.

Бързо развиващ се генеративен изкуствен интелект в тъмната мрежа

Кели отбеляза, че разработчиците на инструменти за генериращ изкуствен интелект за противници, подобно на техните по-благосклонни колеги, вероятно скоро ще предложат достъп до интерфейса за програмиране на приложения (API) на чатботовете, което ще позволи по-безпроблемна интеграция в работните процеси и кода на киберпрестъпниците и ще намали бариерите за влизане в играта.

„Подобен напредък поражда значителни опасения за потенциалните последици, тъй като случаите на използване на този тип технологии вероятно ще стават все по-сложни“, пише Кели.

Този бърз напредък означава също, че защитата срещу заплахите ще изисква проактивен подход. В допълнение към типичното обучение, предоставяно на служителите на предприятията за разпознаване на фишинг атаки, организациите трябва да осигурят и специфично за BEC обучение, за да запознаят служителите с естеството на тези атаки и ролята на изкуствения интелект, казват изследователите. Освен това предприятията трябва да засилят и мерките за проверка на имейли, за да се борят със заплахите, основани на ИИ, като добавят строг процес и маркиране на ключови думи към вече въведените мерки.

„Тъй като киберзаплахите се развиват, стратегиите за киберсигурност трябва непрекъснато да се адаптират, за да противодействат на възникващите заплахи“, пише Кели. „Проактивният и образован подход ще бъде най-силното ни оръжие срещу киберпрестъпленията, задвижвани от ИИ.“

 

Източник: DARKReading

Подобни публикации

7 февруари 2025

7 стъпки към подобряване на киберустойчивостта ...

В днешно време повечето аспекти на бизнеса са цифровизирани и е от ...
7 февруари 2025

Hападателите използват открити ключове на ASP.N...

Microsoft предупреждава, че нападателите внедряват зловреден софтуе...
7 февруари 2025

Законодателите от Камарата забраняват приложени...

Двупартийно дуо в Камарата на представителите на САЩ предлага закон...
7 февруари 2025

Zimperium откри 1 000 приложения, използвани в ...

Фирмата за мобилна сигурност Zimperium е разкрила широка злонамерен...
7 февруари 2025

Astra и Invary набираха милиони за AI-Pentesti...

Тази седмица стартиращите компании за киберсигурност Astra Security...
7 февруари 2025

Хакер, атакувал НАТО и армията на САЩ, е аресту...

Испанските власти обявиха, че е арестувано лице, заподозряно като х...
6 февруари 2025

Нигерия с успехи в киберсигурността, въпреки че...

Правителството на Нигерия предприе по-строги мерки срещу финансовит...
6 февруари 2025

Нападателите се насочват към образователния сек...

Кампания за фишинг се възползва от услугата Microsoft Active Direct...
6 февруари 2025

Руските хакери са използвали 0-Day уязвимост в ...

Руски групи за заплахи са провеждали кампании за кибершпионаж срещу...
Бъдете социални
Още по темата
07/02/2025

Законодателите от Камарата ...

Двупартийно дуо в Камарата на представителите...
06/02/2025

Футболист на "Ботев"(Пловди...

Преди два дни футболният Ботев (Пловдив)...
06/02/2025

Блокбъстъра DeepSeek е свър...

Уебсайтът на китайската компания за изкуствен...
Последно добавени
07/02/2025

7 стъпки към подобряване на...

В днешно време повечето аспекти на...
07/02/2025

Hападателите използват откр...

Microsoft предупреждава, че нападателите внедряват зловреден...
07/02/2025

Законодателите от Камарата ...

Двупартийно дуо в Камарата на представителите...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!