Държавно свързани групи от Китай, Иран, Северна Корея и Русия използват модела Gemini на Google, за да подпомагат пълния цикъл на кибератаки – от разузнаване и социално инженерство до разработване на C2 инфраструктура и ексфилтрация на данни. Това показва нов доклад на Google Threat Intelligence Group (GTIG), който очертава нарастващата роля на ИИ в модерните злонамерени операции.

ИИ като мултипликатор на заплахата

Според GTIG, групи като APT31 и Temp.HEX (Китай), APT42 (Иран), UNC2970 (Северна Корея), както и руски оператори, са използвали Gemini за:

• профилиране на цели и OSINT анализ

• генериране на фишинг примамки

• превод и адаптиране на съдържание

• писане и дебъгване на код

• тестване на уязвимости

• разработване на C2 канали

• подпомагане на ексфилтрация на данни

В един от анализираните случаи китайски колектив е изградил „експертна киберсигурност“ персона, за да инструктира модела да автоматизира анализ на уязвимости в рамките на измислен сценарий. Целта е била изследване на Remote Code Execution (RCE), техники за заобикаляне на WAF защити и резултати от SQL injection тестове срещу конкретни американски цели.

Други оператори са използвали Gemini за оптимизиране на зловреден код, технически консултации и изследване на експлоатационни техники.

Социално инженерство и AI-ускорена разработка на малуер

Иранската група APT42 е използвала LLM модела на Google като платформа за ускорена разработка на персонализирани злонамерени инструменти – включително генериране на код, дебъгване и анализ на експлоити.

GTIG отчита и злоупотреба с ИИ при надграждане на съществуващи малуер фамилии като:

• CoinBait – фишинг комплект, маскиран като криптоборса

• HonestCue – proof-of-concept малуер рамка

HonestCue – автоматизирана втора фаза на атака

HonestCue, наблюдаван в края на 2025 г., използва Gemini API за генериране на C# код за вторичен малуер, който след това се компилира и изпълнява директно в паметта. Това позволява динамично създаване на зловреден товар, затруднявайки сигнатурното откриване.

CoinBait – ИИ подпомогнат фишинг

CoinBait представлява React SPA-базиран фишинг комплект за кражба на идентификационни данни. Анализът на изходния код показва следи от използване на Lovable AI платформа – включително артефакти като Lovable Supabase client и lovable.app.

Любопитен индикатор за LLM участие са лог съобщения, започващи с „Analytics:“, които биха могли да помогнат на защитниците да проследяват процеси по ексфилтрация.

AI в ClickFix кампании срещу macOS

Киберпрестъпници използват генеративни ИИ услуги в ClickFix кампании, насочени към разпространение на AMOS info-stealer за macOS. Жертвите са примамвани чрез злонамерени реклами в резултатите от търсене, свързани с отстраняване на технически проблеми, след което биват инструктирани да изпълнят зловредни команди.

Този модел комбинира социално инженерство с автоматизирано генериране на съдържание, което увеличава мащаба и персонализацията на атаките.

Опити за извличане и клониране на ИИ модели

Докладът разглежда и сериозен проблем – model extraction и knowledge distillation атаки срещу Gemini.

В един мащабен случай моделът е бил подложен на над 100 000 заявки, целящи възпроизвеждане на логиката му чрез систематично задавани въпроси на различни езици.

Техниката „knowledge distillation“ позволява прехвърляне на знания от по-усъвършенстван модел към нов, по-евтин за обучение модел. Това представлява:

• интелектуална кражба

• сериозна конкурентна заплаха

• риск за бизнес модела AI-as-a-service

Google подчертава, че макар тези атаки да не засягат директно крайните потребители или техните данни, те подкопават търговската устойчивост на ИИ услугите.

Реакция на Google

Компанията е:

• деактивирала акаунти и инфраструктура, свързани със злоупотреби

• внедрила допълнителни защитни механизми в класификаторите на Gemini

• засилила мониторинга за злонамерени заявки

Google заявява, че проектира ИИ системите си със „стабилни мерки за сигурност и строги предпазни механизми“, като провежда редовни тестове за подобряване на защитата.

Аналитичен извод

Докладът на GTIG потвърждава тенденция, която индустрията очакваше – ИИ не създава нови видове атаки, но значително ускорява, мащабира и оптимизира съществуващите техники.

Към момента няма „революционен пробив“ в малуер разработката чрез ИИ, но интеграцията на генеративни модели в атакуващите инструментариуми става систематична.

За организациите това означава:

• по-бързо еволюиращи фишинг кампании

• по-динамично генериран малуер

• по-сложни социално-инженерни сценарии

• необходимост от поведенчески и AI-базирани защитни механизми

ИИ вече е част от офанзивния арсенал – и ще продължи да бъде.