Киберпрестъпници използват функцията за споделяне на съдържание в ChatGPT, за да показват фалшиви страници за срив на услугата и да подмамват потребители да изтеглят зловреден софтуер, маскиран като настолното приложение на платформата.

Кампанията, получила името LLMShare, е открита от Push Security и демонстрира как легитимни функции на популярни ИИ платформи могат да бъдат превърнати в инструмент за атаки.

Как работи схемата

Нападателите използват платени реклами в Google, насочени към потребители, които търсят ChatGPT или приложение за достъп до услугата. При кликване жертвите попадат на легитимен адрес от домейна chatgpt.com чрез функцията за споделени разговори.

Вместо реален чат обаче се визуализира фалшиво съобщение за проблем с услугата:

„Изпитваме високо натоварване. Уебсайтът временно не е достъпен. Изтеглете настолното приложение, за да продължите.“

Това прави атаката значително по-убедителна, тъй като страницата се зарежда от реалния домейн на OpenAI, а не от подозрителен външен сайт.

Зловредният код се визуализира директно през ChatGPT

Изследователите установяват, че измамната страница е генерирана чрез HTML и CSS код, рендериран директно от ChatGPT посредством неговите възможности за визуализация на съдържание.

Страницата съдържа бутони като „Show code“ и „Remix with ChatGPT“, които разкриват, че съдържанието реално се генерира от специално подготвен prompt.

Това позволява на нападателите да използват напълно легитимна инфраструктура на OpenAI за доставяне на фишинг и malware съдържание.

Фалшивият „ChatGPT desktop app“

При натискане на бутона за изтегляне потребителите се пренасочват към домейн, имитиращ официален портал за сваляне на приложението на OpenAI.

Изследователите посочват, че сайтът използва cloaking техники – защитните системи и автоматизираните анализатори виждат безобиден сайт на AR/VR компания, докато реалните жертви получават malware файлове за Windows и macOS.

Анализът на Windows версията показва, че тя изпълнява множество проверки за виртуална среда и sandbox системи – стандартна техника при модерния зловреден софтуер за избягване на анализ.

AI платформите се превръщат в нов вектор за атаки

Според експертите това не е изолиран случай. През последните месеци се наблюдава ръст на злоупотребите с функции за споделяне на съдържание в ИИ платформи като ChatGPT, Claude и Grok.

Нападателите използват:

• фалшиви инсталационни инструкции;
• ClickFix атаки;
• malicious prompts;
• споделени чатове с вградени команди;
• фалшиви AI приложения и обновления.

Изследователите от Push Security съобщават и за злоупотреби с функцията Claude Artifacts на Anthropic, където са хоствани страници, подканящи жертвите да изпълняват опасни команди.

Защо атаката е особено опасна

Основният проблем е доверието. Потребителите виждат:

• легитимен домейн;
• валиден HTTPS сертификат;
• реален интерфейс на ChatGPT;
• визуално автентична страница.

Това значително намалява подозренията и увеличава вероятността за успешна инфекция.

Освен това много организации все още не третират ИИ платформите като потенциален вектор за доставка на malware, което оставя допълнителни пропуски в защитата.

Как потребителите могат да се защитят

Експертите препоръчват:

• да не се изтегля софтуер чрез реклами в търсачки;
• приложенията да се свалят само от официалните сайтове на доставчиците;
• да се използва endpoint защита и browser isolation;
• да се проверяват внимателно URL адресите;
• да не се изпълняват команди, предоставени в споделени ИИ разговори.

Случаят показва как генеративните ИИ платформи постепенно се превръщат в нова среда за социално инженерство и malware кампании, използващи доверието към утвърдени технологични брандове.