Хакери се представят за легитимни компании в OpenAI, за да примамят служители да споделят чувствителни данни
Експерти от Push Security разкриха нова кампания, наречена Poisoned Tenant, при която нападатели създават фалшиви организации в OpenAI ChatGPT, представящи се за реални компании, и изпращат официално изглеждащи покани до техните служители.
Особеното при атаката е, че поканите се изпращат директно от инфраструктурата на OpenAI, което ги прави значително по-достоверни и увеличава вероятността да преминат успешно през системите за защита на електронната поща.
Легитимна покана, но фалшива организация
Разследването започва, след като няколко служители на Push Security получават покани да се присъединят към организация с име „Push Security Inc.“. Имейлите са изпратени от официалния адрес на OpenAI noreply@tm.openai.com, преминават всички проверки за автентичност и визуално не се различават от стандартните покани за присъединяване към корпоративно ChatGPT пространство.
Единственият предупредителен знак е малък текст, който показва, че домейнът на изпращача не съвпада с този на компанията – детайл, който лесно може да остане незабелязан.
Целта е кражба на чувствителна фирмена информация
След приемане на поканата изследовател от Push Security установява, че организацията е създадена с Gmail акаунт, който се представя за изпълнителния директор на компанията. Любопитно е, че всички поканени служители автоматично получават права на Owner, а към акаунта вече е добавена банкова карта, което създава допълнително усещане за легитимност.
Въпреки че организацията не съдържа готови чатове или проекти, експертите смятат, че истинската цел е служителите да започнат да използват пространството като официална фирмена среда.
Така нападателите биха могли да получат достъп до информация, въведена в чатове с ИИ, включително:
- изходен програмен код;
- вътрешни документи;
- клиентски данни;
- резултати от изследвания;
- бизнес стратегии;
- информация за сигурността.
Нов риск при корпоративното използване на ИИ
Според Push Security тази кампания е пример за нарастваща тенденция, при която престъпниците злоупотребяват с легитимните функции за покани и известия в SaaS платформите.
За разлика от традиционния фишинг, тук не се използват фалшиви домейни или имейли. Поканите идват директно от официалната инфраструктура на OpenAI, което значително затруднява тяхното разпознаване и блокиране.
Експертите препоръчват организациите да обучават служителите си да проверяват внимателно всяка неочаквана покана за присъединяване към корпоративна ИИ среда и редовно да следят членството в използваните SaaS услуги.
