Облачната платформа Northflank предупреди клиентите си да приемат, че съхраняваните в нея променливи на средата и тайни са били разкрити. Инцидентът е довел до неоторизирано използване на ИИ API ключове. Случаят е част от поредица атаки срещу платформи за разработка на ИИ приложения, наблюдавани през октомври.

Northflank съобщи за инцидент със сигурността на 30 октомври, след като получи предупреждение от компанията за облачна сигурност Wiz. Платформата призова клиентите си да приемат, че променливите на средата им са били декриптирани и съдържащите се в тях тайни – откраднати.

Тези променливи обикновено съхраняват чувствителна информация за работата на приложенията: пароли за бази данни, идентификационни данни за облачни услуги, токени за удостоверяване и API ключове. При компрометиране те могат да осигурят достъп и до свързани външни услуги.

Неоторизирано използване на ИИ API ключове

Northflank потвърди, че няколко клиенти са съобщили за неоторизирано използване на предоставени от тях ИИ API ключове. Компанията настоя потребителите незабавно да сменят всички тайни, съхранявани в платформата.

Препоръката включва и проверка на отчетите за използване и фактуриране при доставчиците на ИИ услуги. Неочаквани заявки или разходи трябва да бъдат докладвани на Northflank и съответния доставчик.

Рискът не се изчерпва с достъпа до данни. Откраднат API ключ може да бъде използван за генериране на значителни разходи за сметка на неговия собственик, достъп до платени модели или препродажба на чужд достъп.

Реакцията на Northflank

Според публикуваната хронология Wiz е изпратила предупреждението за пробива в 11:43 UTC на 30 октомври. Инженерите на Northflank са го прегледали минута по-късно.

Последвали са корекция на мрежовите политики и още две актуализации – в 12:50 и 13:05 UTC. Компанията е потърсила и съдействие от екипа за реагиране при инциденти на Wiz.

Като част от последващите мерки Northflank е активирала ротация на идентификационните данни за PostgreSQL, MongoDB, MySQL и Redis, както и одитни журнали за всички клиенти, включително тези с безплатни акаунти.

Платформата препоръчва смяна на всички тайни в работните натоварвания, групите с тайни и глобалните хранилища, проверка на одитните журнали и изключване на публичния достъп до добавки, когато е активиран.

Засега Northflank не е разкрила как нападателите са получили достъп до системите ѝ, колко клиенти са засегнати и дали са били компрометирани други идентификационни данни освен съобщените ИИ API ключове. Компанията не е отговорила и на въпросите на BleepingComputer за мащаба на инцидента.

„Черен октомври“ за платформите за разработка на ИИ

Инцидентът е част от по-широка поредица от компрометирания на платформи за разработка на ИИ приложения. В доклада си „Black October for AI Developer Platforms“ Wiz посочва най-малко девет инцидента през октомври, сред които случаи, свързани с Northflank, Railway, OpenCode, Warp и Lightning AI.

При инцидента с Railway също е имало риск от разкриване на декриптирани променливи на клиентски среди. OpenCode съобщи за изтичане на ИИ API ключове, а при Warp са били изложени журнали на ИИ агенти и телеметрични данни за потребители.

Wiz отбелязва, че в някои от случаите нападателите целенасочено са търсили идентификационни данни за ИИ услуги, съхранявани в променливи на средата. Изследователите не са потвърдили, че всички девет инцидента са дело на една и съща група.

LLMJacking превръща откраднатите ключове във финансов риск

Един от начините за злоупотреба с компрометирани идентификационни данни е т.нар. LLMJacking. При този модел нападателите използват чужди API ключове, за да изпращат заявки към езикови модели за сметка на организацията, която притежава достъпа. Полученият капацитет може да бъде използван за собствени операции или препродаван.

Wiz описва два разследвани случая, при които компрометирани корпоративни идентификационни данни са използвани за приблизително 2,5 милиона заявки към Amazon Bedrock. Генерираните разходи за ИИ услуги са достигнали около 100 000 долара.

Изследователите са открили и инфраструктура, свързана с услуги за препродажба на достъп до ИИ модели. Те обаче не са установили пряка връзка между тези операции и първоначалните пробиви или мащабните злоупотреби.

Рискът се простира отвъд една платформа

Случаят с Northflank показва как компрометирането на среда за разработка може да засегне множество клиенти и свързани с тях услуги. Тайните в облачните платформи често осигуряват достъп до бази данни, инфраструктура и платени ИИ ресурси. Затова пробивът при доставчик може да има последици далеч извън неговата собствена среда.

Злоупотребата с откраднати ИИ ключове може да се превърне в пряк финансов инцидент дори без доказано източване на клиентски бази данни. Разходите за милиони заявки могат да бъдат натрупани бързо, а откриването им зависи от навременното наблюдение на потреблението.