ИИ навлиза все по-дълбоко в производството, но увеличава риска от изтичане на чувствителни данни

Използването на ИИ в производствения сектор нараства бързо, но заедно с него се увеличават рисковете за поверителността на данните, контрола върху приложенията и киберсигурността. Според доклад на Netskope Threat Labs делът на служителите, използващи активно приложения с ИИ, е нараснал от 40% на 67% за една година, а използването на управлявани от организациите решения се е удвоило.

ИИ вече е част от ежедневните работни процеси

Докладът за ноември 2026 г. се основава на анонимизирана телеметрия от клиенти на Netskope One за периода от 1 юни 2025 г. до 31 август 2026 г.

Данните показват, че 67% от потребителите в производствения сектор вече използват активно приложения с ИИ, спрямо 40% година по-рано. Делът на организационно управляваните приложения се е увеличил от 35% на 70%, докато използването на лични ИИ акаунти е спаднало от 75% на 55%.

Microsoft Copilot е най-широко възприетото решение – използва се от 90% от организациите. Следват Claude Platform с 89% и ChatGPT със 76%.

Реалното разпространение на ИИ обаче е значително по-широко от използването на самостоятелни инструменти. 96% от служителите работят с приложения, които включват вградени функции с ИИ, а 90% взаимодействат със системи, използващи клиентски или потребителски данни за обучение на модели.

Това създава допълнителни затруднения за екипите по сигурност и съответствие, тъй като обработката на информация с ИИ невинаги се случва в приложения, които организацията може лесно да идентифицира и контролира.

Регулираните данни са най-честият проблем

Netskope отчита, че регулираните данни формират 57% от нарушенията на политиките за защита на информацията, свързани с използването на ИИ в производството. Следват паролите и ключовете за достъп с 19%, интелектуалната собственост с 16% и изходният код с 9%.

Тези резултати показват, че рискът не се ограничава до случайно споделяне на информация в публични чатботове. Чувствителни данни могат да попаднат и в лични акаунти, приложения с вградени ИИ функции или външни системи, свързани с корпоративната инфраструктура.

Организациите постепенно пренасочват служителите към управлявани от компанията решения. Въпреки това делът на потребителите, които преминават между лични и корпоративни акаунти, се е увеличил от 9% на 25%. Това подсказва, че използването на неуправлявани инструменти остава проблем.

Според Netskope един от начините за ограничаването му е по-бързо разглеждане и одобряване на заявки за нови ИИ приложения, съчетано с по-строг контрол върху отделните инстанции и акаунти.

MCP свързаността увеличава повърхността за атака

Особено бързо нараства активността около Model Context Protocol (MCP) – протокол, който позволява на ИИ приложения и агенти да взаимодействат с външни инструменти и системи.

За отчетения период броят на нечовешките идентичности, свързващи се с отдалечени MCP сървъри, се е увеличил с 490%, а събитията, свързани с MCP, са нараснали с 600%.

Това разширява въпроса за сигурността отвъд контрола върху използваните ИИ приложения. Организациите трябва да знаят с кои потребители и системи взаимодействат агентите, какви ресурси могат да достигат и какви данни имат право да обработват.

Колкото повече ИИ системи получават достъп до вътрешни приложения и корпоративна информация, толкова по-важни стават управлението на идентичностите, ограничаването на привилегиите и наблюдението на взаимодействията.

Злонамерени връзки се появяват и в резултатите на ИИ приложенията

Докладът отчита и кампании, при които нападателите използват ИИ тематиката, за да привличат корпоративни потребители към злонамерено съдържание.

Взаимодействията със злонамерени връзки, достигнали до потребителите чрез ИИ приложения, са се увеличили на вълни. През октомври 2025 г. са отчетени около 150 взаимодействия на 100 000 потребители, а през март 2026 г. стойността достига 200 на 100 000.

Netskope определя като злонамерени ИИ връзки адреси, предложени от ИИ приложение, които потребителят отваря или към които ИИ агентът изпраща заявка. Механизмът наподобява злонамерените резултати в търсачките, но каналът за достигане до жертвата е различен.

Нападателите могат да използват оптимизация за видимост в ИИ системи (AIEO), платена реклама или компрометирана легитимна инфраструктура, за да повлияят върху съдържанието, което моделите представят на потребителите.

Според доклада в производствения сектор са наложителни проверки на връзките, генерирани от ИИ приложения, по същия начин както при адреси, получени чрез търсачки или електронна поща.

Контролът трябва да обхваща приложенията, данните и ИИ агентите

Netskope препоръчва производствените организации да преразгледат мерките си за сигурност с оглед на разширяващото се използване на ИИ. Сред основните препоръки са:

  • Проверка на уеб трафика и изтеглянията – инспекция на HTTP и HTTPS трафика и файловете, за да се ограничат възможностите за проникване на зловреден софтуер.
  • Контрол върху приложенията – блокиране на инструменти, които нямат легитимно бизнес предназначение или създават непропорционален риск.
  • Предотвратяване на изтичането на данни (DLP) – откриване на чувствителна информация, включително регулирани данни, пароли, ключове, интелектуална собственост и изходен код, преди изпращането ѝ към неразрешени приложения.
  • Изолиране на браузъра – допълнителна защита при посещение на сайтове с повишен риск, включително новорегистрирани домейни.
  • Наблюдение на ИИ приложенията и API връзките – контрол върху управляваните и неуправляваните инструменти, както и върху обмена на данни между потребители, приложения и езикови модели.
  • Тестване на частните ИИ внедрявания – използване на симулации на атаки (red teaming), за да бъдат откривани уязвимости и неправилни конфигурации преди въвеждането им в продукционна среда.

Основният извод от анализа е, че управлението на ИИ вече не може да се свежда до списък с разрешени чатботове. В производствените организации технологията навлиза в ежедневния софтуер, свързва се с корпоративни системи и получава достъп до чувствителна информация. Това изисква контрол върху целия поток от данни – от потребителя и приложението до ИИ агента и външните услуги, с които той взаимодейства.

e-security.bg

Подобни

Google Project Zero съкращава сроковете за оповестяване на уязвимости заради ИИ
18.11.2026
google3_reuters
Anthropic раздели моделите Claude Mythos 5.2 и Fable 5.2 според задачите за киберсигурност
17.11.2026
Ai4DiAVrpDttefnJnUpnvh-970-80.jpg
Marlink: Мрежовата устойчивост е критична за енергийните операции
17.11.2026
image4you-electric-4198293_640
САЩ разработват ИИ инструменти за защита на енергийната инфраструктура
16.11.2026
electricity-3137843_640
NCSC въвежда схема за симулация на кибератаки срещу критични организации
16.11.2026
ncsc
SANS: 34% от промишлените оператори са преживели киберинцидент през 2026 г.
16.11.2026
sans

Споделете

Facebook
LinkedIn

Бюлетин

С нашия бюлетин ще бъдеш сред първите, които научават за нови заплахи, практични решения и добри практики. Напълно безплатно и с грижа за твоята сигурност.

Популярни

Българските торент сайтове продължават да изчезват
27.02.2026
pirate-flag-7541041_640
Изземване на Zamunda, Arena и други торент сайтове
30.01.2026
seizure
12-те най-използвани техники за разбиване на пароли
23.11.2022
password_sticky_note_shutterstock
Bitdefender пусна безплатен инструмент за проверка на телефонни номера
12.12.2025
telephoneAlamy