Търсене
Close this search box.

Компанията с нестопанска цел за технологии и научноизследователска и развойна дейност MITRE въведе нов механизъм, който позволява на организациите да споделят информация за реални инциденти, свързани с изкуствен интелект.

Оформена в сътрудничество с над 15 компании, новата инициатива за споделяне на инциденти с изкуствен интелект има за цел да повиши знанията на общността за заплахите и защитите, включващи системи с изкуствен интелект.

Стартирала като част от рамката ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) на MITRE, инициативата позволява на доверени участници да получават и споделят защитени и анонимни данни за инциденти, включващи оперативни системи с изкуствен интелект.

Инициативата, според MITRE, ще бъде сигурно място за събиране и разпространяване на обработена и технически насочена информация за инциденти с изкуствен интелект, подобряване на колективната информираност за заплахите и засилване на защитата на системите с изкуствен интелект.

Инициативата се основава на съществуващото сътрудничество за споделяне на инциденти в общността ATLAS и разширява рамката на заплахите с нови генеративни техники за атаки, фокусирани върху ИИ, и казуси, както и с нови методи за смекчаване на атаките срещу системите с ИИ.

Моделирана по подобие на традиционния обмен на разузнавателна информация, новата инициатива използва STIX за схема на данните. Организациите могат да подават данни за инциденти чрез публичния сайт за споделяне, след което ще бъдат разгледани за членство в доверената общност на приемниците.

Сред 15-те организации, които си сътрудничат в рамките на проекта Secure AI, са AttackIQ, BlueRock, Booz Allen Hamilton, Cato Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered и Verizon Business.

За да се гарантира, че базата знания съдържа данни за най-новите демонстрирани заплахи за ИИ в дивата природа, MITRE работи с Microsoft по актуализациите на ATLAS, фокусирани върху генеративния ИИ през ноември 2023 г. През март 2023 г. те си сътрудничиха по приставката Arsenal за емулиране на атаки срещу ML системи.

„Тъй като публични и частни организации от всички размери и сектори продължават да включват ИИ в своите системи, способността за управление на потенциални инциденти е от съществено значение. Стандартизираният и бърз обмен на информация за инциденти ще позволи на цялата общност да подобри колективната защита на такива системи и да намали външните щети“, заяви вицепрезидентът на MITRE Labs Дъглас Робинс.

Източник: По материали от Интернет

Подобни публикации

3 ноември 2024

Използван е бъг RCE в Microsoft SharePoint за п...

Наскоро разкритата уязвимост на Microsoft SharePoint за отдалечено ...
3 ноември 2024

Обходен път поправя замръзване при копиране на...

Microsoft разследва известен проблем, който засяга клиентите на Mic...
3 ноември 2024

Рансъмуерът Cactus удря HACLA

Жилищната администрация на град Лос Анджелис (HACLA), един от най-г...
3 ноември 2024

Пазарът на труда в киберсигурността стагнира

Проучването на ISC2 за работната сила в областта на киберсигурностт...
2 ноември 2024

Новото разширение за Chrome ChatGPT Search прил...

Новото разширение за Chrome на OpenAI „ChatGPT search“ не прилича н...
2 ноември 2024

Потребителите на Azure Virtual Desktop с пробле...

Microsoft предупреди клиентите, че може да се появят до 30 минути ч...
1 ноември 2024

САЩ и Израел описват методите на иранските хакери

Тази седмица Съединените щати и Израел публикуваха консултативен до...
1 ноември 2024

Русия наложи космическа глоба на Google

Говорителят на Кремъл, Дмитрий Песков,  признава, че „дори не може ...
1 ноември 2024

Умножаване на крайните точки: Увеличаване на уя...

Неотдавна милиони автомобили Kia бяха засегнати от уязвимост, която...
Бъдете социални
Още по темата
02/11/2024

Новото разширение за Chrome...

Новото разширение за Chrome на OpenAI...
30/10/2024

Високият потенциал на нецен...

Версия 2.5 на WhiteRabbitNeo е проектирана...
29/10/2024

Защитите на ИИ падат с шест...

Злонамерените инструкции, кодирани в шестнадесетичен формат,...
Последно добавени
03/11/2024

Използван е бъг RCE в Micro...

Наскоро разкритата уязвимост на Microsoft SharePoint...
03/11/2024

Обходен път поправя замръз...

Microsoft разследва известен проблем, който засяга...
03/11/2024

Рансъмуерът Cactus удря HACLA

Жилищната администрация на град Лос Анджелис...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!