Компанията с нестопанска цел за технологии и научноизследователска и развойна дейност MITRE въведе нов механизъм, който позволява на организациите да споделят информация за реални инциденти, свързани с изкуствен интелект.
Оформена в сътрудничество с над 15 компании, новата инициатива за споделяне на инциденти с изкуствен интелект има за цел да повиши знанията на общността за заплахите и защитите, включващи системи с изкуствен интелект.
Стартирала като част от рамката ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) на MITRE, инициативата позволява на доверени участници да получават и споделят защитени и анонимни данни за инциденти, включващи оперативни системи с изкуствен интелект.
Инициативата, според MITRE, ще бъде сигурно място за събиране и разпространяване на обработена и технически насочена информация за инциденти с изкуствен интелект, подобряване на колективната информираност за заплахите и засилване на защитата на системите с изкуствен интелект.
Инициативата се основава на съществуващото сътрудничество за споделяне на инциденти в общността ATLAS и разширява рамката на заплахите с нови генеративни техники за атаки, фокусирани върху ИИ, и казуси, както и с нови методи за смекчаване на атаките срещу системите с ИИ.
Моделирана по подобие на традиционния обмен на разузнавателна информация, новата инициатива използва STIX за схема на данните. Организациите могат да подават данни за инциденти чрез публичния сайт за споделяне, след което ще бъдат разгледани за членство в доверената общност на приемниците.
Сред 15-те организации, които си сътрудничат в рамките на проекта Secure AI, са AttackIQ, BlueRock, Booz Allen Hamilton, Cato Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered и Verizon Business.
За да се гарантира, че базата знания съдържа данни за най-новите демонстрирани заплахи за ИИ в дивата природа, MITRE работи с Microsoft по актуализациите на ATLAS, фокусирани върху генеративния ИИ през ноември 2023 г. През март 2023 г. те си сътрудничиха по приставката Arsenal за емулиране на атаки срещу ML системи.
„Тъй като публични и частни организации от всички размери и сектори продължават да включват ИИ в своите системи, способността за управление на потенциални инциденти е от съществено значение. Стандартизираният и бърз обмен на информация за инциденти ще позволи на цялата общност да подобри колективната защита на такива системи и да намали външните щети“, заяви вицепрезидентът на MITRE Labs Дъглас Робинс.
АБОНИРАЙТЕ СЕ ЗА НАШИЯ Е-БЮЛЕТИН И ПОЛУЧАВАЙТЕ НОВИНИ И СЪВЕТИ НА ТЕМА КИБЕРСИГУРНОСТ.
© 2022 Фондация “Киберсигурност за Всеки” с ЕИК 206932045. Всички права запазени. Политики за поверителност.
ж.к. Гео Милев бл. 117, вх.А
София 1113, България
support[@]e-security.bg
Фондация “Киберсигурност за Всеки” с ЕИК 206932045 е ЮЛНЦ в обществена полза, регистрирано в ЕС, работещо в съответствие с мисията и целите си.
Моля, имайте предвид, че всички споменати продукти и/или имена на компании са търговски марки ™ или ® на съответните им притежатели. Уебсайтът/фондацията няма никаква свързаност и/или одобрение за/от тях – тези търговски марки се използват само за образователни цели като примери. Настоящият уебсайт е онлайн информационна платформа, управлявана от доброволна фондация в обществена полза. Благодарим ви, че сте тук и за всякакви допълнителни въпроси, не се колебайте да се свържете с нас.
Мисията на Фондация “Киберсигурност за Всеки” е да допринесе за подобряване на киберсигурността, информационна сигурност и защита на системите и да повиши културата на обществото и организациите по тези и свързани с тях теми. Ние насърчаване безопасността и поверителността на потребителите, като повишаваме осведомеността, информираме за най-добрите и нови практики и помагаме на хора и организации да преодолеят съвременните предизвикателства за сигурността на мрежата и опазването на техните дигиталните активи.
На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.
Моля, проверете електронната си поща за да потвърдите.
