Търсене
Close this search box.

Шефката по сигурността на Microsoft предупреждава за „безпрецедентна“ несигурност на ИИ

Конференцията на RSA представя ужасяваща картина на над милиард потребители на GenAI, които се сблъскват с иновативни престъпни тактики

Бързото и масово внедряване на генеративен изкуствен интелект увеличава рисковете за сигурността, което води до „един от най-сложните пейзажи на заплахи в историята“.

Така твърди корпоративният вицепрезидент по сигурността на Microsoft Васу Джакал по време на основната си реч на конференцията RSA в Сан Франциско тази седмица.

„Атаките, свързани с идентичността, са се увеличили 10 пъти само за година. Киберпрестъпленията са както национална държава, така и рансъмуерът, така и гигантската икономика. Ако киберпрестъпността беше икономика [или] държава, тя щеше да е третият по големина БВП в света“, каза Джакал.

Джакал обрисува мрачна картина на това, че изкуственият интелект е мощен инструмент за нападателите за „бързо и все по- бързо разпространяване на зловреден софтуер и създаване на нови варианти, за по-интелигентно разбиване на пароли с повече контекст“.

Нещо повече, тя предупреди, че лошите  биха могли да злоупотребят с ИИ, за да „се възползват от това, което ни прави хора – нашето любопитство, използвайки фишинг и нови техники там“.

Шефът по сигурността подчерта атаките с имитация на глас, като отбеляза, че „само трисекундна гласова извадка може да обучи модела GenAI да звучи като всеки“. Тя също така отбеляза нововъзникващи заплахи като отравяне на моделите на ИИ, атаки с инжектиране на подкана и рискове около данните за обучение на ИИ.

Въпреки опасностите, Джаккал демонстрира оптимистичен тон относно потенциалните ползи от ИИ, ако той бъде правилно защитен – от пробиви в здравеопазването до персонализирано образование. „Представете си, че можем да използваме ИИ, за да достигнем до милиони и милиарди хора по света в селските кътчета в областта на образованието“, предположи тя.

За по-добра защита на системите с ИИ Microsoft препоръчва стратегия с три стълба, според Джакал:

  • Открийте всички употреби на ИИ и картографирайте рисковете
  • Защита чрез намаляване на рисковете чрез мерки като нулево доверие и контрол на данните
  • Управление на ИИ чрез политики, основани на риска, проследяване на съответствието и обучение на потребителите

„Управлението е свързано с човешката дейност. То гарантира, че поставяме етиката [и] поставяме хората на преден план и в сърцето на технологията, за да разберем как трябва да я изградим безопасно, да я внедрим безопасно и да я използваме безопасно“, заяви Джакал. „Трябва да бъдем наистина внимателни в това отношение.“

Лидерката по сигурността отправи призив към защитниците да се справят с предизвикателството на сигурността на ИИ: „Вие сте сърцето на доверието в сърцето на организацията в ИИ. Вие сте тези, които осигуряват безопасно и сигурно пространство за изследване. Вие сте „Да“ за ИИ“, каза тя.

„Приканвам ви да се присъедините към мен безстрашно, смело, държейки сигурността в сърцето, и с грижа заедно. Приканвам ви свободно да мечтаете за големи неща, за да направим света ни по-сигурен и да работим заедно, защото мисля, че това ще бъде един прекрасен свят.“

 

Източник: itpro.co.uk

Подобни публикации

Време е да се справим с проблема със сигурностт...

Софтуерните компании от десетилетия се основават на отворен код. Се...
15 юни 2024

Чък Робинс: "Нашата работа е да не се проваляме"

Бившият главен изпълнителен директор на Splunk Гари Стил се ангажир...

Наследените технологии пречат на дигиталната тр...

Според ново проучване остарелите наследени технологии пречат на орг...
15 юни 2024

Европол започва лов на отделни киберпрестъпници

След впечатляващото разбиване на ботнет само преди няколко дни межд...
14 юни 2024

Засилени киберзаплахи пред Евро 2024

Евро 2024  в Германия започва след няколко часа и ще завърши след м...

Ню Йорк Таймс предупреждава фрийлансърите си за...

Ню Йорк Таймс уведоми неразкрит брой сътрудници, че част от чувстви...
Бъдете социални
Още по темата
12/06/2024

Mistral увеличи оценката с...

Френският (и европейски) любимец на GenAI...
11/06/2024

Google премахва кампании за...

Google разкри, че е премахнала 1320...
09/06/2024

Редмънд се поддаде на натис...

Microsoft се поддаде на обществения натиск...
Последно добавени
15/06/2024

Време е да се справим с про...

Софтуерните компании от десетилетия се основават...
15/06/2024

Чък Робинс: "Нашата работа ...

Бившият главен изпълнителен директор на Splunk...
15/06/2024

Наследените технологии преч...

Според ново проучване остарелите наследени технологии...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!