Търсене
Close this search box.

Конференцията на RSA представя ужасяваща картина на над милиард потребители на GenAI, които се сблъскват с иновативни престъпни тактики

Бързото и масово внедряване на генеративен изкуствен интелект увеличава рисковете за сигурността, което води до „един от най-сложните пейзажи на заплахи в историята“.

Така твърди корпоративният вицепрезидент по сигурността на Microsoft Васу Джакал по време на основната си реч на конференцията RSA в Сан Франциско тази седмица.

„Атаките, свързани с идентичността, са се увеличили 10 пъти само за година. Киберпрестъпленията са както национална държава, така и рансъмуерът, така и гигантската икономика. Ако киберпрестъпността беше икономика [или] държава, тя щеше да е третият по големина БВП в света“, каза Джакал.

Джакал обрисува мрачна картина на това, че изкуственият интелект е мощен инструмент за нападателите за „бързо и все по- бързо разпространяване на зловреден софтуер и създаване на нови варианти, за по-интелигентно разбиване на пароли с повече контекст“.

Нещо повече, тя предупреди, че лошите  биха могли да злоупотребят с ИИ, за да „се възползват от това, което ни прави хора – нашето любопитство, използвайки фишинг и нови техники там“.

Шефът по сигурността подчерта атаките с имитация на глас, като отбеляза, че „само трисекундна гласова извадка може да обучи модела GenAI да звучи като всеки“. Тя също така отбеляза нововъзникващи заплахи като отравяне на моделите на ИИ, атаки с инжектиране на подкана и рискове около данните за обучение на ИИ.

Въпреки опасностите, Джаккал демонстрира оптимистичен тон относно потенциалните ползи от ИИ, ако той бъде правилно защитен – от пробиви в здравеопазването до персонализирано образование. „Представете си, че можем да използваме ИИ, за да достигнем до милиони и милиарди хора по света в селските кътчета в областта на образованието“, предположи тя.

За по-добра защита на системите с ИИ Microsoft препоръчва стратегия с три стълба, според Джакал:

  • Открийте всички употреби на ИИ и картографирайте рисковете
  • Защита чрез намаляване на рисковете чрез мерки като нулево доверие и контрол на данните
  • Управление на ИИ чрез политики, основани на риска, проследяване на съответствието и обучение на потребителите

„Управлението е свързано с човешката дейност. То гарантира, че поставяме етиката [и] поставяме хората на преден план и в сърцето на технологията, за да разберем как трябва да я изградим безопасно, да я внедрим безопасно и да я използваме безопасно“, заяви Джакал. „Трябва да бъдем наистина внимателни в това отношение.“

Лидерката по сигурността отправи призив към защитниците да се справят с предизвикателството на сигурността на ИИ: „Вие сте сърцето на доверието в сърцето на организацията в ИИ. Вие сте тези, които осигуряват безопасно и сигурно пространство за изследване. Вие сте „Да“ за ИИ“, каза тя.

„Приканвам ви да се присъедините към мен безстрашно, смело, държейки сигурността в сърцето, и с грижа заедно. Приканвам ви свободно да мечтаете за големи неща, за да направим света ни по-сигурен и да работим заедно, защото мисля, че това ще бъде един прекрасен свят.“

 

Източник: itpro.co.uk

Подобни публикации

14 ноември 2024

Киберпрестъпници атакуват аерокосмическия секто...

Активна от септември миналата година фишинг кампания е насочена към...
14 ноември 2024

Държавни служители на САЩ са компрометирани при...

CISA и ФБР потвърдиха, че китайски хакери са компрометирали „частни...
14 ноември 2024

Критичен бъг в EoL устройствата D-Link NAS вече...

Атакуващите вече се насочват към критична уязвимост с публично дост...
14 ноември 2024

Функция на Pixel AI вече анализира телефонни ра...

Google добавя нова функция за защита от измами с помощта на изкуств...
13 ноември 2024

Най-използваните уязвимости през 2023 г. според...

Според данни от правителствени агенции от разузнавателния алианс „П...
13 ноември 2024

Защо с 10 езика за програмиране не сте по-интер...

Нови данни от LinkedIn за най-търсените професии в платформата през...
Бъдете социални
Още по темата
12/11/2024

Борба с фалшивите новини с ...

В амбициозния стремеж да се справят...
12/11/2024

Microsoft обвини за автомат...

Microsoft най-накрая потвърди, че някои системи...
11/11/2024

Microsoft разследва проблем...

Microsoft разследва новопоявил се проблем, който...
Последно добавени
14/11/2024

Киберпрестъпници атакуват а...

Активна от септември миналата година фишинг...
14/11/2024

Държавни служители на САЩ с...

CISA и ФБР потвърдиха, че китайски...
14/11/2024

Критичен бъг в EoL устройст...

Атакуващите вече се насочват към критична...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!