Конференцията на RSA представя ужасяваща картина на над милиард потребители на GenAI, които се сблъскват с иновативни престъпни тактики
Бързото и масово внедряване на генеративен изкуствен интелект увеличава рисковете за сигурността, което води до „един от най-сложните пейзажи на заплахи в историята“.
Така твърди корпоративният вицепрезидент по сигурността на Microsoft Васу Джакал по време на основната си реч на конференцията RSA в Сан Франциско тази седмица.
„Атаките, свързани с идентичността, са се увеличили 10 пъти само за година. Киберпрестъпленията са както национална държава, така и рансъмуерът, така и гигантската икономика. Ако киберпрестъпността беше икономика [или] държава, тя щеше да е третият по големина БВП в света“, каза Джакал.
Джакал обрисува мрачна картина на това, че изкуственият интелект е мощен инструмент за нападателите за „бързо и все по- бързо разпространяване на зловреден софтуер и създаване на нови варианти, за по-интелигентно разбиване на пароли с повече контекст“.
Нещо повече, тя предупреди, че лошите биха могли да злоупотребят с ИИ, за да „се възползват от това, което ни прави хора – нашето любопитство, използвайки фишинг и нови техники там“.
Шефът по сигурността подчерта атаките с имитация на глас, като отбеляза, че „само трисекундна гласова извадка може да обучи модела GenAI да звучи като всеки“. Тя също така отбеляза нововъзникващи заплахи като отравяне на моделите на ИИ, атаки с инжектиране на подкана и рискове около данните за обучение на ИИ.
Въпреки опасностите, Джаккал демонстрира оптимистичен тон относно потенциалните ползи от ИИ, ако той бъде правилно защитен – от пробиви в здравеопазването до персонализирано образование. „Представете си, че можем да използваме ИИ, за да достигнем до милиони и милиарди хора по света в селските кътчета в областта на образованието“, предположи тя.
За по-добра защита на системите с ИИ Microsoft препоръчва стратегия с три стълба, според Джакал:
„Управлението е свързано с човешката дейност. То гарантира, че поставяме етиката [и] поставяме хората на преден план и в сърцето на технологията, за да разберем как трябва да я изградим безопасно, да я внедрим безопасно и да я използваме безопасно“, заяви Джакал. „Трябва да бъдем наистина внимателни в това отношение.“
Лидерката по сигурността отправи призив към защитниците да се справят с предизвикателството на сигурността на ИИ: „Вие сте сърцето на доверието в сърцето на организацията в ИИ. Вие сте тези, които осигуряват безопасно и сигурно пространство за изследване. Вие сте „Да“ за ИИ“, каза тя.
„Приканвам ви да се присъедините към мен безстрашно, смело, държейки сигурността в сърцето, и с грижа заедно. Приканвам ви свободно да мечтаете за големи неща, за да направим света ни по-сигурен и да работим заедно, защото мисля, че това ще бъде един прекрасен свят.“
АБОНИРАЙТЕ СЕ ЗА НАШИЯ Е-БЮЛЕТИН И ПОЛУЧАВАЙТЕ НОВИНИ И СЪВЕТИ НА ТЕМА КИБЕРСИГУРНОСТ.
© 2022 Фондация “Киберсигурност за Всеки” с ЕИК 206932045. Всички права запазени. Политики за поверителност.
ж.к. Гео Милев бл. 117, вх.А
София 1113, България
support[@]e-security.bg
Фондация “Киберсигурност за Всеки” с ЕИК 206932045 е ЮЛНЦ в обществена полза, регистрирано в ЕС, работещо в съответствие с мисията и целите си.
Моля, имайте предвид, че всички споменати продукти и/или имена на компании са търговски марки ™ или ® на съответните им притежатели. Уебсайтът/фондацията няма никаква свързаност и/или одобрение за/от тях – тези търговски марки се използват само за образователни цели като примери. Настоящият уебсайт е онлайн информационна платформа, управлявана от доброволна фондация в обществена полза. Благодарим ви, че сте тук и за всякакви допълнителни въпроси, не се колебайте да се свържете с нас.
Мисията на Фондация “Киберсигурност за Всеки” е да допринесе за подобряване на киберсигурността, информационна сигурност и защита на системите и да повиши културата на обществото и организациите по тези и свързани с тях теми. Ние насърчаване безопасността и поверителността на потребителите, като повишаваме осведомеността, информираме за най-добрите и нови практики и помагаме на хора и организации да преодолеят съвременните предизвикателства за сигурността на мрежата и опазването на техните дигиталните активи.
На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.
Моля, проверете електронната си поща за да потвърдите.