Обявяването от Microsoft на новата функция Windows 11 Recall, задвижвана от изкуствен интелект, предизвика много безпокойство, като мнозина смятат, че тя е създала огромни рискове за неприкосновеността на личния живот и нов вектор за атаки, който участниците в заплахи могат да използват за кражба на данни.

Разкрита по време на събитието за изкуствен интелект в понеделник, функцията има за цел да ви помогне да си „припомните“ информация, която сте разглеждали в миналото, като я направи лесно достъпна чрез просто търсене.

Макар че в момента тя е налична само на компютри Copilot+ с ARM процесори Snapdragon X, от Microsoft твърдят, че работят с Intel и AMD, за да въведат функцията във всички устройства с Windows 11.

Функцията Recall работи, като прави скрийншот на активния ви прозорец на всеки няколко секунди, записвайки всичко, което правите в Windows, за период до три месеца по подразбиране.

Тези снимки ще бъдат анализирани от невронния процесор (NPU) на устройството и модел на изкуствен интелект, за да се извлекат данни от снимката на екрана. Данните ще бъдат записани в семантичен индекс, което ще позволи на потребителите на Windows да преглеждат историята на снимките или да търсят, използвайки заявки на човешки език.

Microsoft казва, че всички тези данни се криптират с помощта на BitLocker, свързан с потребителския акаунт в Windows, и не се споделят с други потребители на същото устройство.

Макар че това звучи забавно и интересно, то веднага породи опасения относно очевидните рискове за неприкосновеността на личния живот и дали Microsoft планира да погълне всички тези данни.

Въпреки това Microsoft казва, че Recall е проектиран така, че всички данни се записват директно на устройството на потребителя в криптиран формат, като предоставя на потребителите пълен контрол върху функцията, включително дали е активирана и на кои приложения може да прави скрийншоти.

„Recall е ключова част от това, което прави компютрите Copilot+ специални, а Microsoft вгради поверителността в дизайна на Recall от самото начало. На компютрите Copilot+, задвижвани от процесор Snapdragon® X Series, ще видите иконата Recall в лентата със задачи, след като активирате устройството си за първи път. Можете да използвате тази икона, за да отворите настройките на Recall и да направите избор за това какви снимки Recall събира и съхранява на вашето устройство. Можете да ограничите кои моментни снимки събира Recall; например можете да изберете конкретни приложения или уебсайтове, посетени в поддържан браузър, които да се филтрират от вашите моментни снимки. Освен това можете да спрете снимките при поискване от иконата Recall в системната лента, да изчистите някои или всички съхранени снимки или да изтриете всички снимки от устройството си.“ – заявяват от Microsoft.

Microsoft също така заявява, че няма да създава скрийншоти на прозорците InPrivate на Microsoft Edge (и други браузъри, базирани на Chromium) или на съдържание, защитено с DRM. Те обаче не са потвърдили дали ще се поддържат частни режими на други браузъри, като Firefox.

По време на пресконференция в понеделник Юсуф Мехди, корпоративен вицепрезидент и главен маркетинг директор за потребителите, увери журналистите, че Microsoft прилага много консервативен подход към Recall.

„Ще запазим вашия Recall индекс частен, локален и сигурен само на устройството“, каза Мехди.

„Няма да използваме никаква част от тази информация за обучение на какъвто и да е модел на изкуствен интелект и ви предоставяме пълен контрол с възможност да редактирате и изтривате всичко, което е заснето.“

Microsoft започна да споделя и повече технически подробности, като например групови политики, които могат да се използват за деактивиране на Recall в цялата компания, и как крайните потребители могат да деактивират функцията.

Експертите по киберсигурност и обикновените потребители все още са загрижени

Обещанията на Microsoft не успокоиха особено общността за киберсигурност или клиентите на компанията, а в социалните мрежи се срещат само отрицателни коментари.

И така, защо повечето експерти по киберсигурност, изследователи и анализатори са толкова притеснени от тази функция?

На първо място, големите компании имат история на използване на данните на потребителите за собствена изгода, поради което потребителите трудно могат да се доверят на Microsoft, когато казват, че няма да имат достъп до данните от Recall.

Потребителите не са сами, тъй като агенцията за защита на данните на Обединеното кралство, Службата на комисаря по информацията (ICO), също се свързва с Microsoft, за да гарантира, че данните на потребителите ще бъдат надлежно защитени и няма да бъдат използвани от компанията.

„Очакваме организациите да бъдат прозрачни с потребителите относно начина, по който се използват техните данни, и да обработват лични данни само до степента, необходима за постигане на конкретна цел. Индустрията трябва да взема предвид защитата на данните от самото начало и стриктно да оценява и намалява рисковете за правата и свободите на хората, преди да пусне продукти на пазара“, се казва в прессъобщение на ICO.

„Ние отправяме запитвания към Microsoft, за да разберем какви предпазни мерки са въведени за защита на личните данни на потребителите.“

Дори и да приемем, че Microsoft няма да има достъп до данните от Recall, този продукт все още има огромни последици за сигурността и неприкосновеността на личния живот.

Microsoft признава, че функцията не извършва модериране на съдържанието, което означава, че ще погълне всичко, което види, включително пароли в мениджъра на пароли или номера на сметките ви в банковия уебсайт.

Ако пък сте в Word и пишете поверително споразумение, ще бъде създадена и снимка на екрана на това съдържание. Ако разполагате с един компютър и го споделяте с други хора, може да искате да внимавате какви снимки или видеоклипове гледате, тъй като, познайте какво, те също ще бъдат записани.

Да, можете да блокирате приложенията от заснемане на екрана чрез тази функция, но повечето хора просто ще я оставят да работи, без да се занимават с настройките на функцията.

Цялата тази информация вече се съхранява в семантичния индекс на Windows 11 и може лесно да се търси от всеки, който има достъп до вашия компютър, независимо дали е оторизиран или не.

Това обаче е само върхът на айсберга.

Ако заплаха или зловреден софтуер компрометира устройството ви, всички тези данни вече ще бъдат декриптирани от Bitlocker, което ги прави достъпни за хакера.

Например, заплаха или злонамерен софтуер може просто да открадне базата данни на Recall и да я качи на собствените си сървъри за анализ. След това тази информация би могла да се използва за изнудване на потребителите или за потенциален пробив в потребителските акаунти, ако идентификационните данни са разкрити.

Експертът по киберсигурност Кевин Бомонт, известен като откровен критик на Microsoft, също изрази загриженост за това как тази функция създава огромна повърхност за атаки, оприличавайки я на кийлогър, „вграден в Windows“.

„Ако погледнете какво се е случило в миналото със зловредния софтуер infostealer – зловреден софтуер, промъкнат в компютрите – той се е насочил към автоматична кражба на пароли за браузъри, съхранявани локално“, обяснява Бомонт в нова публикация в блога.

„С други думи, ако злонамерен участник в заплахата получи достъп до дадена система, той вече краде важни бази данни, съхранявани локално. Те могат просто да разширят това, за да откраднат информацията, записана от функцията Recall на Copilot“.

И това не е само зловреден софтуер за кражба на информация, тъй като зловреден софтуер, насочен към предприятия, като TrickBot, преди включваше модули, които крадяха базата данни Active Directory на даден домейн за офлайн кракване на идентификационни данни. Нищо не пречи на злонамерения софтуер да възприеме подобен подход и да открадне и базите данни на Recall.

Microsoft винаги е заемала позицията по отношение на уязвимостите и атаките, че щом едно устройство бъде компрометирано, всички залози са прекратени и границите на сигурността са изхвърлени през прозореца.

По принцип вие сте се заразили или сте попаднали на атака на социалното инженерство, така че по ваша вина ще ви се случат всички тези лоши неща.

Въпреки това, тъй като Microsoft е един от най-големите, ако не и най-големият, пазител на потребителските данни и компютърната сигурност, изглежда безотговорно да се въвежда допълнителен риск в една вече рискова среда.

Макар че можем да продължим да изразяваме как тази функция представлява огромен риск за неприкосновеността на личния живот, вместо това ще ви оставим с този цитат от неотдавнашното обещание на Microsoft да даде приоритет на сигурността над всичко останало.

„Ако сте изправени пред компромис между сигурността и друг приоритет, отговорът ви е ясен: Изберете сигурността. В някои случаи това ще означава да дадем приоритет на сигурността пред други неща, които правим, като например пускането на нови функции или осигуряването на постоянна поддръжка на старите системи“, заяви главният изпълнителен директор на Microsoft Сатя Надела в имейл до служителите на Microsoft.

„Това е от ключово значение за подобряване на качеството и възможностите на нашата платформа, така че да можем да защитим цифровите активи на нашите клиенти и да изградим по-сигурен свят за всички.“