Европарламентът гласува в подкрепа на резолюция, която по същество призовава за забрана на технологиите за масовото биометрично наблюдение, базирани на изкуствен интелект, като например системи за разпознаване на лица, на континента.

Голямо „не“ на масовото наблюдение

Евродепутатите  са притеснени от дискриминацията, пристрастията и несправедливостта, произтичащи от полицейските разследвания, базирани на AI, и притесненията им се основават на множество реални примери. За историята –  377 евродепутати гласуваха „за“, 248 „против“, а 62 се въздържаха. Доставчиците на решения за лицево разпознаване, базирани на изкуствен интелект, признаха, че пристрастията на алгоритмите тормозят системите им от години и са положили усилия да разрешат проблема чрез различни набори от данни и оптимизации чрез машинно обучение. Въпреки това процентът на дискриминация все още е твърде висок, за да бъде приемлив във всеки важен контекст на разполагане. С днешното решение Европейският парламент иска постоянна забрана на автоматизираното разпознаване на лица в публичните пространства и забрана за предвиждане на полицейска дейност въз основа на поведенчески данни. Единственото изключение в забраната са случаите на заподозрени в престъпления, но дори и тогава използването на бази данни за разпознаване на лица трябва да бъде изключено от наличните инструменти, използвани за оправдаване или доказване на вината на това лице. AI на Clearview AI е специално споменат като пример за това, което трябва да се избягва. И накрая, членовете на ЕП искат по -високи нива на прозрачност, като например използване на отворен код за алгоритмите за откриване, което позволява обществен контрол във всички аспекти на тези системи. Петър Витанов, водещият евродепутат по въпроса, заяви следното: Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за разпознаване на лица за целите на правоприлагането, тъй като технологията се оказа неефективна и често води до дискриминационни резултати. Ние категорично се противопоставяме на работата на полицията, основана на използването на AI, както и на всяка обработка на биометрични данни, която води до масово наблюдение. Това е огромен плюс за всички европейски граждани.

AI системите все още се развиват

Въпреки че това е важно развитие и силна стъпка към защитата на правата на човека в Европа, случаят с внедряването на AI не е приключен. „Законът за изкуствения интелект“ все още се договаря и изготвя, така че решението на Европейския парламент просто играе каталитична роля в момента. Евродепутатите изпращат съобщение какво ще бъде приемливо и къде биха искали да видят още предпазни мерки. В  доклад, публикуван днес, Европейската комисия заявява, че възнамерява да увеличи частните и публичните инвестиции в AI технологиите до 20 милиарда евро годишно. Докато законодателството, основаващо се на това масово наблюдение, ще трябва да гарантира, че всички потенциални злоупотреби, дискриминация и нарушения на правата на човека се решават, системите, задвижвани от AI, все още са на път да станат вездесъщи в Европа. В САЩ полицейските системи, подпомагани от ИИ, и масовите системи за разпознаване на лица все още не се одитират от централен орган и не се контролират от всеобхватно законодателство, а в същото време използването им както в публичния, така и в частния сектор сега процъфтява.