Битката на страната с политическите фалшификати може да е предвестник на това, което предстои да се случи на изборите по света тази година.

На фона на рязкото увеличаване на политически мотивираните дълбоки фалшификати Националната полицейска агенция на Южна Корея (KNPA) разработи и внедри инструмент за откриване на съдържание, генерирано от изкуствен интелект, който да се използва при потенциални криминални разследвания.

Според Националната служба за разследване (НОИ) на KNPA програмата за дълбоко обучение е била обучена върху приблизително 5,2 милиона данни, получени от 5400 корейски граждани. Тя може да определи дали даден видеоклип (върху който не е била предварително обучена) е истински или не само за пет до десет минути, като степента на точност е около 80%. Инструментът автоматично генерира лист с резултати, който полицията може да използва при криминални разследвания.

Както съобщават корейските медии, тези резултати ще се използват за информиране на разследванията, но няма да се използват като пряко доказателство в наказателните процеси. Полицията също така ще предостави възможност за сътрудничество с експерти по изкуствен интелект от академичните среди и бизнеса.

Експертите по сигурността на ИИ призовават за използване на ИИ за добри цели, включително за откриване на дезинформация и дълбоки фалшификати.

„Това е смисълът: ИИ може да ни помогне да анализираме [фалшиво съдържание] във всякакъв мащаб“, заяви Гил Швед, главен изпълнителен директор на Check Point, в интервю за Dark Reading тази седмица. Макар че ИИ е болестта, каза той, той е и лекарството: „[Откриването на измами] изискваше много сложни технологии, но с ИИ можете да направите същото нещо с минимално количество информация – не само добра и голямо количество информация.“

Проблемът с Deepfake в Корея

Докато останалата част от света чака с нетърпение дълбоките фалшификати да навлязат в изборните сезони, корейците вече се занимават с проблема отблизо и лично.

Първият популярен фалшификат  се появи по време на провинциалните избори през 2022 г., когато в социалните медии се разпространи видеоклип, който изглеждаше, че показва как президентът Юн Сук Йол одобрява местен кандидат на управляващата партия.

Този вид измама напоследък става все по-разпространен. Миналия месец Националната избирателна комисия на страната разкри, че между 29 януари и 16 февруари е открила 129 дълбоки фалшификации в нарушение на изборното законодателство – цифра, която се очаква само да нарасне с наближаването на изборния ден на 10 април. Всичко това въпреки ревизирания закон, влязъл в сила на 29 януари, според който използването на дълбокофалшиви видеоклипове, снимки или аудиоматериали във връзка с избори може да донесе на гражданите до седем години затвор и глоби до 50 милиона вона (около 37 500 долара).

Не само дезинформация

Швед от Check Point предупреди, че както всяка нова технология, ИИ има своите рискове. „Така че да, има лоши неща, които могат да се случат, и ние трябва да се защитаваме от тях“, каза той.

Фалшивата информация не е толкова голям проблем, добави той. „Най-големият проблем в човешките конфликти като цяло е, че не виждаме цялата картина – избираме елементите [в новините], които искаме да видим, и след това въз основа на тях вземаме решение“, каза той.

„Не става въпрос за дезинформация, а за това, в което вярвате. И въз основа на това, в което вярвате, избирате коя информация искате да видите. Не обратното.“