Разпространението на ИИ-дълбоки фалшификати разклаща основата на съдебната система, в която видеодоказателствата традиционно се считат за едни от най-надеждните.
Краят на „виждането като вярване“
Видеодоказателствата присъстват в приблизително 80% от наказателните дела още през 2016 г., а днес делът вероятно е много по-висок заради камерите за наблюдение и смартфоните с висока резолюция.
Но появата на дипфейк технологията, която използва ИИ за генериране на изключително убедителни, но изцяло фалшиви видеа, изображения и аудио, поставя под съмнение цялата парадигма на визуалните доказателства.
Тази криза е известна като „парадоксът на дипфейковете“ – ерозия на вроденото доверие във визуалните материали само заради факта, че технологията за фалшификация съществува.
ИИ изследователят Кяра Галесе предупреждава:
„След пет години всеки подсъдим ще казва в съда ‘това е дипфейк’, а прокуратурата няма да може да докаже обратното извън разумно съмнение.“
Съдилищата изостават от технологията
Въпреки предупрежденията, през май Консултативният комитет към Съдебната конференция на САЩ реши да не променя правилата за автентикация на доказателства, тъй като до момента били представени малко дипфейкове в съдебни дела.
Юристи обаче казват, че технологията вече влиза в съдебните зали и последствията ще бъдат дълбоки.
Адвокатът Дейвид Дозиер разказва, че вече има случаи, в които подсъдими оспорват автентичността на реални видеа без да представят доказателства, позовавайки се само на наличието на дипфейкове. Това налага създаване на по-строги и стандартизирани протоколи.
Една от обсъжданите идеи е „сертификати за произход“ – криптографски вградени атестации, доказващи от кое устройство е записано видеото и дали е било модифицирано.
„Обратният CSI ефект“: нова опасност за журито
Според Риана Пфефъркорн от Станфордския юридически факултет, дипфейковете могат да засилят т.нар. „обратен CSI ефект“ – нереалистични очаквания на съдебните заседатели, че всяко видео трябва да бъде доказано с високотехнологични методи като автентично и нефалшифицирано.
В резултат, журитата могат да започнат да се съмняват във всичко, а това подкопава самата основа на процеса по установяване на фактите.
Както предупреждават изследователите:
„Ако журито започне да се съмнява, че въобще е възможно да се разбере кое е реално, скептицизмът може да подкопае цялата съдебна система.“
„Дивидентът на лъжеца“: нова тактика в защита
Адвокатът Томас Файтър очаква повече случаи на „liar’s dividend“ – отказ на подсъдимия да признае доказателство, само защото дипфейковете съществуват като възможност.
Той съветва клиентите си да запазват оригиналните записи, да не използват междинни устройства за препращане и да разчитат на експерти, когато е необходимо.
Фалшивите видеа вече влязоха в съдебните зали
Адвокат Джеймс Рубиновиц посочва, че дипфейковете вече се използват като фалшиви доказателства, което засилва страха у правните специалисти.
Все пак, съдилищата имат дългогодишна практика в разпознаването на манипулирани снимки и видео. Автентикацията се извършва чрез свидетели с пряк поглед върху събитието или чрез технически експерти.
През септември съд в Калифорния отхвърли дело, след като съдията установи, че две видеа от Ring камера са фалшифицирани – липса на лицеви изражения и цикличен видеопоток издават измамата.
Юристите очакват подобни случаи да зачестят, ако системата не се адаптира.
Въпреки паниката – съдебната система може да се справи
Пфефъркорн смята, че страховете около дипфейковете ще се окажат преувеличени.
Подобна паника е съпътствала и появата на Photoshop през 90-те години, но обществото и съдилищата са се адаптирали.
Както отбелязва тя:
„Съдилищата са доказано устойчиви институции, които винаги са намирали начин да се справят с новите форми на фалшификация.“
