Използването на ИИ в полицейските структури по света се разширява с бързи темпове. Обещанията са познати – по-малко бумащина, повече време на терен, по-ефективна работа. Понякога обаче резултатите са не просто спорни, а откровено абсурдни.

Такъв е случаят от Хебер Сити, щата Юта, където автоматично генериран полицейски доклад „установява“, че служител на реда… се е превърнал в жаба.
За щастие – без пострадали, освен, може би, репутацията на земноводните.

Как се „ражда“ една ИИ халюцинация

Според местни медии причината е изненадващо прозаична.
Софтуерът за изготвяне на полицейски доклади е обработвал запис от body камера, като в същото време е „чул“ фонов звук – филмът The Princess and the Frog, пуснат на заден план.

ИИ системата просто е направила това, което умее най-добре – свързала е несвързваемото и го е превърнала в официален текст.

„Точно тогава осъзнахме колко е важно тези доклади да се проверяват внимателно“, признава полицейският сержант Рик Кийл.

Draft One: автоматизация с човешки последствия

Използваният софтуер – Draft One, разработен от Axon и базиран на езиковите модели на OpenAI – автоматично генерира полицейски доклади на база видеозаписи от камери, носени от служителите.

Целта е ясна и логична:

• по-малко време за писане,

• по-бърза административна обработка,

• повече ресурси за оперативна дейност.

Проблемът е, че грешките в полицейски доклад не са като грешките в имейл. Те могат да:

• компрометират разследвания,

• доведат до съдебни спорове,

• засегнат правата на невинни граждани.

Когато „спестяването на време“ води до повече работа

На теория ИИ трябва да улесни полицаите. На практика обаче, ако всеки доклад трябва да се проверява ред по ред, спестеното време се превръща в допълнително натоварване.

Още по-притеснително е, ако тази проверка не се прави достатъчно внимателно.

Юристи и правозащитници вече повдигат въпроса дали автоматизацията не води до:

• по-ниска лична отговорност,

• „размиване“ на авторството,

• удобна форма на институционално алиби при грешки.

Прозрачност? Не съвсем

Разследване на Electronic Frontier Foundation (EFF) поставя още по-сериозен проблем – невъзможността ясно да се различи коя част от доклада е написана от човек и коя – от ИИ.

„Често е невъзможно да се установи кои пасажи са генерирани от ИИ и кои – от служителя“, посочва EFF.

Организацията отбелязва, че системата изглежда умишлено проектирана така, че да затруднява одитите и публичната отчетност – нещо изключително чувствително в контекста на правоприлагането.

Какво означава това за Европа и България

Макар случаят да е от САЩ, темата е пряко релевантна и за Европа, включително за България.
ИИ вече навлиза в:

• анализ на видеонаблюдение,

• автоматизирано писане на документи,

• подпомагане на разследвания.

Случаят „полицай-жаба“ е комичен, но следващият може да не бъде.

 ИИ не замества отговорността

ИИ може да бъде мощен инструмент, но не и заместител на човешката преценка, особено в сфери като правосъдие и сигурност.

Автоматизацията без:

• прозрачност,

• ясна отчетност,

• задължителен човешки контрол,

не спестява време – тя просто прехвърля риска.

И ако днес става дума за жаба, утре може да става дума за човешка съдба.