Изкуственият интелект все по-дълбоко навлиза в начина, по който търсим и консумираме информация онлайн. Въпреки това, ИИ отговорите – включително AI Overviews в Google Search – продължават да страдат от сериозен проблем: халюцинации. Това означава, че системата може да измисля факти, да комбинира несъществуващи данни или да дава противоречиви отговори на един и същ въпрос, зададен по различен начин.

Google признава проблема – макар и косвено

Нова обява за работа показва, че Google търси инженери за позиция с показателното име „AI Answers Quality“. Основната им задача ще бъде да подобряват качеството и надеждността на ИИ отговорите, които се показват директно в резултатите от търсенето.

Според описанието на позицията, компанията „преосмисля какво означава търсене на информация – по всякакъв начин и навсякъде“, но същевременно признава, че това изисква решаване на сложни инженерни предизвикателства, без да се нарушава доверието на потребителите.

Фактът, че се създава специален екип за „качество на ИИ отговорите“, е ясен сигнал, че настоящото състояние не е достатъчно добро.

Проблемът: ИИ отговори без достатъчна проверка

През последните месеци Google все по-агресивно налага:

• AI Overviews в стандартните резултати

• AI Mode като основен начин за търсене

• ИИ резюмета в Discover

• автоматично пренаписване на заглавия на новинарски публикации

На теория това трябва да улесни потребителите. На практика обаче качеството на информацията не винаги отговаря на очакванията.

Един въпрос, два напълно различни отговора

Показателен пример е случай, при който при търсене на оценката на даден стартъп:

• при първа формулировка на въпроса Google посочва стойност от 4 милиона долара

• при леко преформулиране на същия въпрос ИИ отговорът вече твърди, че компанията струва над 70 милиона долара

Още по-притеснителното е, че посочените източници не съдържат подобна информация, което означава, че стойностите са генерирани, а не извлечени от реални данни.

Когато грешките не са безобидни

Подобни несъответствия може да изглеждат като дребен проблем, но в реалността те могат да имат сериозни последици. Медийни разследвания вече показват, че AI Overviews са предоставяли:

• подвеждащи здравни съвети

• непълна или грешна информация

• съдържание, което потребителите приемат за вярно само защото идва от Google

Основният риск е психологически – повечето хора имат навика да вярват на всичко, което виждат в търсачката, без да проверяват източниците.

Защо това е критично важно

Google не е просто още една платформа. Той е основният филтър на информация за милиарди хора. Когато този филтър започне да „импровизира“, проблемът вече не е технически, а обществен.

ИИ отговорите без надежден механизъм за проверка:

• подкопават доверието в дигиталната информация

• създават риск от дезинформация

• могат да влияят на бизнес решения, здравни избори и обществено мнение

Технологията напредва по-бързо от контрола

Google AI Overviews безспорно са крачка напред като концепция. Но в момента технологията се развива по-бързо от механизмите за контрол и качество. Назначаването на екип за „качество на ИИ отговорите“ е правилна стъпка, но и признание, че проблемът е сериозен.

Докато ИИ продължава да се налага като основен посредник между човека и информацията, надеждността трябва да бъде водещ приоритет, а не страничен ефект от иновациите.