Консултантската компания Deloitte ще възстанови част от хонорара си по договор на стойност 440 000 австралийски долара, след като стана ясно, че представеният от нея доклад до австралийското правителство съдържа сериозни грешки, включително измислени от изкуствен интелект (ИИ) източници.

Докладът, който предизвика скандал

През 2024 г. Министерството на заетостта и трудовите отношения на Австралия (DEWR) възложи на Deloitte изготвянето на независим преглед на системата за автоматизирано следене на съответствието с изискванията за социални помощи.
Системата автоматично налага глоби на получатели на помощи, които не спазват определени задължения – например пропускат срещи или не подават навреме данни за доходите си.

Одитът имаше четири основни цели:

• да определи дали системата е законно съвместима;

• да провери съответствието със законодателството;

• да оцени функционалността и ефективността ѝ;

• да идентифицира дефекти и рискове в начина, по който автоматизацията функционира.

Докладът бе публикуван през юли 2025 г., но вместо да внесе яснота, предизвика множество въпроси. В документа бяха открити грешни цитати, несъществуващи препратки и „халюцинирани“ източници, които не могат да бъдат намерени никъде.

Грешки, генерирани от изкуствен интелект

Според експерти, цитирани от The Guardian, грешките вероятно са резултат от използването на генеративен ИИ, който е „измислил“ липсваща информация, за да запълни празни места в текста.
„Вместо да заменят една измислена препратка с реална, в новата версия има по пет, шест или дори осем фалшиви източника“, коментира д-р Кристофър Ръдж от Университета в Сидни, който пръв посочва грешките в доклада.

Реакцията на Deloitte

Компанията впоследствие потвърди, че е използвала ИИ при изготвянето на доклада, и заяви, че грешките вече са коригирани. От Deloitte уточниха, че направените промени не засягат основните изводи и препоръки на анализа.

Въпреки това, австралийските власти поискаха частично възстановяване на сумата, платена по договора. Размерът на върнатите средства не е публично оповестен, а Deloitte все още не е излязла с официално изявление по случая.

Въпроси за бъдещето на ИИ в консултантските услуги

Случаят повдига по-широк въпрос за ролята на изкуствения интелект в процеса на изготвяне на аналитични и правителствени документи.
Експерти предупреждават, че неконтролираното използване на ИИ може да доведе до грешни заключения и подвеждащи данни, което е особено опасно при публични политики, засягащи уязвими групи от населението.