Онлайн туристическата агенция Expedia стартира свой AI-базиран планиращ чатбот, създаден да помага на клиентите при организацията на пътувания. Вместо да остане в рамките на първоначалната си цел, системата бе компрометирана и започна да дава опасни инструкции – включително как да се направи Молотов коктейл.
Разследване на Cybernews показа, че чатботът не само е отговорил на подобни запитвания, но и е предоставил кратка история на импровизираното оръжие, заедно с детайлни указания за изработката му.
Рискове за бизнеса и потребителите
Макар никой да не използва Expedia, за да научи как се извършват престъпления, инцидентът подчертава рисковете от злоупотреба. Експертите предупреждават, че подобни пропуски могат да доведат до:
-
Лицензионни проблеми с OpenAI и други доставчици на модели;
-
Правни последствия за компанията;
-
Финансови и репутационни щети.
Подобни ситуации вече са предизвиквали сериозни скандали – като случая с Air Canada, когато бот е дал грешна информация на клиент и компанията понесе правни последици, или когато демонстрация на Google Bard доведе до спад в стойността на акциите.
Какво е „джейлбрейк“ при чатботовете?
Манипулирането на чатботове така, че да заобиколят защитните механизми, се нарича джейлбрейк. Обикновено това става чрез специално създадени „подканвания“ (prompts), които убеждават системата да игнорира правилата за безопасност.
Макар в случая с Expedia темата да изглежда комична, подобни техники могат да се използват за:
-
Получаване на чувствителна информация;
-
Генериране на зловреден код;
-
Изпълнение на неоторизирани скриптове в корпоративна среда.
Широкомащабен проблем
Expedia не е единственият случай. По-рано през годината уязвимости бяха открити и в чатбота Lena на Lenovo, както и в китайския DeepSeek, който бе накаран да създаде инфостийлър за Chrome.
Дори GPT-5, последният модел на OpenAI, бе компрометиран чрез джейлбрейк по-малко от 24 часа след пускането му.
Случаят с Expedia показва колко крехки са AI решенията, когато липсват адекватни защитни механизми. Внедряването на чатботове в клиентския процес без достатъчно контрол може да се превърне в правен, финансов и репутационен риск за компаниите.
