Мадху Готумукала, временният шеф на Cybersecurity and Infrastructure Security Agency (CISA), е обвинен, че е качил чувствителни правителствени документи за договори в публична версия на ChatGPT. Документите са били предназначени само за защитени федерални системи, а инцидентът предизвика вътрешно разследване и оценка на щетите от страна на Департамента по вътрешна сигурност (DHS).

• Документите съдържали информация за федерални договори, които не трябва да излизат извън контролирани системи.

• Служители на DHS оценяват риска за оперативната сигурност и репутационните щети, ако съдържанието бъде възстановено или разкрито публично.

Защо се е стигнало до това

Готумукала използвал ChatGPT за анализ на документите, вярвайки, че има разрешение да експериментира с генеративен ИИ под контрол на DHS.

• CISA действително е имала изключение за ограничено използване на ChatGPT, но качването на чувствителни договори в публична версия на модела надхвърляло предвидените ограничения.

• Това разминаване между формалното разрешение и реалното поведение показва колко бързо политиките изостават от реалното използване на ИИ, особено от високопоставени служители без пълно обучение по рисковете.

Последствия и реакции

• DHS започнал пълна оценка на щетите, за да определи какво съдържание е било обработено от ИИ и как то може да бъде злоупотребено.

• Инцидентът е предизвикал тревога сред колегите на Готумукала, които го определят като сериозно нарушение на кибернавигационната практика на агенцията.

• Киберексперти извън правителството използват случая като предупредителен пример, че дори топ ръководители могат да направят фатални грешки с генеративен ИИ, което налага всички организации да прегледат политиките си за ИИ и безопасното управление на чувствителни данни.

Не е за първи път

• Случаят напомня за по-ранни инциденти с цифрови течове в администрацията на Тръмп, включително изтичане на групови чатове с дискусии за военни действия, което подчертава проблемите с управлението на чувствителна информация на високите нива на националната сигурност.

• Символично, подобна грешка от шефа на CISA е тревожна, защото агенцията отговаря за защита на критична инфраструктура, изборни системи и болнични мрежи в САЩ.