На 4 юли 2024 г. New York Times съобщава, че в началото на 2023 г. OpenAI е претърпяла неразкрит пробив.
NYT отбелязва, че нападателят не е имал достъп до системите, в които се намира и изгражда изкуственият интелект, но е откраднал дискусии от форум на служителите. OpenAI не е оповестила публично инцидента, нито е информирала ФБР, тъй като според нея не е била открадната информация за клиенти или партньори и пробивът не се е считал за заплаха за националната сигурност. Фирмата е решила, че атаката е дело на един-единствен човек, за когото не е известно да е свързан с някое чуждо правителство.
Въпреки това инцидентът доведе до вътрешни дискусии между служителите относно това колко сериозно OpenAI се отнася към проблемите на сигурността.
„След пробива Леополд Ашенбренер, ръководител на техническата програма на OpenAI, фокусиран върху гарантирането, че бъдещите технологии на изкуствения интелект няма да причинят сериозни вреди, изпрати меморандум до борда на директорите на OpenAI, в който твърди, че компанията не прави достатъчно, за да попречи на китайското правителство и други чуждестранни противници да откраднат тайните ѝ“, пише NYT.
В началото на тази година той беше уволнен, уж за изтичане на информация (но по-вероятно заради меморандума). Ашенбренър има малко по-различна версия за официалната история с изтичането на информация. В подкаст с Дуаркеш Пател (4 юни 2024 г.) той казва: „В момента, в който е влязъл в употреба: „От OpenAI твърдят пред служителите, че съм бил уволнен за изтичане на информация. Аз и други ги притискахме да кажат какво е било изтичането. Ето и пълния им отговор: Някъде миналата година бях написал документ за мозъчна атака относно готовността, безопасността и мерките за сигурност, необходими в бъдеще по пътя към AGI. Споделих го с трима външни изследователи за обратна връзка. Това е изтичането на информация… Преди да го споделя, го прегледах за всичко чувствително. Във вътрешната версия имаше препратка към бъдещ клъстер, която редактирах за външното копие.“
Ясно е, че OpenAI не е щастлив кораб, с много различни мнения за това как функционира, как трябва да функционира и накъде трябва да върви. Загрижеността не е толкова за OpenGPT (който е gen-AI), а за бъдещето на AGI (изкуствен общ интелект).
Първият в крайна сметка трансформира знанията, които научава (обикновено от интернет), докато вторият е способен на оригинални разсъждения. Gen-AI не се счита за заплаха за националната сигурност, въпреки че може да увеличи мащаба и сложността на настоящите кибератаки.
AGI е нещо различно. Той ще бъде способен да развива нови заплахи в киберпространството, кинетичното бойно поле и разузнаването – и OpenAI, DeepMind, Anthropic и други водещи фирми и технологии за изкуствен интелект бързат да бъдат първи на пазара. Притеснението от пробива на OpenAI през 2023 г. е, че той може да покаже липса на готовност за сигурност, която наистина може да застраши националната сигурност в бъдеще.
„Голяма част от драмата идва от това, че OpenAI наистина вярват, че създават AGI. Това не е просто маркетингово твърдение“, казва Ашенбренър и добавя: „Това, което кара хората да се замислят, е когнитивният дисонанс между вярата в AGI и неприемането на някои от другите последствия сериозно. Тази технология ще бъде невероятно мощна, както за добро, така и за лошо. Това засяга въпроси на националната сигурност. Защитавате ли тайните от ККП? Америка ли контролира основната инфраструктура на AGI или я контролира диктатор от Близкия изток?“
С приближаването към разработването на AGI киберзаплахите ще се изместят от престъпници към елитни нападатели от национални държави – и неведнъж сме виждали, че нашата сигурност е недостатъчна, за да се защитим от тях. На фона на сравнително незначителен пробив в OpenAI (и трябва да приемем, че той не е бил по-лош, отколкото фирмата е казала на служителите си), Ашенбренер изрази обща и истинска загриженост за сигурността – и за това, изглежда, е бил уволнен.
