Безпрецедентно ограничение поставя въпроси за бъдещето на най-мощните ИИ модели

Компанията Anthropic обяви, че временно спира достъпа до своите най-усъвършенствани модели Fable 5 и Mythos 5 за всички потребители по света, след получена директива от правителството на САЩ.

Според компанията заповедта е била получена на 12 юни в 17:21 ч. източноамериканско време и се позовава на съображения за национална сигурност. Тя забранява достъпа до двата модела за всеки чуждестранен гражданин, независимо дали се намира в САЩ или извън страната.

Ограничението обхваща дори служители на Anthropic, които не са американски граждани.

Защо Anthropic спира достъпа за всички

На практика компанията е избрала да деактивира моделите за всички потребители, вместо да прилага сложни механизми за разграничаване между различни категории потребители.

Според Anthropic:

• всички нови заявки към Fable 5 ще бъдат пренасочвани към други модели;
• активните сесии ще бъдат прекратявани;
• API заявките към Fable 5 също ще спрат да функционират;
• клиентите са посъветвани временно да преминат към други модели.

Останалите продукти на компанията, включително Opus 4.8, не са засегнати.

Какво представляват Fable 5 и Mythos 5

Двата модела използват една и съща базова архитектура, но са предназначени за различни сценарии.

Fable 5

Fable 5 е защитената версия на технологията и включва строги механизми за контрол, които:

• ограничават офанзивни кибероперации;
• блокират чувствителни заявки в областта на биологията;
• ограничават рискови химически сценарии;
• пренасочват част от запитванията към по-ограничени модели.

Mythos 5

Mythos 5 представлява практически неограничена версия на същия модел и е достъпна само за строго проверени организации, включително:

• правителствени екипи по киберзащита;
• специализирани научни организации;
• избрани партньори в сферата на науките за живота.

Спор около предполагаем „jailbreak“

Anthropic твърди, че директивата вероятно е свързана с докладван метод за заобикаляне на защитите на Fable 5.

Компанията обаче оспорва сериозността на проблема.

Според нея демонстрираният сценарий представлява ограничен и специфичен случай, при който моделът е бил помолен да анализира определен програмен код и да открие софтуерни слабости.

От Anthropic подчертават, че подобни възможности съществуват и при други публично достъпни модели и не представляват универсален метод за заобикаляне на защитите.

Влияние върху индустрията

Случаят е особено показателен за новата реалност около развитието на авангардните ИИ модели.

През последната година регулаторите все по-често изразяват опасения, че най-мощните системи могат да бъдат използвани за:

• откриване на софтуерни уязвимости;
• автоматизация на кибератаки;
• подпомагане на злонамерени изследвания;
• ускоряване на сложни технически операции.

Anthropic предупреждава, че ако подобен стандарт бъде прилаган към всички компании в сектора, това би могло значително да забави внедряването на следващото поколение ИИ технологии.

Геополитическо измерение

Реакцията не закъсня и от политическата сцена. Британският министър по въпросите на ИИ и онлайн безопасността Канишка Нараян коментира случая като пример за нарастващото значение на технологичния суверенитет.

Според него инцидентът показва колко зависими могат да бъдат държавите и компаниите от решения, вземани едностранно от правителства или доставчици на критични технологии.

По-широкият контекст

Случаят идва само дни след старта на Fable 5, който беше предоставен безплатно на потребители с абонаменти Pro, Max и Enterprise.

Първоначално моделът беше представен като по-безопасна версия на мощната архитектура Mythos, способна да предлага високо ниво на аналитични и програмни способности при значително по-строг контрол върху рисковите сценарии.

Внезапното му спиране показва колко чувствителна е станала границата между иновациите в областта на ИИ и опасенията за националната сигурност.

Решението за временно спиране на Fable 5 и Mythos 5 представлява един от най-драстичните примери досега за държавна намеса в достъпа до авангардни ИИ системи. Независимо дали причината е реален риск или регулаторно недоразумение, случаят подчертава нарастващото напрежение между технологичните компании, правителствата и въпросите, свързани със сигурността на следващото поколение изкуствен интелект.