Главният изпълнителен директор на Anthropic, Дарио Амодей, заяви, че компанията „не може с чиста съвест“ да предостави на Пентагона неограничен контрол върху своя модел Claude. Изявлението идва на фона на напрегнато противопоставяне между компанията и американското Министерство на отбраната относно условията за използване на ИИ технологии.

Спор за „всяка законна употреба“

В официална позиция Амодей подчерта, че Anthropic подкрепя националната сигурност на САЩ, но категорично отказва две конкретни приложения:

• масово вътрешно наблюдение на граждани;

• напълно автономни оръжия, които избират цели без човешки контрол.

Според компанията тези практики са несъвместими с демократичните ценности и надхвърлят настоящата технологична надеждност на съвременните ИИ системи. Изискването на Пентагона доставчиците да допускат „всяка законна употреба“ би премахнало именно тези защитни ограничения.

Натиск и заплахи от страна на Пентагона

По данни на Anthropic, Министерството на отбраната е дало срок на компанията да премахне ограниченията върху Claude, в противен случай тя може да бъде обявена за „риск за веригата за доставки“. Сред обсъжданите мерки са:

• премахване на системите на Anthropic от правителствени мрежи;

• потенциално използване на Закона за отбранителното производство за принуда.

Компанията определя тази позиция като противоречива – едновременно да бъде разглеждана като риск и като критично важен доставчик – и заявява, че няма да промени курса си.

Масовото наблюдение като червена линия

Anthropic предупреждава, че използването на ИИ за вътрешно наблюдение може да позволи автоматично изграждане на „пълен дигитален профил на всеки човек в огромен мащаб“. Според компанията подобни системи подкопават основни граждански свободи и създават опасен прецедент.

Тази позиция рязко контрастира с други доставчици на ИИ за американски държавни агенции, включително Palantir, която разработва платформи за анализ и проследяване на лица в рамките на имиграционни и правоприлагащи програми.

Автономните оръжия и рискът за човешкия контрол

Втората твърда граница на Anthropic е използването на ИИ в напълно автономни оръжия. Според компанията:

• съвременните модели не са достатъчно надеждни;

• липсата на човешки надзор повишава риска за цивилни и военни;

• автоматизацията може да „дехуманизира“ военните решения и да размива личната отговорност.

„Няма да предоставим съзнателно продукт, който поставя американски военни и цивилни в опасност“, заявява компанията.

Разминаване с други ИИ доставчици

Докато Anthropic отказва да приеме рамката „всяка законна употреба“, други водещи компании вече са подписали подобни споразумения. Сред тях са OpenAI, Google и xAI, които позволяват използването на своите модели от Пентагона, включително в класифицирани среди.

Това поставя Anthropic в изолирана, но принципна позиция в рамките на американския ИИ сектор.

Геополитическият контекст

Anthropic отбелязва, че вече е предприела действия, които са били неблагоприятни за бизнеса ѝ, но са защитили стратегическите интереси на САЩ – включително прекратяване на достъпа за компании, свързани с Пекин, и публична подкрепа за по-строг контрол върху износа на чипове.

Въпреки това, компанията подчертава, че защитата на демократичните принципи и сигурността на хората остава по-важна от краткосрочните договори.

Сблъсъкът между Anthropic и Пентагона подчертава нарастващото напрежение между националната сигурност, технологичния напредък и етичните граници на ИИ. Докато други доставчици приемат по-гъвкави условия, Anthropic избира по-рестриктивен подход, който може да ѝ струва правителствени договори, но укрепва репутацията ѝ като компания, поставяща безопасността и демократичните ценности на първо място.