Ръководителят на роботиката напуска заради опасения от наблюдение и автономни оръжия

Решението поставя въпроси за границите на военните приложения на изкуствения интелект

Кейтлин Калиновски, ръководител на роботиката в OpenAI, обяви изненадваща оставка, след като компанията сключи споразумение с Министерството на отбраната на САЩ. Според самата нея решението е продиктувано от принципни съображения, свързани с риска от използване на технологии с изкуствен интелект за масово наблюдение и автономни оръжейни системи.

Новината хвърля светлина върху нарастващото напрежение между технологичния сектор, правителствените институции и обществото относно етичните граници на ИИ в сферата на националната сигурност.

Причината за напускането: липса на ясни гаранции

В публикация в социалната мрежа X Калиновски заяви, че решението ѝ е свързано с опасения относно наблюдението над американски граждани без съдебен контрол и потенциалното развитие на автономни смъртоносни системи без човешко разрешение.

Тя подчерта, че става дума за принципна позиция:

„Това е въпрос на принципи, а не на хора“, посочи тя.

По думите ѝ основният проблем не е самото сътрудничество с държавни структури, а начинът, по който е обявено споразумението – без ясно дефинирани защитни механизми и управленски рамки.

Според нея решения с толкова сериозни последици не бива да се вземат прибързано или без достатъчно прозрачност.

Реакцията на OpenAI

От компанията потвърдиха напускането и заявиха, че сътрудничеството с Министерството на отбраната има за цел да създаде „работещ модел за отговорно използване на ИИ в областта на националната сигурност“.

OpenAI подчертава, че в рамките на споразумението са поставени ясни ограничения:

• без използване на технологии за вътрешно наблюдение на граждани

• без автономни оръжия без човешки контрол

Компанията признава, че темата предизвиква сериозни обществени дебати и заявява готовност за диалог с:

• служители

• държавни институции

• граждански организации

• международни партньори

Напрежение в сектора на ИИ и отбраната

Случаят идва на фона на нарастващи конфликти в индустрията около военните приложения на изкуствения интелект.

Наскоро конкурентната компания Anthropic бе определена като потенциален риск за веригата на доставки, което доведе до напрежение между технологичните компании и правителствените структури.

В същото време главният изпълнителен директор на OpenAI Сам Алтман призна, че обявяването на сделката с Пентагона е било прибързано и създало впечатление за опортюнистичен ход.

По-късно съобщението беше коригирано, за да се подчертае, че Министерството на отбраната споделя ангажимента технологията да не бъде използвана за вътрешно наблюдение.

По-широкият въпрос: контролът върху ИИ

Оставката на Калиновски отразява по-дълбок системен проблем в глобалната технологична индустрия – липсата на универсални правила за използването на изкуствен интелект в чувствителни области като:

• военни операции

• масово наблюдение

• автономни оръжейни системи

• национална сигурност

С развитието на физически ИИ и автономни машини подобни въпроси ще стават все по-актуални.

Експерти предупреждават, че без ясни международни стандарти съществува риск технологичната надпревара да изпревари регулацията, което може да доведе до сериозни геополитически и етични последствия.