Принципът на разграничение и международното хуманитарно право

Луси Съчман, международно признат експерт по автономни оръжия и професор в Ланкастърския университет, заявява, че автономните оръжейни системи не могат да различават цивилни от бойци. Това прави невъзможно тяхното законово използване съгласно международното хуманитарно право.

„Принципът на разграничение е основното правило в международното хуманитарно право. Автономната система би трябвало да може да различава цивилни и бойци – а това просто не може да се кодира в алгоритъм“, обяснява Съчман.

Рисковете от автономните системи в реални конфликти

Според експертката, в реални условия, като случаите в Газа, тези системи се използват за ускоряване и максимизиране на броя цели, често чрез масово наблюдение и профилиране на хора, места и обекти.
Съчман подчертава, че твърденията на военните за „човешки надзор“ стават все по-малко достоверни. Процесът на одобрение от човешки оператор често е формален и служи само за легитимиране на препоръките на системата.

„Колкото повече целта на системите е скорост, ускорение и максимизиране на разрушението, толкова по-безсмислено става всяко позоваване на човешка преценка“, коментира тя.

Етика, надзор и корпоративни „червени линии“

Компанията Anthropic се опита да наложи „червени линии“ за използването на своите ИИ инструменти – забрана за вътрешна масова наблюдателност и автономни оръжия.
Съчман обаче предупреждава, че тези ограничения не предотвратяват масово наблюдение и използване на ИИ в окупирани територии или при военни операции извън САЩ.

„Дори когато компанията се придържа към етични ограничения, реалните системи, в които нейният чатбот Claude е интегриран, разчитат на масово наблюдение, за да формират препоръки за целите“, пояснява експертката.

Дронове и орди от автономни бойни машини

Новата тенденция включва по-малки, мрежово свързани и потенциално въоръжени дронове, които действат като орди. Това увеличава несигурността и затруднява идентифицирането на операторите и контрола над оръжията.

„Тези технологии ускоряват и усилват разрушението, затваряйки възможностите за забавяне, деескалация и дипломатически решения, както и за проследяване на отговорността“, предупреждава Съчман.

Глобална регулация и перспективи за забрана

Съчман и колегите ѝ водят усилия в ООН за забрана или регулация на автономните оръжия, но напредъкът е бавен поради блокиращи държави.
Все пак, по света нараства подкрепата за забрана на автономни летални оръжия, подобно на ядрените. Експертката подчертава, че е важно да се мобилизират ресурси за изграждане на правна рамка и международна отчетност, вместо да се оставя въпросът на бъдещите военни съревнования.