Според International AI Safety Report, съвременните системи с изкуствен интелект вече разполагат със знания, които съответстват или дори надвишават експертното ниво, необходимо за разработка на биологични и химически оръжия. Това не означава автоматично, че подобни оръжия могат лесно да бъдат създадени, но подчертава фундаментална промяна – достъпът до критично знание вече не е основната бариера.

Докладът разглежда рисковете в контекста на бързото разпространение на „общо предназначение ИИ“ – модели, използвани ежедневно от стотици милиони хора по света.

Физическите ограничения все още имат значение

Въпреки напредъка на ИИ, авторите подчертават, че материалните бариери остават сериозно препятствие за злоупотреби. Придобиването на специализирано оборудване, достъпът до регулирани химически или биологични материали и необходимостта от контролирани лабораторни условия продължават да бъдат сериозно предизвикателство, особено за неопитни нападатели.

Това означава, че към момента ИИ по-скоро ускорява разбирането и планирането, отколкото реалното изпълнение на подобни заплахи.

Защо реалната оценка на риска е толкова трудна

Един от основните проблеми, идентифицирани в доклада, е невъзможността за директно тестване на това доколко ИИ може да подпомогне разработката на биологични или химически оръжия. Причината е ясна – подобни изследвания могат да нарушат:

• национални закони за сигурност

• международни договори като Конвенцията за биологичните оръжия

В резултат на това учените използват т.нар. „безопасни прокси задачи“ – например експерименти с нискорискови бактерии или безвредни химични процеси, които само частично отразяват реалните рискове.

ИИ като ускорител на вече налична информация

Докладът отбелязва, че информация за създаване на химически и биологични оръжия вече съществува онлайн. Разликата е, че ИИ позволява на неопитни потребители много по-бързо да намират, обединяват и контекстуализират тази информация, отколкото чрез стандартно търсене в интернет.

Това не създава ново знание, но значително намалява времето и усилията, необходими за достигане до него.

Ограниченията на защитните механизми в ИИ

През 2025 г. редица разработчици въведоха защитни контроли, целящи да блокират опасни заявки. Сред тях са:

• изключване на данни за патогени от обучаващите набори

• ограничаване на достъпа до високорискови инструменти

Докладът обаче подчертава, че тези мерки:

• не са достатъчно тествани в реални условия

• могат да бъдат премахнати или заобиколени, особено при open-weight модели

Това поставя под съмнение дългосрочната им ефективност като единствена линия на защита.

Deepfake заплахата – мащабна, но слабо измерима

Освен оръжейните рискове, докладът обръща сериозно внимание и на злоупотребата с ИИ за създаване на синтетично съдържание. Достъпните инструменти значително са понижили бариерата за мащабно производство на:

• измами

• изнудване

• онлайн тормоз

Особено тревожен е фактът, че 96% от deepfake видеата онлайн са порнографски и непропорционално често са насочени срещу жени. Въпреки това, липсата на системни данни прави цялостната оценка на риска изключително трудна.

Защо настоящите мерки не работят достатъчно добре

Докладът анализира редица съществуващи подходи:

• предупредителни етикети за ИИ съдържание – с ограничен ефект (разпознаване се повишава едва до 21.6%)

• ограничен достъп до модели – заобиколим от мотивирани лица

• филтриране на сексуално съдържание от обучаващите данни – една от малкото мерки с измерим ефект

Водни знаци, метаданни и нови рискове

Сред по-обещаващите решения са:

• вградени водни знаци

• защитени метаданни

• уникални цифрови подписи от записващи устройства

Докладът обаче предупреждава, че:

• отделни водни знаци могат да бъдат премахнати

• логването на ИИ изходи създава проблеми със скалируемостта, заобикалянето и поверителността

ИИ под засилен обществен и регулаторен натиск

Публикуването на доклада съвпада с разследвания във Франция и Великобритания срещу платформата X, където са разпространявани несъгласувани изображения, генерирани от Grok, включително с участието на жени и непълнолетни.

Докладът е иницииран от проф. Йошуа Бенджио – една от най-влиятелните фигури в света на ИИ – и е подготвен от над 100 независими експерти от повече от 30 държави, с участието на ЕС, OECD и ООН.