Докато компании, разработващи големи езикови модели (LLM), редовно предупреждават за екзистенциалните рискове, изглежда те не бавят напредъка на технологиите. Вместо това, наемането на експерти в областта на химическите и биологичните оръжия се превръща в ключов подход за управление на потенциални злоупотреби.

Anthropic, създател на популярния корпоративен LLM Claude, предлага $245,000–$285,000 за позицията „Policy Manager, Chemical Weapons and High Yield Explosives“. Кандидатът ще:

• Работи 25% от времето си в офисите на компанията

• Сътрудничи с водещи изследователи по безопасността

• Решава критични проблеми, свързани с предотвратяване на катастрофални злоупотреби с ИИ

Изискванията включват 5+ години опит с химически оръжия, като предимство се дава на опит с високоефективни взривни вещества и познания за „мръсни бомби“.

OpenAI също наема в тази област

Не само Anthropic предприема такива мерки. OpenAI, компанията зад ChatGPT, търси изследовател за биологични и химически рискове, с възнаграждение до $455,000 (£335,000).

Позицията изисква:

• Умения за работа в динамична и бързо променяща се среда

• Офанзивен подход към сигурността и „red-teaming“ мислене

• Креативност и способност да се мисли „извън кутията“

Контекст и регулаторни предизвикателства

Anthropic е влязла в правни действия срещу Министерството на войната на САЩ, което я е определило като рисков доставчик на веригата, твърдейки, че системите ѝ не могат да се използват за пълноценно автономни оръжия или масово наблюдение на американски граждани.

Междувременно OpenAI, под ръководството на Сам Алтман, разглежда възможност за сътрудничество с НАТО, въпреки известен вътрешен отпор сред служителите.

IИндустрията на LLM активно търси специалисти по химически и биологични оръжия, за да минимизира потенциални катастрофални злоупотреби с ИИ, като същевременно продължава бързо да развива технологиите.