Anthropic Cyber Mission ще предоставя модели на ИИ, технически ресурси и инженерна подкрепа за откриване и отстраняване на уязвимости. Инициативата обхваща промишлени системи, жизненоважни услуги и софтуер с отворен код, като компанията предупреждава, че възможностите за откриване на слабости се развиват по-бързо от процесите за тяхното отстраняване.

Anthropic обяви дългосрочната инициатива Anthropic Cyber Mission, насочена към повишаване на сигурността на критичната инфраструктура и софтуера с отворен код. Планът предвижда предоставяне на модели на ИИ, изследвания, инструменти и инженерна подкрепа на организациите, които защитават основни обществени услуги и широко използвани софтуерни компоненти.

Централно място в инициативата заема програмата Critical Infrastructure Defense Program (CIDP). Тя комбинира моделите Claude, техническа работа на място и изследвания на заплахите, за да подпомогне защитата на системи за управление на електроенергийни мрежи, водоснабдяване, промишлени производства и транспорт.

Сред първоначалните партньори са Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC и Rockwell Automation. По данни на Anthropic част от тях вече използват Claude за откриване и отстраняване на уязвимости, както и за подпомагане на клиентите си при защитата на техните системи.

Промишлените системи остават трудни за актуализиране

Един от основните проблеми, към които е насочена програмата, е защитата на оперативните технологии (OT). Тези системи управляват физически процеси и често трябва да работят непрекъснато. За разлика от стандартните ИТ среди, при тях изключването за инсталиране на актуализация може да доведе до прекъсване на производството, нарушаване на услуга или риск за безопасността.

Част от оборудването е със значително дълъг жизнен цикъл, използва специализирани технологии или зависи от производители, които определят кога и как могат да се прилагат корекции. В резултат известни уязвимости могат да останат неотстранени с години.

Anthropic посочва, че държавно подкрепяни групи вече са изграждали достъп до критични системи в продължение на дълги периоди. В същото време по-широката достъпност на мощни модели на ИИ намалява разходите за откриване и използване на уязвимости.

Компанията предупреждава, че технологиите сами по себе си не могат да премахнат всички ограничения при защитата на критичната инфраструктура. Моделите обаче могат да помогнат за по-ранно откриване на слабости и за ускоряване на тяхното отстраняване, преди да бъдат използвани за прекъсване на електрозахранването или компрометиране на системи за водоснабдяване.

От откриването на уязвимостта до реалната корекция

Според Anthropic основното предизвикателство вече не е само намирането на уязвимости. Организациите трябва да проверят дали дадена находка е реална, да оценят тежестта ѝ, да определят приоритета за отстраняване и да приложат корекцията безопасно.

Компанията посочва опита от Project Glasswing, при който партньори са открили множество уязвимости, но част от тях са останали нерешени в продължение на месеци. При OT системите безопасното внедряване на корекция понякога може да отнеме дори десетилетия в редки случаи.

Това разминаване създава риск: възможностите за откриване на слабости се увеличават, но защитниците не винаги разполагат с достатъчно време и ресурси, за да ги отстранят със същата скорост.

В рамките на разширяването на инициативата Anthropic включва Project Glasswing в своята Cyber Verification Program, която предоставя на по-широк кръг защитници достъп до най-мощните модели на компанията за задачи, свързани с киберсигурността.

OSS Scanner насочва ИИ към софтуера с отворен код

Друг основен компонент на Anthropic Cyber Mission е защитата на софтуера с отворен код. Голяма част от съвременните приложения зависят от такива компоненти, които често се поддържат от малки екипи или доброволци. Това означава, че отговорността за сигурността може да бъде значителна, без поддържащите да разполагат с достатъчно ресурси.

По време на Project Glasswing Anthropic е анализирала стотици широко използвани проекти. Потенциалните уязвимости са били преглеждани от специалисти, а потвърдените находки са докладвани поверително на поддържащите чрез координирано разкриване на уязвимости.

В отговор на искания от някои екипи компанията представя OSS Scanner – услуга за периодично сканиране на включилите се по желание проекти с помощта на най-мощните модели на Anthropic. Услугата е безплатна и е вдъхновена от OSS-Fuzz на Google.

Всеки доклад съдържа доказателство за концепцията, обяснение на проблема и предложена корекция, когато такава е налична. Има обаче важно ограничение: докладите се генерират от моделите и се изпращат без предварителна проверка от човек. Това ускорява процеса, но означава, че някои констатации могат да съдържат неточности, включително неправилна оценка на тежестта.

Anthropic очаква делът на правилно установените уязвимости да надхвърли 90%, като заявява, че ще работи за подобряване на точността и качеството на предложените корекции. Това е очакване на компанията, а не независимо потвърден резултат.

Услугата е предназначена за проекти, чиито поддържащи имат капацитет да обработват постъпващите доклади. За екипите, които се нуждаят от допълнителна проверка, Anthropic ще продължи да предоставя находки, потвърдени от специалисти, съгласно политиката си за координирано разкриване на уязвимости.

Финансиране и подкрепа за поддържащите

Anthropic заявява, че ще разширява работата си по автоматизиране на първоначалната оценка и отстраняването на уязвимости, както и по разработването на по-сигурни архитектури и практики за програмиране.

Компанията вече е подкрепяла организации, които поддържат широко използван софтуер с отворен код, сред които Python Software Foundation, Alpha-Omega, OpenSSF чрез Linux Foundation и Apache Software Foundation. Подпомага също Akrites и Gold Eagle – организации, които събират и координират доклади за уязвимости от различни източници, за да ограничат риска екипите по поддръжката да бъдат претоварени.

Defender Advantage Fund, стартиран през август, финансира пилотни проекти в тази област и подпомага поддържането на OSS Scanner като безплатна услуга. Разработчиците могат да кандидатстват и за безплатни абонаменти Claude Max чрез програмата Claude for Open Source, както и за разширен достъп до възможностите за защитна работа на ИИ чрез Cyber Verification Program.

През юни Anthropic стартира и програма за киберзащита на щатски, местни и племенни администрации и други териториални структури в САЩ. По данни на компанията оттогава модели и техническа подкрепа са предоставени на повече от половината американски щати и на някои от най-големите оператори на критична инфраструктура в страната. Сред подпомаганите дейности са анализ на код, прилагане на корекции, реакция при инциденти и симулиране на атаки за проверка на защитата.

Защитата трябва да навакса възможностите на атакуващите

Anthropic очаква през следващите две години ИИ да започне да дава по-съществено предимство на защитниците – чрез по-ранно откриване на грешки, разработване на по-сигурен софтуер и активно подпомагане на защитата на системите. Компанията обаче признава, че в краткосрочен план това равновесие все още не е постигнато.

Моделите с високи възможности за кибероперации вече са достъпни и за нападателите, докато инструментите за защита все още не достигат до всички организации, които се нуждаят от тях. Освен това откриването на уязвимост не гарантира бърза корекция – особено когато става дума за оборудване, което не може да бъде спирано без внимателно планиране.

Успехът на Anthropic Cyber Mission ще зависи не само от способността на моделите да откриват слабости, но и от това дали организациите могат да проверяват резултатите, да приоритизират рисковете и да внедряват корекции безопасно. Компанията заявява, че ще разширява програмата към повече партньори и сектори и ще споделя както успешните подходи, така и научените уроци.

В крайна сметка целта е критичните услуги – електроенергия, вода, транспорт и комуникации – да продължават да работят дори при атаки от добре подготвени противници, а възстановяването след инцидент да става по-бързо. Това изисква съчетание от технологични инструменти, устойчиви процеси за управление на уязвимостите и сътрудничество между разработчици, доставчици на сигурност, държавни институции и оператори на инфраструктура.