Усилията на Калифорния за въвеждане на първите в страната мерки за безопасност за най-големите системи с изкуствен интелект преминаха през важно гласуване в сряда, което може да проправи пътя към американските разпоредби за технологията, развиваща се с голяма скорост.

Предложението, целящо да намали потенциалните рискове, създавани от изкуствения интелект, ще изисква от компаниите да тестват своите модели и да оповестяват публично протоколите си за безопасност, за да се предотврати манипулирането на моделите, например, за да се унищожи електрическата мрежа на щата или да се подпомогне създаването на химически оръжия – сценарии, които според експерти биха били възможни в бъдеще при толкова бърз напредък в индустрията.

Законопроектът е сред стотиците, които законодателите гласуват през последната седмица на сесията. След това губернаторът Гавин Нюсъм трябва да реши до края на септември дали да ги подпише като закон, да наложи вето или да позволи те да влязат в сила без неговия подпис.

Мярката беше приета от Асамблеята в сряда и се нуждае от окончателно гласуване в Сената, преди да стигне до бюрото на губернатора.

Поддръжниците й заявиха, че тя ще установи някои от първите така необходими основни правила за безопасност за мащабни модели на изкуствен интелект в САЩ. Законопроектът е насочен към системи, за чието обучение са необходими данни на стойност над 100 милиона долара. Нито един от настоящите модели на ИИ не е достигнал този праг.

„Време е големите технологии да играят по някакви правила, не много, но нещо“, заяви републиканският член на Асамблеята Девон Матис в подкрепа на законопроекта в сряда. „Последното нещо, от което се нуждаем, е да се срине електрическата мрежа, да се срине водоснабдителната система.“

Предложението, чийто автор е сенаторът от Демократическата партия Скот Винер, се сблъска с ожесточената съпротива на фирми за рисков капитал и технологични компании, включително OpenAI, Google и Meta, компанията майка на Facebook и Instagram. Те твърдят, че правилата за безопасност трябва да бъдат установени от федералното правителство и че калифорнийското законодателство се прицелва в разработчиците, вместо да се насочи към тези, които използват и експлоатират системите за изкуствен интелект с цел нанасяне на вреди.

Група от няколко членове на Камарата на представителите в Калифорния също се противопостави на законопроекта, като бившият председател на Камарата Нанси Пелоси го нарече „ добронамерен, но зле информиран“.

Камарата на прогреса, ляво ориентирана индустриална група, финансирана от Силициевата долина, заяви, че законопроектът се „основава на научнофантастични фантазии за това как би могъл да изглежда ИИ“.

„Този законопроект има повече общо с „Блейд Рънър“ или „Терминатор“, отколкото с реалния свят“, заяви старшият директор по техническата политика Тод О’Бойл в изявление след гласуването в сряда. „Не бива да ограничаваме водещия икономически сектор на Калифорния заради един теоретичен сценарий.“

Законодателството е подкрепено от Anthropic, стартъп за изкуствен интелект, подкрепен от Amazon и Google, след като по-рано този месец Винер коригира законопроекта, за да включи някои от предложенията на компанията. Настоящият законопроект премахна разпоредбата за наказание за лъжесвидетелстване, ограничи правомощията на главния прокурор на щата да съди нарушителите и стесни отговорностите на новата регулаторна агенция за ИИ. Собственикът на социалната медийна платформа X Елон Мъск също хвърли подкрепата си зад предложението тази седмица.

В писмо до Нюсъм Антроп заяви, че законопроектът е от решаващо значение за предотвратяване на катастрофални злоупотреби с мощни системи за ИИ и че „ползите от него вероятно надвишават разходите“.

Винер заяви, че в неговото законодателство е използван „лек подход“.

„Иновациите и безопасността могат да вървят ръка за ръка – и Калифорния е водеща в това отношение“, каза Уайнър в изявление след гласуването.

Той също така удари по критиците по-рано тази седмица за това, че са отхвърлили потенциалните катастрофални рискове от мощните модели с изкуствен интелект като нереалистични: „Ако те наистина смятат, че рисковете са фалшиви, тогава законопроектът не би трябвало да представлява никакъв проблем.“

Предложението на Винер е сред десетките законопроекти за ИИ, които калифорнийските законодатели предложиха тази година, за да изградят обществено доверие, да се борят с алгоритмичната дискриминация и да забранят дълбоките фалшификати, които засягат избори или порнография. Тъй като изкуственият интелект все повече влияе върху ежедневието на американците, щатските законодатели се опитват да намерят баланс между управлението на технологията и потенциалните ѝ рискове, без да задушават процъфтяващата родна индустрия.

Калифорния, в която се намират 35 от 50-те най-големи компании в света, е ранният внедрител на технологиите за изкуствен интелект и скоро би могла да използва генеративни инструменти за изкуствен интелект, за да се справи със задръстванията по магистралите и пътната безопасност, наред с други неща.

Нюсъм, който отказа да се произнесе по мярката по-рано това лято, предупреди срещу свръхрегулирането на ИИ.