В неделя губернаторът на Калифорния Гавин Нюсъм наложи вето на забележителен законопроект, целящ да въведе първите в страната мерки за безопасност за големи модели с изкуствен интелект.

Решението е сериозен удар върху усилията за ограничаване на местната индустрия, която се развива бързо и е слабо контролирана. Законопроектът щеше да въведе едни от първите в страната правила за мащабни модели на изкуствен интелект и да проправи пътя за правила за безопасност на изкуствения интелект в цялата страна, твърдят поддръжниците му.

По-рано този месец губернаторът-демократ заяви пред аудитория на годишната конференция Dreamforce, организирана от софтуерния гигант Salesforce, че Калифорния трябва да бъде водеща в регулирането на ИИ в условията на федерално бездействие, но че предложението „може да има смразяващ ефект върху индустрията“.

Предложението, което предизвика острата съпротива на стартъпи, технологични гиганти и няколко членове на Камарата на представителите от Демократическата партия, би могло да навреди на родната индустрия, като установи строги изисквания, каза Нюсъм.

„Макар и с добри намерения, SB 1047 не взема предвид дали дадена система за изкуствен интелект се внедрява във високорискови среди, дали включва вземане на критични решения или използване на чувствителни данни“, каза Нюсъм в изявление. „Вместо това законопроектът прилага строги стандарти дори за най-основните функции – стига да се внедрява голяма система. Не смятам, че това е най-добрият подход за защита на обществото от реалните заплахи, които представляват технологиите.“

Вместо това в неделя Нюсъм обяви, че щатът ще си партнира с няколко експерти от индустрията, включително с пионера в областта на ИИ Фей-Фей Ли, за да разработи предпазни огради около мощните модели на ИИ. Ли се противопостави на предложението за безопасност на ИИ.

Мярката, насочена към намаляване на потенциалните рискове, създавани от ИИ, щеше да изисква от компаниите да тестват моделите си и да оповестяват публично протоколите си за безопасност, за да предотвратят манипулирането на моделите, например, за да унищожат електрическата мрежа на щата или да помогнат за създаването на химически оръжия. Експертите твърдят, че тези сценарии биха могли да бъдат възможни в бъдеще, тъй като индустрията продължава да се развива бързо. Той също така щеше да осигури защита на работниците, които подават сигнали за нарушения.

Авторът на законопроекта, щатският сенатор от Демократическата партия Скот Уайнър, нарече ветото „неуспех за всички, които вярват в надзора на огромните корпорации, които вземат критични решения, засягащи безопасността и благосъстоянието на обществото и бъдещето на планетата“.

„Компаниите, които разработват усъвършенствани системи с изкуствен интелект, признават, че рисковете, които тези модели представляват за обществото, са реални и бързо се увеличават. Макар че големите лаборатории за ИИ поеха възхитителни ангажименти да наблюдават и намаляват тези рискове, истината е, че доброволните ангажименти на индустрията не са приложими и рядко водят до добри резултати за обществото“, каза Винер в изявление в неделя следобед.

Винер заяви, че дебатът около законопроекта е довел до значителен напредък по въпроса за безопасността на изкуствения интелект и че той ще продължи да настоява за това. Законодателството е сред множеството законопроекти, приети тази година, за регулиране на ИИ, борба с дълбоките фалшификати и защита на работниците. Щатските законодатели заявиха, че Калифорния трябва да предприеме действия тази година, позовавайки се на тежките уроци, които са научили от това, че не са успели да обуздаят компаниите за социални медии, когато може би са имали възможност.

Поддръжниците на мярката, сред които Мъск и Anthropic, заявиха, че предложението би могло да въведе някои нива на прозрачност и отчетност по отношение на широкомащабните модели на ИИ, тъй като разработчиците и експертите твърдят, че все още нямат пълно разбиране за това как се държат моделите на ИИ и защо.

Законопроектът е насочен към системи, които изискват високо ниво на изчислителна мощ и повече от 100 млн. долара за изграждане.Нито един от настоящите модели на ИИ не е достигнал този праг, но според някои експерти това може да се промени през следващата година.„Това се дължи на огромното нарастване на инвестициите в индустрията“, каза Даниел Кокотайло, бивш изследовател на OpenAI, който подаде оставка през април заради това, което той видя като пренебрегване на рисковете, свързани с ИИ от страна на компанията.„Това е безумно много власт, която някоя частна компания контролира безотговорно, а освен това е и невероятно рисковано.“Съединените щати вече изостават от Европа в регулирането на ИИ с цел ограничаване на рисковете.Предложението на Калифорния не беше толкова всеобхватно, колкото регулациите в Европа, но щеше да бъде добра първа стъпка за поставяне на предпазнa рамка около бързо развиващата се технология, която поражда опасения за загуба на работни места, дезинформация, навлизане в личния живот и предубеденост към автоматизацията, казаха поддръжниците.

Миналата година редица водещи компании за изкуствен интелект доброволно се съгласиха да спазват предпазните мерки, определени от Белия дом, като например да тестват и споделят информация за своите модели. Калифорнийският законопроект щеше да задължи разработчиците на ИИ да спазват изисквания, подобни на тези ангажименти, заявиха поддръжниците на мярката.Но критиците, включително бившият председател на Камарата на представителите на САЩ Нанси Пелоси, твърдяха, че законопроектът ще „убие калифорнийските технологии“ и ще задуши иновациите. Според тях той би обезкуражил разработчиците на изкуствен интелект да инвестират в големи модели или да споделят софтуер с отворен код.

Решението на Нюсъм да наложи вето върху законопроекта е поредната победа в Калифорния за големите технологични компании и разработчиците на изкуствен интелект, много от които прекараха изминалата година в лобиране заедно с Калифорнийската търговска камара, за да откажат губернатора и законодателите от приемането на разпоредби за изкуствения интелект.

Две други мащабни предложения за ИИ, които също се сблъскаха с нарастващата опозиция от страна на технологичната индустрия и други лица, отпаднаха преди крайния срок на законодателната процедура миналия месец. Законопроектите щяха да изискват от разработчиците на ИИ да етикетират съдържанието, генерирано от ИИ, и да забранят дискриминацията от инструментите на ИИ, използвани за вземане на решения за наемане на работа.

По-рано това лято губернаторът заяви, че иска да защити статута на Калифорния като световен лидер в областта на изкуствения интелект, като отбеляза, че 32 от 50-те най-големи компании в света в областта на изкуствения интелект се намират в щата.

Той популяризира Калифорния като ранен внедрител, тъй като щатът скоро може да внедри генеративни инструменти на ИИ за справяне със задръстванията по магистралите, предоставяне на данъчни насоки и рационализиране на програмите за борба с бездомността. Миналия месец щатът обяви и доброволно партньорство с гиганта в областта на ИИ Nvidia, за да подпомогне обучението на студенти, университетски преподаватели, разработчици и специалисти по данни. Калифорния обмисля и нови правила срещу дискриминацията на ИИ в практиките за наемане на работа.

По-рано този месец Нюсъм подписа едни от най-строгите закони в страната за борба с дълбоките фалшификации на избори и мерки за защита на холивудските работници от неразрешено използване на ИИ.

Но дори и с ветото на Нюсъм, предложението за безопасност в Калифорния вдъхновява законодателите в други щати да предприемат подобни мерки, каза Татяна Райс, заместник-директор на Форума за бъдещето на неприкосновеността на личния живот, организация с нестопанска цел, която работи със законодателите по предложения за технологии и неприкосновеност на личния живот.