Губернаторът на Калифорния, Гавин Нюсъм, подписа закон, целящ защита на непълнолетни от рисковете, свързани с изкуствения интелект (ИИ), но наложи вето върху друг законопроект, който би ограничил достъпа на подрастващи до чатботове.

Подписан закон: SB 243

• Чатботовете трябва да показват ясно предупреждение на всеки три часа, напомняйки на потребителя, че взаимодейства с ИИ, а не с човек.

• Компаниите трябва да поддържат протоколи за предотвратяване на съдържание, свързано със самоубийство, самонараняване или насилие над себе си.

Това идва на фона на трагичен случай от миналата година, когато 16-годишният Адам Рейн се самоубива след разговор с чатбот. Родителите му съдят OpenAI, твърдейки, че ИИ е валидирал опасните му мисли.

Вето върху AB 1064

• Законопроектът е предвиждал забрана на чатботове за лица под 18 години, освен ако технологиите не могат да водят сексуални разговори или да насърчават самонараняване.

• Нюсъм обяснява, че законът може неумишлено да доведе до пълна забрана на ИИ за непълнолетни, и обещава да търси подход, който защитава децата, без да ограничава достъпа им напълно.

• Критиците, включително авторката на законопроекта,  Ребека Бауер-Кан, твърдят, че Нюсъм е „на страната на големите технологични компании“.

Други ключови законопроекти, подписани от Нюсъм

• AB 316: Запазва човешката отговорност за действията на ИИ; разработчиците и потребителите на ИИ, причинил вреда, не могат да се прикриват зад автономността на системата.

• AB 621: Актуализира закона за deepfake порнография, като позволява на жертвите да търсят до $250 000 компенсация.

Контекст и влияние

• Законодателството идва в момент на засилен интерес към безопасността на ИИ, като се следи как платформите влияят на непълнолетните.

• OpenAI приветства SB 243 като път към хармонизация с федералните правила, докато организации като Common Sense Media го определят като необходима защита на децата.

• Законът на Калифорния се сравнява с EU AI Act, първия глобален комплексен регламент за ИИ, приет през 2024 г.