Meta обяви нови мерки за защита на непълнолетни потребители, които ще позволят на родителите да изключват достъпа на своите деца до лични разговори с ИИ персонажи и да получават повече информация за темите, които обсъждат. Решението идва на фона на засилени критики към начина, по който ИИ чатботовете взаимодействат с тийнейджъри и възможните рискове за тяхното психично и емоционално здраве.

По-голям родителски контрол и прозрачност

Новите настройки ще дадат възможност на родителите да:

• изключват изцяло личните чатове на децата си с ИИ персонажи;

• блокират конкретни ИИ герои, с които не желаят тийнейджърите да общуват;

• следят какви теми се обсъждат в тези разговори, включително взаимодействия с Meta AI асистента.

„Технологията никога няма да замени критичното мислене, реалните връзки и човешкото общуване – и това не е нашата цел“, заявиха Адам Мосери, ръководител на Instagram, и Александър Уанг, Chief AI Officer на Meta.

Двамата подчертаха, че ИИ може да допълва традиционните методи на обучение и личностно развитие, но само ако са налице подходящи възрастови ограничения и защити.

Постепенно внедряване и съществуващи защити

Контролите ще бъдат въведени първо в Instagram в началото на следващата година, като ще стартират на английски език в САЩ, Великобритания, Канада и Австралия.

Meta вече е въвела и други защити:

• отговорите на ИИ за тийнейджъри се ограничават до съдържание, съответстващо на рейтинг PG-13;

• „тийн акаунтите“ по подразбиране имат достъп само до безопасно съдържание;

• ИИ персонажите, достъпни за младежи, са ограничени до теми, подходящи за тяхната възраст.

Използване на ИИ за откриване на заобикаляне на системата

Компанията признава, че някои тийнейджъри се опитват да се представят за пълнолетни, за да заобиколят ограниченията. За това Meta ще използва собствени алгоритми за откриване на подозрителни профили и автоматично ще прилага съответните защити.

Контекст: нарастваща тревога за ИИ и децата

Новината идва на фона на засилено обществено внимание към ефектите на ИИ върху непълнолетни. През октомври 13-годишно момче от Флорида бе арестувано, след като попитало ChatGPT как да убие свой приятел. В отделен случай майка заведе дело срещу Character.AI, твърдейки, че чатботовете на платформата са повлияли върху самоубийството на нейния 14-годишен син.

Meta подчертава, че нейните ИИ модели не участват в разговори по чувствителни теми, а насочват потребителите към специализирани ресурси и помощ.