OpenAI съобщи във вторник, че е блокирал няколко ChatGPT акаунта, свързани със заподозрени китайски държавни структури, след като потребителите са поискали предложения за наблюдение на социални медии.

В последния си публичен доклад за заплахите, OpenAI отбеляза, че някои индивиди са искали от чатбота да очертае инструменти за социално „слушане“ и други концепции за мониторинг, което нарушава политиката на компанията за национална сигурност.

ИИ и международната безопасност

Компанията, базирана в Сан Франциско, подчертава опасения за потенциална злоупотреба с генеративен ИИ на фона на нарастващата конкуренция между САЩ и Китай за определяне на правилата и развитието на технологията.

OpenAI също така е блокирала няколко акаунта на китайски език, които са използвали ChatGPT за подпомагане на фишинг и злонамерен софтуер, както и за изследване на допълнителни автоматизации чрез проекта DeepSeek на Китай.

Китайското посолство в САЩ все още не е отговорило на искането за коментар.

Блокирани акаунти и руски заплахи

Освен това, OpenAI е блокирала акаунти, свързани с рускоговорящи престъпни групи, които са използвали чатбота за разработка на определен зловреден софтуер.

Компанията, подкрепяна от Microsoft, е разкрила и съобщила повече от 40 мрежи, откакто започна публичното си докладване за заплахи през февруари миналата година. Моделите на OpenAI отказват да изпълняват открито злонамерени заявки.

„Не открихме доказателства за нови тактики или че моделите ни са предоставили на заплахите нови офанзивни възможности“, се казва още в доклада.

OpenAI, с над 800 милиона седмични потребители на ChatGPT, се превърна в най-ценния стартъп в света с оценка от 500 милиарда долара, след като миналата седмица приключи вторична продажба на акции.