Гарантът за защита на данните на Италия, Garante per la Protezione dei Dati Personali (известен като Garante), е наложил временна забрана върху услугата ChatGPT на OpenAI в страната, като цитира опасения относно защитата на данните.

В тази връзка, той е заповядал на компанията да прекрати незабавно обработката на данните на потребителите, като заявява, че намерението му е да разследва компанията за това дали незаконно обработва такива данни в нарушение на правилата на Общия регламент за защита на данните (GDPR) на ЕС.

„Не се предоставя информация на потребителите и субектите на данни, чиито данни са събрани от Open AI“, отбелязва Garante. „Още по-важно е, че изглежда няма правна основа, върху която да се основава масовото събиране и обработване на лични данни за „трениране“ на алгоритмите, от които платформата зависи.“

ChatGPT, която се оценява да е достигнала над 100 милиона месечно активни потребители от излизането си в края на миналата година, не е разкрила какво е използвала за обучение на най-новия си голям езиков модел (LLM), GPT-4, или как го е обучила.

Въпреки това, нейният предшественик GPT-3 използва текст, източен от книги, Уикипедия и Common Crawl, който поддържа „отворен репозиториум на данни за уеб краулинг, на който всеки може да има достъп и да ги анализира“.

Гарантът е насочил внимание и към липсата на система за проверка на възрастта, която да предотврати достъпа на непълнолетни до услугата и да ги изложи на „неподходящи“ отговори. Собственият чатбот на Google, наречен Bard, е достъпен само за потребители над 18 години.

Освен това, регулаторът повдига въпроси за точността на информацията, която предоставя ChatGPT, като подчертава и нарушение на данните, което услугата претърпя по-рано този месец и което изложи на риск имената на някои потребители и информация, свързана с плащанията.

В отговор на заповедта, OpenAI блокира своя генеративен AI чатбот за потребители с италиански IP адрес. Компанията също така заяви, че ще възстанови суми  на абонатите на ChatGPT Plus, освен това ще  спре подновяването на абонаментите.

Компанията със седалище в Сан Франциско подчерта още, че предоставя ChatGPT в съответствие с GDPR и други закони за поверителност. ChatGPT вече е блокиран в Китай, Иран, Северна Корея и Русия.

В изявление, споделено с Reuters, OpenAI заяви, че активно работи по „намаляването на личните данни при обучението на нашите AI системи като ChatGPT, защото искаме нашата AI да научи за света, а не за конкретни личности.“

OpenAI има 20 дни да уведоми Garante за мерките, които е предприела, за да бъде в съответствие, или да се изложи на глоби в размер до 20 милиона евро или 4% от общия световен годишен оборот, който е по-голям.

Въпреки това, забраната не се очаква да окаже влияние върху приложенията на други компании, които използват технологията на OpenAI, за да подобрят своите услуги, включително търсачката Bing на Microsoft и неговите предложения Copilot.

Развитието идва в момент, в който Европол предупреди, че големите езикови модели като ChatGPT е  вероятно да помогнат за генериране на зловреден код, да улеснят измамите и да „предложат на престъпниците нови възможности, особено за престъпления, свързани със социален инженеринг, имайки предвид неговите способности да отговаря на съобщения в контекста и да приема конкретен стил на писане.“

Това не е първият път, когато компании, фокусирани върху изкуствен интелект, попадат в полезрението. Миналата година  фирмата за разпознаване на лица Clearview AI беше глобена от няколко европейски регулатора за сканиране на публично достъпни снимки на потребители без съгласието им, за да обучи своята система за съвпадение на идентичност.

Тя също е нарушила законите за защита на личните данни в Австралия, Канада и САЩ, като няколко държави наредиха на компанията да изтрие всички данни, които е получила по този начин.

Clearview AI заяви на BBC News миналата седмица, че е извършила почти милион търсения за американските правоохранителни органи, въпреки че е има  забрана да продава и предоставя базата си от лица в страната.