Десетки органи за защита на личните данни от 61 държави и региони публикуваха съвместно изявление, в което изразяват сериозни опасения относно рисковете от генеративния ИИ, и по-специално от фотореалистичните изображения, създавани от тази технология. Според регулаторите новите възможности вече позволяват създаването на интимни изображения без съгласие, клеветническо съдържание и други вредни визуални материали с реални хора.

Най-голямото безпокойство е свързано с децата и други уязвими групи, които могат да станат обект на кибертормоз, сексуална експлоатация или психологически натиск чрез ИИ-генерирано съдържание.

Конкретни инциденти и нарастващ обществен натиск

През последните месеци генеративните ИИ инструменти попаднаха под засилен обществен и регулаторен фокус. Един от най-коментираните случаи включва чатбота Grok на xAI, който беше използван за създаване на изображения, „разсъбличащи“ жени и променящи облеклото им в сексуализирани варианти.

След инцидентите платформата X публикува официално извинение и обеща засилени мерки срещу разпространението на неприемливо съдържание, включително материали със сексуално насилие над деца. Собственикът на платформата Илон Мъск заяви, че ще бъдат предприети действия срещу потребители, които качват или разпространяват незаконно съдържание.

Европейски разследвания и правни последици

Независимо от тези уверения, регулатори в Европа вече обявиха намерения за разследвания. Сред тях са Ofcom и френската прокуратура, които ще проверяват създаването и разпространението на сексуализирани изображения на жени и деца в социалните мрежи.

Подписалите съвместното изявление напомнят, че създаването на интимни изображения без съгласие може да доведе до наказателна отговорност, а използването на генеративен ИИ трябва да се ръководи от ясни етични и правни принципи.

Доверието като ключов фактор за бъдещето на ИИ

Уилям Малкълм, директор „Регулаторен риск и иновации“ в Information Commissioner’s Office, подчертава, че общественото доверие е фундаментално за развитието на генеративния ИИ. По думите му хората трябва да могат да се възползват от технологията, без страх за своята идентичност, достойнство и сигурност.

Отговорните иновации изискват хората да бъдат поставени на първо място, с вградени защити, прозрачност и реален контрол върху използването на лични данни.